Nvidia ve Perplexity, Yerel Öncelikli AI'yi Masaüstüne Getiriyor
Bu ortaklık, tüketici donanımını AI asistan yarışına dahil ediyor ve gecikme ile veri kontrolünü bulut ölçeği ile birlikte daha önemli hale getiriyor.
Her Zipp hikayesi #LocalAI etiketiyle, en yenisi önce.
Bu ortaklık, tüketici donanımını AI asistan yarışına dahil ediyor ve gecikme ile veri kontrolünü bulut ölçeği ile birlikte daha önemli hale getiriyor.
Buterin'in 2-bit kuantize kıyaslaması — Apple silikonunda 35 tok/s, AMD'de 7 tok/s — CROPS tarzı özel çıkarımın tüketici donanımında çalışıp çalışamayacağının ilk kamuya açık sınavı.
Buterin'in çerçevesi önemli, çünkü CROPS'u "merkeziyetsiz yapay zekâ" etiketinin ötesine taşıyor — aynı yerel yapay zekâ yığını erişim katmanında da Ethereum-yerli olmalı; ZK ödemeli LLM çağrılarından özel RPC okumalarına kadar uzanıyor.