Nvidia et Perplexity apportent l’IA locale aux PC
Ce partenariat fait entrer le matériel grand public dans la course aux assistants IA, en rendant la latence et le contrôle des données aussi importants que l’échelle du cloud.
Chaque histoire Zipp taguée #LocalAI, les plus récentes en premier.
Ce partenariat fait entrer le matériel grand public dans la course aux assistants IA, en rendant la latence et le contrôle des données aussi importants que l’échelle du cloud.
Le benchmark 2 bits quantifié de Buterin — 35 tok/s sur silicium Apple, 7 tok/s sur AMD — est le premier test public permettant de savoir si l'inférence privée de type CROPS peut tourner sur du matériel grand public.
La grille de lecture de Buterin compte parce qu'elle pousse CROPS au-delà du simple label "IA décentralisée" — la même pile d'IA locale devrait aussi être native d'Ethereum au niveau de la couche d'accès, des appels LLM payés en ZK aux lectures…