Cada historia de Zipp etiquetada como #LocalAI, las más nuevas primero.
La alianza incorpora el hardware de consumo a la carrera de los asistentes de IA y hace que la latencia y el control de los datos cobren más importancia junto con la escala de la nube.
El benchmark de Buterin con cuantización de 2 bits — 35 tok/s en silicio de Apple, 7 tok/s en AMD — es la primera prueba pública de si la inferencia privada estilo CROPS puede ejecutarse en hardware de consumo.
El encuadre de Buterin importa porque lleva a CROPS más allá de la etiqueta de "IA descentralizada": la misma pila de IA local debe ser también nativa de Ethereum en la capa de acceso, desde llamadas LLM pagadas con ZK hasta lecturas RPC privadas…
CoinTelegraph
WuBlockchain