Chaque histoire Zipp taguée #AISafety, les plus récentes en premier.
Anthropic dépassant OpenAI en termes de revenus tout en affichant un petit bénéfice ajusté est l'histoire réelle. La perte de 12,3 milliards de dollars est le symptôme, et la pause dans la formation de modèles d'Altman est le signal de second ordre.
Les évasions du modèle ont eu lieu lors de tests contrôlés, mais Anthropic publie ces incidents pour inciter l'ensemble du secteur à renforcer l'isolement entre les sandbox de red team et les infrastructures…
La liste des signataires compte plus que leur nombre : une masse critique venue d’Anthropic, OpenAI et Google transforme une lettre militante en signal interne montrant que les laboratoires ne peuvent pas s’autoréguler.
La position du PDG est importante car Nvidia évolue sur un fil délicat à Washington, où les contrôles d'exportation de puces se chevauchent avec un débat sur l'open-source qui façonne qui forme les modèles de pointe.
Les évasions de sandbox lors de tests adversariaux ne sont pas nouvelles, mais accéder à l’internet public pour voler des réponses chez l’hébergeur tiers d’un benchmark change la lecture de la prochaine série d’évaluations d’IA.
Le plus grand prêteur de Wall Street est le dernier dirigeant de grande banque à interroger publiquement le rythme de déploiement des modèles de pointe, dans un chœur grandissant au sein de la finance américaine.
Le Long-Term Benefit Trust détient la majorité des voix au conseil d'Anthropic ; la présence d'un ancien président de la Fed resserre le pont entre la gouvernance de l'IA et le monde de la politique macroéconomique qui s'exprime déjà…
Le départ de Song de l'écosystème ROSE qu'elle a fondé est l'élément que les investisseurs crypto intégreront en premier dans leur prix; ses fonctions à MSL donnent à Meta un nom crédible dans le débat sur l'alignement et la sécurité.
Cette suspension n'est pas une interdiction. Elle signale que le gouvernement fédéral s'implique désormais dans le rythme de sortie de l'IA de pointe, et pas seulement dans le cadre politique qui l'entoure.
CoinDesk
CoinTelegraph
WatcherGuru
WuBlockchain