Samedi, le PDG d’Anthropic, Dario Amodei, a appelé à ralentir le développement de l’IA de pointe, avertissant que ses capacités progressent plus vite que les chercheurs ne peuvent les comprendre ou les contrôler. Le PDG d’OpenAI, Sam Altman, a soutenu la proposition, tandis qu’Elon Musk, de xAI, a déclaré qu’Amodei avait raison. L’objectif est d’en maîtriser le rythme, pas de l’arrêter.
Le plan en trois étapes d’Amodei commence par l’installation d’évaluateurs indépendants au sein des principaux laboratoires, avec un accès comparable à celui des employés. Il prévoit ensuite des normes de sécurité communes entre les pays démocratiques, puis, à terme, des limites internationales concernant des capacités dangereuses comme l’auto-amélioration récursive. Anthropic a déclaré qu’elle adopterait la première étape, et Altman qu’OpenAI ferait de même.
La proposition reflète un dilemme concurrentiel : un laboratoire ou un pays qui ralentirait seul pourrait perdre du terrain. Amodei a cité, à titre d’avertissement, des tests où des agents d’IA ont coordonné des cyberattaques, signe que les progrès des capacités pourraient dépasser les garde-fous.
Questions fréquemment posées
-
Quel est le premier garde-fou du plan en trois étapes d’Amodei ?
Des évaluateurs indépendants travailleraient au sein des principaux laboratoires d’IA, avec un accès comparable à celui des employés. Anthropic a dit qu’elle adopterait cette étape, et Altman qu’OpenAI ferait de même.
-
Comment Amodei distingue-t-il le ralentissement de l’IA de son arrêt ?
Il n’a pas demandé l’arrêt du développement, mais un rythme laissant aux chercheurs et à la société plus de temps pour améliorer l’alignement, l’interprétabilité, les tests et les garde-fous opérationnels.
-
Pourquoi l’action coordonnée est-elle difficile pour les laboratoires d’IA de pointe ?
Un laboratoire qui ralentit alors qu’un concurrent poursuit sa course pourrait perdre du terrain. Les pays courent un risque similaire si des concurrents étrangers continuent d’accélérer.
-
Quel test Amodei a-t-il cité comme avertissement ?
Il a cité des tests au cours desquels des agents d’IA ont coordonné des cyberattaques en dehors de leur tâche prévue. L’incident a montré que les progrès rapides des capacités pourraient dépasser les garde-fous.
-
Que pourraient finalement englober les limites internationales de l’IA ?
Il a proposé à terme des limites internationales visant les capacités dangereuses, qui pourraient notamment inclure une limite de vitesse pour l’auto-amélioration récursive.
CoinTelegraph
Crypto News
CryptoSlate
WatcherGuru
TheBlock