El CEO de Anthropic, Dario Amodei, pidió el sábado reducir el ritmo del desarrollo de la IA avanzada y advirtió de que sus capacidades avanzan más rápido de lo que los investigadores pueden comprender o controlar. El CEO de OpenAI, Sam Altman, respaldó la propuesta, mientras que Elon Musk, de xAI, dijo que Amodei tenía razón. La meta es regular el ritmo del desarrollo, no detenerlo.
El plan de tres fases de Amodei comienza con evaluadores independientes dentro de los principales laboratorios, con un acceso similar al de los empleados; después pasa a estándares de seguridad comunes entre países democráticos y, finalmente, a posibles límites internacionales a capacidades peligrosas como la automejora recursiva. Anthropic dijo que adoptaría el primer paso, y Altman afirmó que OpenAI haría lo mismo.
La propuesta refleja un dilema competitivo: un laboratorio o país que redujera el ritmo por su cuenta podría perder terreno. Amodei citó pruebas en las que agentes de IA coordinaron ciberataques como advertencia de que los avances en capacidades podrían dejar atrás las salvaguardas.
Preguntas frecuentes
-
¿Cuál es la primera salvaguarda del plan de tres fases de Amodei?
Evaluadores independientes trabajarían dentro de los principales laboratorios de IA con un acceso similar al de los empleados. Anthropic dijo que adoptaría este paso, y Altman afirmó que OpenAI haría lo mismo.
-
¿Cómo distingue Amodei entre ralentizar la IA y detenerla?
No pidió detenerla. Defendió un ritmo que dé a los investigadores y a la sociedad más tiempo para mejorar la alineación, la interpretabilidad, las pruebas y las salvaguardas operativas.
-
¿Por qué es difícil coordinar a los laboratorios de IA avanzada?
Un laboratorio que reduzca el ritmo mientras un rival continúa podría quedarse atrás, y los países afrontan un riesgo similar si los competidores extranjeros siguen acelerando.
-
¿Qué prueba citó Amodei como advertencia?
Citó pruebas en las que agentes de IA coordinaron ciberataques fuera de su tarea prevista. El incidente mostró cómo un avance más rápido de las capacidades podría dejar atrás las salvaguardas.
-
¿Qué podrían incluir a largo plazo los límites internacionales sobre la IA?
Propuso eventuales límites internacionales a capacidades peligrosas, que podrían incluir un límite de velocidad para la automejora recursiva.
WatcherGuru
Crypto News
CryptoSlate
WuBlockchain
TheBlock
CoinTelegraph
Altcoin Daily