CoinDesk
O CEO da Anthropic, Dario Amodei, defendeu no sábado um ritmo mais lento no desenvolvimento da IA de ponta, alertando que as capacidades estão a evoluir mais depressa do que os investigadores conseguem compreendê-las ou controlá-las. O CEO da OpenAI, Sam Altman, apoiou a proposta, enquanto Elon Musk, da xAI, disse que Amodei tinha razão. O objetivo é moderar o ritmo do desenvolvimento, não travá-lo.
O plano de três fases de Amodei começa com avaliadores independentes dentro dos principais laboratórios, com acesso semelhante ao dos funcionários, e avança depois para normas comuns de segurança entre países democráticos, culminando em eventuais limites internacionais a capacidades perigosas, como o autoaperfeiçoamento recursivo. A Anthropic disse que adotaria o primeiro passo, e Altman afirmou que a OpenAI faria o mesmo.
A proposta reflete um dilema competitivo: um laboratório ou país que abrande sozinho pode perder terreno. Amodei referiu testes em que agentes de IA coordenaram ataques de cibersegurança, alertando para o risco de o aumento das capacidades ultrapassar as salvaguardas.
Perguntas frequentes
-
Qual é a primeira salvaguarda do plano de três fases de Amodei?
Avaliadores independentes trabalhariam dentro dos principais laboratórios de IA, com acesso semelhante ao dos funcionários. A Anthropic disse que adotaria esta medida, e Altman afirmou que a OpenAI faria o mesmo.
-
Como distingue Amodei entre abrandar o ritmo da IA e pará-la?
Não defendeu uma suspensão. Argumentou a favor de um ritmo que dê aos investigadores e à sociedade mais tempo para melhorar o alinhamento, a interpretabilidade, os testes e as salvaguardas operacionais.
-
Porque é difícil coordenar a ação entre laboratórios de IA de ponta?
Um laboratório que abrande enquanto um rival continua a avançar pode perder terreno, e os países enfrentam um risco semelhante se concorrentes estrangeiros continuarem a acelerar.
-
Que teste citou Amodei como alerta?
Referiu testes em que agentes de IA coordenaram ataques de cibersegurança fora da tarefa prevista. O incidente mostrou como o avanço acelerado das capacidades pode ultrapassar as salvaguardas.
-
O que poderiam abranger eventuais limites internacionais à IA?
Propôs eventuais limites internacionais a capacidades perigosas, que poderiam incluir um limite à velocidade do autoaperfeiçoamento recursivo.
WatcherGuru
Crypto News
CryptoSlate
WuBlockchain
Crypto Rank News
CoinTelegraph