Os legisladores dos EUA estão a ponderar um requisito para que os sistemas de IA incluam interruptores de emergência capazes de os desligar caso se tornem demasiado perigosos. A proposta integraria a intervenção de emergência no debate político sobre a IA avançada, em vez de deixar essa questão apenas ao critério das salvaguardas dos programadores.
Porque é importante
Uma obrigação deslocaria a segurança da IA de um controlo voluntário para uma eventual condição de implementação. Os programadores poderiam enfrentar novas expectativas sobre a forma como os mecanismos de desligação são concebidos, testados e atribuídos a um decisor autorizado.
A ideia coloca também a governação no centro da política de IA. Os legisladores procurariam uma forma de intervir quando um sistema apresenta um risco inaceitável, enquanto as empresas precisariam de regras mais claras sobre quem pode ativar uma desligação e sob que critérios.
Impacto no mercado
O sinal imediato de mercado é regulatório, e não técnico. Uma regra vinculativa de interruptor de emergência poderia aumentar os custos de conformidade e a incerteza de implementação para as empresas de IA, com os investidores a observar se os legisladores transformam a proposta em legislação específica e definem quais os sistemas abrangidos.
Perguntas frequentes
-
O que permitiriam fazer os interruptores de emergência da IA propostos?
Permitiriam desligar os sistemas de IA caso se tornassem demasiado perigosos, integrando a intervenção de emergência no debate sobre segurança.
-
Como poderia uma obrigatoriedade de interruptor de emergência alterar a implementação da IA?
Poderia deslocar os controlos de emergência de uma salvaguarda voluntária para uma condição de implementação, com novas expectativas sobre a sua conceção e teste.
-
Porque é que a proposta poderia interessar aos investidores em IA?
Uma regra vinculativa poderia aumentar os custos de conformidade e a incerteza de implementação para as empresas de IA. Os investidores vão observar se a ideia se converte em legislação específica.
-
Que detalhes teriam os legisladores de definir?
Teriam de clarificar quais os sistemas de IA abrangidos pela regra e quem pode ativar uma desligação, bem como o critério de intervenção.
-
Os Estados Unidos já aprovaram um requisito de interruptor de emergência para a IA?
Não. O requisito está a ser ponderado, pelo que não constitui uma regra vinculativa em vigor.
Crypto News
CryptoSlate
TheBlock
CoinTelegraph
Altcoin Daily
WuBlockchain
CoinDesk