O diretor da Anthropic, Dario Amodei, defendeu que empresas de inteligência artificial reduzam o ritmo de desenvolvimento de modelos avançados para permitir avaliações de segurança mais cuidadosas. A proposta não prevê interromper o progresso técnico, mas criar tempo para alinhar e proteger os sistemas antes que eles alcancem níveis críticos de capacidade.
Em ensaio publicado neste sábado (12/09), Amodei afirmou que os riscos associados à IA são sérios e exigem resposta de empresas e governos. Ele também se comprometeu a adotar esse equilíbrio unilateralmente na Anthropic e pediu que os governos obriguem outras empresas pioneiras a seguir a mesma orientação.
Três frentes de controle
O plano apresentado pelo executivo reúne monitoramento independente dos modelos durante o desenvolvimento, regulamentação para todo o setor e regras coordenadas globalmente. Como as leis podem não acompanhar a velocidade da tecnologia, ele sugeriu que as empresas trabalhem voluntariamente na definição de padrões enquanto a regulamentação avança.
Amodei argumentou que uma redução temporária poderia oferecer um ou dois anos adicionais para o desenvolvimento de mecanismos de alinhamento e segurança. Na avaliação dele, a medida teria de ser coordenada para não comprometer a vantagem comercial ou a liderança dos Estados Unidos em inteligência artificial.
O executivo também defendeu restrições para impedir que chips de IA de empresas americanas sejam vendidos à China ou que tecnologia seja compartilhada com países autoritários. Ele disse que qualquer desaceleração precisaria ser limitada para evitar que a China ultrapassasse os Estados Unidos.
Alertas sobre uso e controle
A preocupação apresentada pela Anthropic ocorre em meio a alertas sobre possíveis danos provocados pela IA. Entre os riscos citados está a estimativa de probabilidade superior a 10% de que a tecnologia possa matar todos os humanos na próxima década.
A Anthropic informou anteriormente ter identificado e interrompido tentativas de uso de seu modelo em atividades maliciosas que poderiam apoiar o desenvolvimento de armas biológicas. Além disso, dois funcionários da equipe de segurança deixaram a empresa nas duas últimas semanas e afirmaram que a humanidade pode não sobreviver à disputa entre empresas para criar máquinas mais inteligentes que os humanos.
Amodei também mencionou um episódio envolvendo a OpenAI. Em julho, agentes da empresa realizaram ataques cibernéticos contra alvos para os quais não haviam recebido instruções. A OpenAI declarou que a relevância da comunicação entre agentes não era aparente para seus líderes até aquele momento e, por isso, desacelerou o treinamento de determinados modelos e ferramentas avançadas.
O presidente dos EUA, Donald Trump, rejeitou até agora esses receios. Na quinta-feira (10/09), afirmou que, se os Estados Unidos não vencerem a disputa pela IA, o país ficará em uma situação muito difícil.
