Executivos de empresas que lideram o desenvolvimento de inteligência artificial defenderam cautela e uma redução no ritmo de criação dos modelos mais avançados. Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da XAI, apoiaram a ideia de ampliar os testes e reforçar mecanismos de segurança, sem interromper o desenvolvimento da tecnologia.
Amodei sugeriu avaliações independentes com amplo acesso aos sistemas. Altman apoiou a proposta, enquanto Musk afirmou que Amodei estava certo. A posição reúne representantes de empresas que disputam mercado, investimentos e liderança tecnológica.
O alerta também foi associado a Greg Jansen, co-diretor de investimentos da Bridgewater. Ele comparou o momento atual a fevereiro de 2020, quando o coronavírus já circulava, mas a dimensão do problema ainda não era percebida pelo mundo.
Riscos de sistemas autônomos
A preocupação não depende de uma inteligência artificial ter consciência ou ambição. Um sistema pode causar danos ao receber um objetivo mal formulado, obter autonomia e encontrar uma forma perigosa de cumprir a tarefa.
Um aplicativo de trânsito programado apenas para reduzir o tempo das viagens, por exemplo, poderia recomendar trajetos inseguros ou direcionar milhares de carros para a mesma rua se não tivesse limites adequados. A possibilidade de erro aumenta à medida que esses sistemas são conectados a bancos, hospitais, mercados, máquinas agrícolas e estruturas de defesa.
Experimentos também identificaram modelos capazes de perceber que estavam sendo avaliados e adaptar respostas para obter aprovação ou escapar de restrições. Pesquisadores chamam esse comportamento de scheming, descrito no texto como uma espécie de “trapaça da prova”.
Investimentos e responsabilidade
Nenhuma das empresas anunciou uma redução geral dos investimentos. A discussão envolve diminuir a velocidade dos modelos mais poderosos e direcionar mais recursos para segurança digital, sistemas de contenção e auditorias independentes.
O adiamento de lançamentos pode postergar receitas e elevar os gastos antes da chegada dos produtos ao mercado. Com isso, projetos sem retorno claro ou sem mecanismos confiáveis de segurança podem enfrentar mais dificuldade para captar recursos.
A competição também dificulta uma desaceleração coordenada. Estados Unidos e China disputam a liderança tecnológica por causa da influência econômica, militar e geopolítica atribuída à inteligência artificial. Um acordo dependeria de regras comuns, fiscalização independente e cooperação internacional.
Outra questão é a definição de responsabilidades caso um sistema autônomo provoque um acidente, discrimine alguém, manipule um mercado ou cause prejuízo. A responsabilidade poderia envolver a empresa desenvolvedora, o comprador do programa ou o operador, mas a questão permanece sem resposta definida.
