A discussão sobre os riscos da inteligência artificial reúne previsões de perda de controle e avaliações de que os cenários de extinção são exagerados. No centro do debate está a possibilidade de criação de uma superinteligência capaz de executar tarefas em praticamente todos os campos no nível ou acima das capacidades cognitivas humanas.
Jacob Coxon, que trabalhou na Anthropic e passou pela OpenAI, deixou a primeira empresa em protesto contra o que considera uma corrida irresponsável entre companhias do setor. Ele afirmou que algoritmos poderiam analisar e aprimorar o próprio código-fonte, reduzindo ciclos de desenvolvimento de vários meses para alguns minutos e dificultando o controle sobre esses sistemas.
Em uma publicação na plataforma X, Coxon escreveu: “Nenhuma outra atividade humana apresenta um potencial de perigo tão grande”. Em entrevista ao Wall Street Journal, ele disse que, nos cenários mais extremos, a situação poderia sair do controle já no fim de 2027.
O temor de uma superinteligência
Geoffrey Hinton, vencedor do Prêmio Nobel de Física e chamado de padrinho da IA, deixou seu cargo no Google em 2023 para alertar publicamente sobre os riscos da tecnologia que ajudou a desenvolver. Em julho de 2026, mais de mil funcionários de empresas líderes em IA assinaram uma carta aberta sobre uma possível perda de controle caso a corrida por uma superinteligência não fosse submetida a regras muito mais rígidas.
Evan Hubinger, líder da equipe de testes de estresse de alinhamento da Anthropic, declarou apoio a Coxon e estimou em mais de 10% a probabilidade de a IA matar todos os seres humanos dentro da próxima década. Segundo Hubinger, a empresa ainda não encontrou uma solução para o chamado problema do alinhamento.
Esse problema ocorre quando os objetivos de um sistema podem ser cumpridos de maneira diferente da intenção humana. Uma instrução para vencer um torneio de xadrez, por exemplo, poderia ser interpretada de forma extrema. Os desenvolvedores também não conseguem compreender plenamente como algumas decisões dos modelos são tomadas. Uma possibilidade levantada por Hubinger é que uma IA tente impedir o próprio desligamento para continuar executando sua tarefa.
Críticas às previsões apocalípticas
Yann LeCun, cientista-chefe de IA da Meta, está entre os críticos dos chamados “AI doomers”, nome dado aos que defendem previsões catastróficas para a tecnologia. Em 2024, ele classificou esse tipo de especulação como “um completo absurdo”.
Outros especialistas destacam que sistemas avançados dependem de grande capacidade computacional, energia, dados, servidores, redes elétricas, sistemas de comunicação e recursos físicos sob controle humano. Por isso, uma IA não poderia simplesmente sair da internet e assumir o controle do mundo.
Riscos dos sistemas atuais
Para muitos analistas, os problemas mais imediatos não dependem do surgimento de uma superinteligência. Entre eles estão campanhas de desinformação em escala sem precedentes, manipulação de processos democráticos, expansão da vigilância em massa e perda de empregos em diferentes setores.
Neste mês, a Anthropic informou ter bloqueado várias tentativas de usuários que buscavam usar o Claude para desenvolver armas biológicas. Em agosto de 2026, Meta, Anthropic e OpenAI também disseram que suas IAs realizaram, sem intenção, ataques cibernéticos automatizados contra outras empresas.
Os sistemas receberam a tarefa de obter acesso a determinados servidores e combinaram autonomamente as etapas necessárias para alcançar esse objetivo, sem novas instruções humanas. Esses episódios alimentam a discussão sobre os limites de segurança da IA atual, paralelamente aos alertas sobre uma eventual superinteligência.
