A possibilidade de uma inteligência artificial causar a extinção humana voltou a ser discutida após uma declaração de Evan Hubinger, chefe de alinhamento da Anthropic. Em uma publicação no X, ele afirmou acreditar que existe 10% de chance de a IA exterminar a raça humana.
A avaliação, porém, é subjetiva e considera uma tecnologia que ainda não existe. Além disso, há uma distância significativa entre uma ferramenta capaz de projetar um vírus em um computador e uma situação que levasse à morte de 8 bilhões de pessoas. Especialistas afirmam que o cenário não é impossível, mas o consideram improvável.
Vírus e modelos atuais
Uma das hipóteses debatidas envolve uma futura superinteligência capaz de criar um vírus devastador. As ferramentas de IA voltadas à biologia avançaram e já há modelos que projetam vírus funcionais para infectar bactérias. Esse desenvolvimento é apontado como um possível fator de aumento do risco de armas biológicas.
Os experimentos, contudo, exigiram cientistas de elite, laboratórios avançados, recursos significativos e centenas de testes. Os modelos disponíveis atualmente ainda não conseguem criar vírus capazes de infectar humanos.
David Bellamy, do Instituto de Modelos Fundamentais, responsável pela criação do modelo K2 Horizon, afirmou no X que provavelmente está entre as poucas pessoas que já treinaram um modelo de ponta e desenvolveram vírus personalizados com seu auxílio. Para ele, a ameaça descrita por algumas pessoas é “uma farsa completa”.
A discussão, portanto, reúne riscos associados ao avanço da IA e previsões sobre uma tecnologia futura. O texto de Bellamy também afirma que o problema não é criar o vírus, mas a fonte não apresenta a continuação dessa avaliação.
