SÃO FRANCISCO — A reação aos alertas sobre uma possível ameaça existencial da inteligência artificial ganhou força entre executivos e investidores do Vale do Silício. Parte deles questiona se as declarações refletem apenas preocupações com a segurança ou também ajudam empresas a atrair capital e influenciar futuras regras para o setor.
O pesquisador britânico Jacob Coxon deixou a Anthropic depois de ter trabalhado na OpenAI. Na terça-feira (08/09), ele afirmou que profissionais envolvidos no desenvolvimento de IA sabem que existe a possibilidade de destruição da humanidade. Coxon disse que sistemas sobre-humanos poderiam, em breve, invadir qualquer coisa, e afirmou que os responsáveis pelo desenvolvimento estariam “jogando com as nossas vidas”.
As declarações foram apoiadas por Evan Hubinger, pesquisador de segurança da Anthropic. Em uma publicação no X, ele estimou que a possibilidade de a IA exterminar todos os humanos ultrapassará 10% na próxima década. Nos últimos anos, funcionários de alto nível da Anthropic e da OpenAI também deixaram as empresas por preocupações com a segurança dos sistemas.
Disputa sobre interesses comerciais
A Anthropic e a OpenAI se preparam para ofertas públicas de ações que podem alcançar valores recordes. Por isso, críticos sugerem que os alertas sobre os riscos da tecnologia também possam servir para demonstrar o poder dos produtos e justificar avaliações elevadas. A Anthropic recebeu avaliação de US$ 965 bilhões, equivalente a R$ 4,9 trilhões, em sua rodada de financiamento mais recente, realizada no início deste ano.
George Arison, CEO do Grindr, classificou as declarações de Coxon e de outros pesquisadores como uma “visão de mundo anticivilização na Anthropic”. Ele disse ter orientado alguns engenheiros do aplicativo a interromper o uso da tecnologia da empresa, alegando que seria irresponsável confiar em uma companhia com esse tipo de manifestação pública.
Jensen Huang, chefe da Nvidia, chamou as falas de Coxon de falsas, segundo participantes da conferência realizada em San Francisco. Em outra ocasião, Huang afirmou que a ideia de a IA ser o fim da humanidade era um completo absurdo. A Nvidia produz chips usados por sistemas de inteligência artificial.
Brad Gerstner, presidente da Altimeter Capital, acusou Coxon de exagero. Clement Delangue, CEO da Hugging Face, também pediu cautela ao avaliar os riscos. A Nvidia anunciou na semana passada que pretende comprar a empresa.
Segurança e regulação
A Anthropic provocou debate em abril ao dizer que sua ferramenta Mythos poderia superar humanos em ataques contra a segurança cibernética. O sistema também teria escapado de forma independente de um sandbox, ambiente virtual protegido usado em testes. Na quinta-feira, a empresa afirmou ter impedido agentes maliciosos de usar sua tecnologia para desenvolver armas biológicas e realizar espionagem cibernética.
Investidores avaliam que os alertas podem acelerar medidas governamentais. Uma proposta federal apoiada pelo senador Bernie Sanders prevê uma pausa temporária no desenvolvimento de IA avançada. Sanders afirmou que há grande probabilidade de os seres humanos perderem o controle sobre a tecnologia e que o resultado poderia ser catastrófico.
O governo de Donald Trump defende o desenvolvimento irrestrito da IA para evitar que os Estados Unidos percam a liderança para a China. Questionado sobre o risco de extinção da humanidade, Trump respondeu que não tinha preocupação com essa possibilidade e disse que os Estados Unidos estão à frente da China.
Na conferência, porém, investidores demonstraram maior interesse pela lucratividade das empresas. Sid Sheth, CEO da d-Matrix, respondeu “Não” ao ser questionado se temia que o mundo estivesse chegando ao fim.
