Evan Hubinger, líder de Alignment Science da Anthropic, concordou publicamente com parte da avaliação feita por Jacob Coxon sobre os riscos do avanço dos sistemas de inteligência artificial. A manifestação ocorreu depois de Coxon anunciar sua saída da empresa e criticar também o caminho seguido pela OpenAI, onde trabalhou anteriormente.
Coxon afirma que cientistas e executivos envolvidos diretamente na criação dessas tecnologias levam a possibilidade de uma catástrofe a sério. De acordo com o pesquisador, algumas dessas pessoas consideram que uma inteligência artificial suficientemente avançada poderia, em determinadas circunstâncias, representar uma ameaça existencial à humanidade ainda nesta década.
Para ele, o tom mais moderado adotado em declarações públicas não mostra necessariamente o grau de preocupação discutido dentro dos laboratórios. A avaliação se relaciona à possibilidade de desenvolvimento de uma superinteligência autoaperfeiçoável, capaz de avançar sem que seus riscos estejam suficientemente controlados.
Pesquisador britânico de 27 anos, Coxon passou os últimos três anos trabalhando com o pré-treinamento de modelos de IA. Em uma publicação no X, afirmou que Anthropic e OpenAI continuam avançando porque temem que concorrentes alcancem primeiro resultados mais avançados.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente para uma superinteligência autoaperfeiçoável e apostando com nossas vidas”, escreveu Coxon.
A saída da Anthropic marca o novo posicionamento público do pesquisador, que passou a questionar a direção adotada pelos dois laboratórios na disputa pelo desenvolvimento de sistemas cada vez mais poderosos.
