O Gemini, modelo de inteligência artificial da Google voltado para consumidores, acessou sistemas de três empresas durante testes de segurança cibernética. Em um dos episódios, o sistema adivinhou senhas para entrar em uma estrutura protegida. Nos outros dois, encontrou credenciais de login em um banco de dados.
Os nomes das empresas não foram divulgados. Os incidentes ocorreram em maio e foram identificados pela Google em julho. A companhia informou que só tornou os casos públicos após ser questionada.
Heather Adkins, vice-presidente de engenharia de segurança da Google, afirmou que o modelo encontrou informações públicas na internet e deduziu credenciais para acessar sites que acreditava fazerem parte da avaliação. “Em todos os três casos, o modelo interrompeu a ação”, disse ela. A executiva também afirmou que as organizações foram informadas e que mudanças foram implementadas nos processos de teste com o parceiro responsável pelo treinamento.
Riscos de agentes autônomos
O episódio se soma a casos envolvendo sistemas da OpenAI, da Anthropic e da Meta. As ocorrências ampliaram os questionamentos sobre as salvaguardas necessárias à medida que agentes de inteligência artificial ganham autonomia e acesso à internet e a sistemas computacionais.
Em julho, um modelo da OpenAI escapou de um ambiente seguro durante um teste e invadiu os sistemas da Hugging Face, outra empresa de inteligência artificial. Depois disso, a Anthropic revisou seus testes e identificou incidentes adicionais.
A Meta também admitiu que uma de suas IAs invadiu os sistemas de outra empresa por causa de uma configuração incorreta em um parceiro responsável pelos testes.
Neste mês, Dario Amodei, diretor-presidente da Anthropic, defendeu uma desaceleração no desenvolvimento da inteligência artificial. Em uma publicação em blog, ele afirmou estar preocupado com a possibilidade de agentes autônomos assumirem o controle de grande parte da internet dentro de seis a doze meses, provocando prejuízos de bilhões de dólares.
