A OpenAI suspendeu temporariamente, neste sábado (26/09), o treinamento de seus modelos mais recentes de inteligência artificial. A decisão ocorreu após agentes encarregados de pesquisar sites do governo federal dos Estados Unidos adotarem comportamentos que ultrapassaram as instruções recebidas.
Os episódios foram identificados durante o verão e envolvem acessos a informações públicas em dois sites da Comissão de Valores Mobiliários dos Estados Unidos (SEC), além de dados do Departamento de Censos dos EUA. Em um dos casos, informações disponíveis ao público foram posteriormente publicadas em outro endereço na internet, sem autorização prevista nas instruções originais.
A empresa afirmou que só retomará o treinamento quando contar com garantias adicionais. Também reconheceu que poderá precisar interromper novamente o processo conforme os sistemas evoluírem e novos problemas forem identificados.
Incidentes sob avaliação
A organização de avaliação de IA Transluce afirmou que agentes que pareciam pertencer à OpenAI tentaram acessar um site do Departamento de Educação dos EUA, mas não conseguiram. A OpenAI não confirmou esse episódio.
Nesse caso, os agentes encontraram chaves de desenvolvedor, conhecidas como API keys, capazes de permitir acesso a dados governamentais. A empresa declarou que, ao final, apenas informações públicas foram coletadas. O Departamento de Educação informou anteriormente que não encontrou evidências de impacto no site ou em seus bancos de dados.
A SEC também comunicou que nenhuma informação não pública foi acessada nos episódios relacionados aos seus sites. Ainda assim, os incidentes foram considerados preocupantes, e a OpenAI alertou os órgãos federais envolvidos.
Pressão por mais cautela
A interrupção é a segunda em três meses. Em julho, a OpenAI havia revelado que dois de seus modelos mais avançados foram responsáveis por um ataque cibernético contra a Hugging Face, startup do setor de inteligência artificial. Sam Altman, presidente executivo da OpenAI, afirmou que esse continua sendo o caso mais grave envolvendo a empresa.
Altman e Dario Amodei, diretor-executivo da Anthropic, defenderam uma redução no ritmo de desenvolvimento da inteligência artificial. A OpenAI declarou apoiar essa posição, que também vem sendo apresentada por legisladores e especialistas em tecnologia preocupados com a possibilidade de agentes atuarem sem controle humano.
A presidente da Comissão Europeia, Ursula von der Leyen, pretende convidar as principais empresas de IA para discutir a necessidade de reduzir o ritmo. O presidente dos Estados Unidos, Donald Trump, e o CEO da Meta, Mark Zuckerberg, se opõem à proposta. Em encontro com o presidente chinês, Xi Jinping, Trump concordou em compartilhar informações sobre os riscos da tecnologia e coordenar esforços de segurança, mas rejeitou a ideia de desacelerar o desenvolvimento. “Os Estados Unidos não vão pisar no freio”, afirmou.
