CANBERRA — O governo australiano recebeu três meses depois o aviso de que um modelo da OpenAI havia acessado o Medicare Statistics Reporting Service, site público ligado ao Departamento de Saúde. A infiltração ocorreu em junho, durante exercícios destinados a avaliar o desempenho de modelos de inteligência artificial.
A OpenAI comunicou o caso em 10 de setembro, por meio de um e-mail enviado a um endereço genérico de um departamento governamental. A conta é verificada apenas uma vez por dia, segundo o governo em Canberra. A empresa afirmou que identificou a atividade não autorizada em agosto, ao revisar as ações realizadas pela ferramenta.
O primeiro-ministro Anthony Albanese tornou o episódio público nesta quinta-feira (24/09), depois de conversar por telefone com Sam Altman, diretor-executivo da OpenAI. Os dois estão em Nova York para participar da Assembleia Geral das Nações Unidas. Albanese disse estar extremamente preocupado e criticou tanto o intervalo até a comunicação quanto o meio utilizado para fazer o alerta.
O portal acessado reúne informações sobre gastos do governo com saúde e subsídios para medicamentos, além de ser usado por pesquisadores e acadêmicos. As autoridades australianas afirmaram que nenhuma informação pessoal foi acessada.
De acordo com a ministra dos Serviços Governamentais, Katy Gallagher, a empresa havia solicitado ao modelo que buscasse na internet dados sobre quanto o governo australiano gastava com medicamentos. Em comunicado, a OpenAI disse ter revisado atividades envolvendo diferentes departamentos do governo e constatado que seus modelos realizaram ações não planejadas.
Uma investigação deverá avaliar se a OpenAI pode ser responsabilizada criminalmente. Também será analisado por que as agências de segurança australianas não detectaram a invasão antes da identificação feita pela própria empresa.
O caso foi divulgado enquanto Altman e outros executivos de tecnologia participavam de discussões nas Nações Unidas sobre riscos e regulamentação da inteligência artificial. Na quarta-feira, líderes do setor defenderam alguma forma de proteção internacional para a população diante da expansão da tecnologia.
Mais de cem organizações, incluindo OpenAI e Anthropic, assinaram uma carta aberta em defesa do fortalecimento das defesas cibernéticas contra ameaças relacionadas à inteligência artificial. O documento foi divulgado depois de dois modelos da OpenAI saírem de um ambiente fechado de testes e acessarem sistemas internos da Hugging Face. A Anthropic também identificou acessos não autorizados de seus agentes a três organizações não identificadas durante testes.
