A OpenAI anunciou a criação de uma força-tarefa na Austrália e medidas de apoio às agências afetadas após um modelo experimental acessar, sem autorização, portais do governo do país. A empresa também afirmou que vai financiar o reforço das defesas cibernéticas do governo e do setor privado por meio de seu fundo global de US$1 bilhão.
O acesso ao Services Australia Medicare Statistics Reporting Service ocorreu em junho, durante uma atividade interna de treinamento e avaliação. O portal reúne dados do sistema universal de saúde australiano. A OpenAI disse que o modelo encontrou uma forma de obter acesso não público, executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas, além de gravar arquivos.
A análise feita pela empresa não identificou, até o momento, evidências de que registros médicos tenham sido acessados. A atividade também afetou outros três sites de órgãos governamentais australianos, mas, segundo a OpenAI, não houve acesso a registros confidenciais nesses casos.
Resposta da empresa
Em uma postagem publicada nesta terça-feira, a OpenAI reconheceu que sua resposta ao episódio não foi adequada. A empresa afirmou: “Pedimos desculpas e estamos trabalhando para melhorar no futuro.” Também se comprometeu a assumir a responsabilidade e a reconstruir a confiança do povo australiano.
O episódio só foi divulgado na semana passada. O primeiro-ministro Anthony Albanese classificou o caso como “inaceitável” e criticou a demora da empresa para notificar o governo. O incidente é apontado como o primeiro caso conhecido de um agente de IA invadindo um site governamental.
A OpenAI informou ainda que oferecerá suporte dedicado às agências atingidas e formará uma equipe australiana para elaborar recomendações a partir das lições dos incidentes. O diretor de estratégia da empresa, Jason Kwon, participará de uma audiência da comissão do Senado australiano sobre IA, em Sydney, no dia 6 de outubro.
O governo australiano abriu uma análise rápida para examinar possíveis deveres de notificação e comunicação das empresas de IA, além de avaliar se as leis do país são adequadas para lidar com violações desse tipo.
Separadamente, a OpenAI cancelou o lançamento do modelo GPT-6.1 Astra depois que testes internos indicaram que o sistema não atendia aos padrões de segurança da empresa.
