A Anthropic e a Accenture vão investir, cada uma, US$ 1 bilhão na avaliação da segurança dos modelos de inteligência artificial da startup ao longo dos próximos cinco anos. O acordo foi anunciado nesta sexta-feira, 18, e prevê acesso dos consultores aos sistemas usados pelos funcionários da empresa de tecnologia.
A iniciativa busca cumprir o compromisso assumido por Dario Amodei, CEO da Anthropic, de submeter os modelos mais potentes da companhia à análise de observadores independentes. Os profissionais responsáveis pelo trabalho serão da Faculty e de subsidiárias da Accenture voltadas à inteligência artificial. A Faculty foi adquirida neste ano pelo grupo de consultoria.
Acesso e prestação de contas
A Anthropic afirmou que a participação de avaliadores integrados permite acompanhar a operação da empresa, verificar o cumprimento de compromissos de segurança e localizar pontos cegos. Esses profissionais também poderão relatar incidentes e elaborar uma prestação de contas mais documentada sobre benefícios e riscos.
A startup considera que, no longo prazo, revisões independentes de sistemas de inteligência artificial deveriam ser financiadas pelo Estado ou por um fundo específico. Até que esse modelo exista, porém, a Accenture será remunerada pelo trabalho, “devido à importância e urgência desse trabalho”.
A colaboração não será exclusiva. A Anthropic informou que pretende anunciar acordos com outros avaliadores externos nas próximas semanas.
