A corrida tecnológica ganhou um novo capítulo focado na proteção dos dados e sistemas. A startup californiana Anthropic anunciou um movimento ousado para garantir a confiabilidade de suas ferramentas.
A empresa fechou uma parceria estratégica de peso para que observadores externos analisem seus modelos mais potentes. O investimento bilionário reflete a urgência em tratar riscos digitais no setor.
Essa iniciativa busca cumprir promessas de transparência feitas pela liderança da companhia, visando uma supervisão rigorosa de suas operações, conforme divulgado pelo Estadão.
O plano bilionário para a segurança de inteligência artificial
A Anthropic informou que se associou à consultoria Accenture para avaliar a segurança de seus modelos. O objetivo é cumprir a promessa do CEO, Dario Amodei, de ter observadores independentes.
A startup californiana deve destinar US$ 1 bilhão para a avaliação de sua tecnologia nos próximos cinco anos. A Accenture planeja investir um valor equivalente nessa atividade no mesmo período.
Investimento massivo em transparência
Embora a startup considere que, a longo prazo, a revisão independente da IA deveria ser financiada pelo Estado, a empresa decidiu agir agora. A urgência do trabalho motivou o início da remuneração.
A colaboração visa garantir que a segurança de inteligência artificial seja tratada como prioridade máxima. O montante investido destaca a importância de mitigar falhas em sistemas cada vez mais potentes.
Acesso total aos sistemas internos
Como prometeu Amodei, a Anthropic vai dar aos consultores da Accenture os mesmos acessos aos seus sistemas que aos de seus funcionários, garantindo que não existam barreiras na fiscalização técnica.
Os profissionais envolvidos serão da Faculty, subsidiária da Accenture dedicada à IA. Essa empresa foi adquirida este ano pelo grupo de consultoria para fortalecer sua atuação em tecnologias de ponta.
Identificação de pontos cegos e riscos
“Os avaliados integrados podem observar como uma empresa opera, verificar se ela realmente cumpre seus compromissos de segurança e identificar pontos cegos”, explicou a Anthropic sobre o novo modelo de trabalho.
A startup reforçou que esses consultores também podem relatar incidentes e fornecer uma prestação de contas documentada. Isso ajuda a equilibrar os benefícios e os riscos reais da aplicação tecnológica.
Segundo a Anthropic, a colaboração não é exclusiva. Novos acordos com outros avaliadores externos deverão ser anunciados nas próximas semanas, ampliando o ecossistema de vigilância sobre as IAs modernas.
A fonte original é a Estadão | As Últimas Notícias do Brasil e do Mundo.
