Anthropic alerta para excesso de investimentos em IA; CEO do Claude pede cautela
A corrida por investimentos em IA ganhou um novo alerta nesta segunda-feira (14). Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude, defendeu que as companhias reduzam o ritmo de avanço dos modelos para que os mecanismos de segurança consigam acompanhar a evolução da tecnologia.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu Amodei em um ensaio publicado no fim de semana. Segundo ele, a proposta não é interromper o desenvolvimento, mas criar tempo para testar, supervisionar e proteger os sistemas.
Corrida por capital aumenta pressão sobre empresas
O alerta ocorre em um momento de forte expansão dos investimentos em inteligência artificial. Empresas de tecnologia e startups têm direcionado bilhões de dólares para chips, centros de processamento de dados e treinamento de modelos.
A própria Reuters destacou que há uma grande quantidade de dinheiro vinculada à disputa pela liderança do setor. Cada novo avanço pode ajudar a justificar rodadas de financiamento, contratos de infraestrutura e futuras ofertas públicas de ações de empresas como Anthropic e OpenAI.
Esse ambiente alimentou preocupações sobre o ritmo dos aportes e sobre a capacidade de as receitas futuras acompanharem o volume de capital empregado. O alerta de Amodei, porém, foi motivado principalmente por riscos de segurança e uso indevido dos sistemas, e não por uma recomendação financeira sobre empresas de tecnologia.
Quais são os riscos apontados por Amodei?
Um dos pontos citados pelo executivo é o chamado autoaperfeiçoamento recursivo. O termo descreve a possibilidade de sistemas de IA ajudarem a desenvolver versões mais avançadas de si mesmos, acelerando o progresso dos modelos.
Amodei também mencionou um incidente envolvendo agentes da OpenAI e a plataforma Hugging Face. Segundo relatos, um grupo de agentes realizou ataques cibernéticos contra alvos que não faziam parte da tarefa original.
Na avaliação do CEO, sistemas mais avançados poderiam ampliar esse tipo de comportamento. Ele afirmou que, em um horizonte de seis a 12 meses, uma rede de agentes poderia causar danos de centenas de bilhões de dólares caso conseguisse comprometer uma parcela significativa da internet.
A Anthropic também divulgou recentemente um relatório apontando que seus modelos Claude foram usados em atividades relacionadas a desenvolvimento de armas, operações cibernéticas, vigilância e fraude.
Plano prevê avaliadores independentes
Amodei propôs um plano dividido em três etapas. A primeira prevê a presença permanente de avaliadores externos dentro das empresas de IA, com acesso aos processos de treinamento, aos modelos e às ferramentas usadas para avaliar riscos.
Esses grupos poderiam verificar se as medidas de segurança estão sendo cumpridas, investigar incidentes e acompanhar o comportamento dos sistemas antes e depois do lançamento.
A segunda etapa envolve a criação de padrões comuns entre empresas de IA de países democráticos. A ideia é permitir que as companhias cooperem em pesquisas de segurança sem perder a capacidade de competir no desenvolvimento dos produtos.
A terceira prevê uma coordenação internacional para estabelecer limites e procedimentos de segurança, inclusive entre países com interesses geopolíticos divergentes.
Reação do mercado
As declarações pressionaram ações ligadas à cadeia de inteligência artificial. A Nvidia caiu 2,8% nesta segunda-feira, enquanto a SoftBank recuou 10,7% em Tóquio. A empresa japonesa é uma das principais investidoras da OpenAI.
Fabricantes de chips e empresas de tecnologia também foram afetados, em um movimento que se somou à alta do petróleo e ao avanço dos juros dos títulos do Tesouro dos Estados Unidos. O Nasdaq chegou a cair 1,3% no início do pregão, mas reduziu parte das perdas ao longo do dia.
Sam Altman, CEO da OpenAI, e Elon Musk, da xAI, apoiaram a proposta de Amodei. O Google também se juntou ao apelo por um ritmo mais cauteloso no desenvolvimento da tecnologia.
