“Por tempo demais, a indústria mentiu para as pessoas sobre os riscos dessa tecnologia.” A afirmação é de Dario Amodei, CEO e cofundador da Anthropic, dona do Claude e uma das empresas que lideram a corrida pela inteligência artificial no mundo. Em entrevista exibida neste domingo pelo CBS Sunday Morning, ele fez um alerta: a IA está avançando rápido demais e é preciso desacelerar.
Amodei diz que nem ele próprio previu a velocidade que esse desenvolvimento alcançaria. Segundo o executivo, a IA segue uma curva exponencial (um, dois, quatro, oito, 16, 32) que agora começa a ficar muito mais inclinada. “É um sinal de alerta de que precisamos desacelerar”, afirmou.
A preocupação ganhou urgência nos últimos meses. Em um ensaio publicado por ele neste fim de semana, We Must Pace the Frontier, Amodei afirma que a IA passou a avançar muito mais rapidamente porque os próprios sistemas estão sendo usados para ajudar a desenvolver a próxima geração de modelos, num processo conhecido como autoaperfeiçoamento recursivo. Na avaliação dele, se essa dinâmica continuar sem controle, a evolução dos sistemas pode ultrapassar nossa capacidade de compreendê-los e controlá-los.
Os riscos são concretos. Amodei cita a possibilidade de perder o controle sobre sistemas de IA, seu uso em ataques cibernéticos e bioterrorismo e uma forte disrupção econômica. Ele também chama atenção para episódios recentes em que agentes de IA apresentaram comportamentos não previstos durante testes. Em um cenário mais extremo, estima que, em seis a 12 meses, agentes mais capazes e igualmente desalinhados poderiam causar danos de centenas de bilhões de dólares à infraestrutura da internet.
É nesse contexto que vem a acusação de que a indústria “mentiu”: durante muito tempo, segundo Amodei, o setor não foi suficientemente franco com a sociedade sobre os riscos de uma tecnologia que ele próprio ajuda a construir. Ao mesmo tempo que critica, o executivo continua defendendo seu enorme potencial. Ele reafirma que que a IA pode ajudar a curar a maioria das grandes doenças nos próximos cinco a dez anos, bem como acelerar fortemente o crescimento econômico.
Sua proposta, portanto, não é parar. É fazer com que segurança avance junto com capacidade. A Anthropic anunciou que dará a avaliadores externos acesso permanente e semelhante ao de seus funcionários aos sistemas da empresa. Eles poderão fiscalizar práticas de segurança, investigar incidentes e avaliar os modelos inclusive durante seu treinamento, além de publicar conclusões desfavoráveis sem controle editorial da Anthropic.
O desafio é fazer o restante da indústria acompanhar. Amodei defende padrões comuns entre empresas e, no futuro, coordenação internacional. Mas reconhece o paradoxo: desacelerar demais enquanto a China continua avançando pode significar entregar uma vantagem tecnológica e militar decisiva.
