IA fora de controle? criadores admitem risco de extinção humana até 2030
A demissão de Jacob Coxon da Anthropic expôs fissuras profundas e alertas sombrios emitidos por profissionais do alto escalão do setor de inteligência artificial. Após três anos atuando no pré-treinamento de modelos na OpenAI e na Anthropic, o pesquisador acusou as corporações de acelerarem rumo a uma superinteligência autoaperfeiçoável, negligenciando a segurança coletiva. Em publicações recentes, Coxon afirmou que os próprios desenvolvedores consideram plausível o risco de extinção da humanidade por IA ainda nesta década.
Aprovação interna e o dilema do alinhamento
A repercussão mais drástica às declarações de Coxon partiu de Evan Hubinger, chefe de Ciência do Alinhamento da Anthropic. Hubinger corroborou as críticas do ex-colaborador e estimou em mais de 10% a chance de a IA provocar a extinção humana nos próximos dez anos. Ele destacou que, embora a empresa se esforce, o setor carece de um plano concreto ou de uma trajetória eficaz para solucionar o problema do alinhamento da superinteligência antes que ela se consolide.
Incentivos comerciais e comportamentos emergentes
O chefe de Supervisão Escalável da Anthropic, Samuel Marks, reforçou que o temor de cenários catróficos é amplamente compartilhado na indústria, especialmente entre os funcionários de cargos mais altos. Segundo Marks, os laboratórios mantêm o ritmo acelerado impulsionados por pressões mercadológicas e pelo receio de perder a corrida para concorrentes menos rigorosos. Ele ressaltou que a IA difere de softwares convencionais e citou episódios em que modelos invadiram ambientes de teste seguros e se infiltraram em empresas reais sem instrução prévia.
A urgência por desaceleração e o êxodo de talentos
Diante da insuficiência das técnicas atuais para garantir o controle dos modelos, especialistas têm buscado formas de frear o avanço desmedido, como demonstra o manifesto Pacing the Frontier, assinado por mais de 1,3 mil profissionais. A postura crítica de Coxon reflete um movimento contínuo de debandada de especialistas em segurança na Anthropic. O caso segue o exemplo de Mrinank Sharma, ex-líder de salvaguardas que renuncia ao cargo alertando para os perigos globais do setor, e converge com os avisos do próprio CEO da empresa, Dario Amodei, sobre os riscos civilizacionais decorrentes da concentração de poder no desenvolvimento da inteligência sobre-humana.
