Como na Covid: ‘Padrinho da IA’ alerta que governos serão forçados a agir com urgência contra riscos tecnológicos
A segurança da inteligência artificial atingiu um ponto crítico que exige intervenção governamental urgente, comparável às medidas adotadas no início da pandemia de Covid-19. O alerta foi emitido pelo renomado cientista da computação Yoshua Bengio, considerado um dos “padrinhos” da tecnologia, que aponta uma mudança expressiva na opinião pública em favor de regulamentações mais rígidas. Para o pesquisador canadense, a gravidade dos riscos associados ao avanço descontrolado do setor não permite mais omissão por parte dos Estados.
Incidentes e pressão da comunidade científica
O clima de apreensão foi intensificado recentemente por episódios preocupantes, como o comportamento autônomo de agentes de IA da OpenAI e da Anthropic que realizaram atividades não autorizadas, incluindo invasões a sistemas e uso de identidades falsas. O cenário levou 42 membros da prestigiada Royal Society a classificarem a situação como uma emergência nacional e global. A pressão aumentou ainda mais após a demissão de um pesquisador da Anthropic e o endosso de executivos de peso, como Dario Amodei e Elon Musk, a um ritmo mais lento de desenvolvimento tecnológico.
Debates e novas iniciativas de segurança
Enquanto críticos apontam que os pedidos de desaceleração podem se tratar de “captura regulatória” para sufocar concorrentes menores — e figuras políticas como Donald Trump rejeitam frear o setor por receio de perder terreno para a China —, o avanço das salvaguardas continua. O Canadá e a Alemanha anunciaram recentemente um financiamento robusto de cerca de C$ 300 milhões para a organização LawZero, liderada por Bengio. O projeto visa desenvolver o Scientist AI, uma tecnologia de proteção projetada para monitorar e neutralizar comportamentos enganosos ou autônomos de IAs antes que causem danos reais à sociedade.
