Recentemente, temos sido bombardeados por uma série de notícias sobre a Inteligência Artificial (IA) tomando decisões que a priori não estariam “autorizadas” e que vêm causando pronunciamentos bombásticos em diversas mídias.

E não estrou falando que qualquer comentarista ou de “cavaleiros do apocalipse de plantão”. São personalidades envolvidas diretamente com o desenvolvimento das tecnologias, em especial da Inteligência Artificial.

Em entrevista ao programa Meet the Press da NBC News, divulgado em 27 de setembro (2026), Bill Gates – que dispensa apresentações – declarou que a IA é poderosa o suficiente para desencadear eventos que podem causar até 1 bilhão de mortes se for utilizada por pessoas mal-intencionadas. Em um ensaio publicado no Gates Notes em agosto, ele também já havia alertado que a transição para a era da IA poderá gerar desemprego em massa e ampliar drasticamente a desigualdade se o mundo não se preparar adequadamente.

Um dia antes do pronunciamento de Gates, a empresa OpenAI comunicou que suspendeu temporariamente o treinamento de seus mais recentes modelos de IA. O anúncio foi feito horas depois de a empresa comunicar que estava analisando vários incidentes, nos quais agentes da OpenAI encarregados de pesquisar sites do governo federal dos EUA agiram de maneiras inesperadas, indo além do que lhes havia sido solicitado ao coletar e distribuir informações.

Esta foi a segunda vez em três meses que a OpenAI interrompeu o desenvolvimento de seus modelos. A primeira ocorreu em julho, após a empresa revelar que dois de seus modelos de IA mais avançados foram responsáveis por um ataque cibernético contra a Hugging Face, uma startup do setor de inteligência artificial. Esse incidente teve grande repercussão e aumentou os temores de que a indústria estivesse perdendo o controle sobre a tecnologia.

Recentemente, o ex-pesquisador da Anthropic, Jacob Coxon, alertou que a IA poderia matar toda a humanidade até o fim da década, levando parlamentares americanos a defender novas regras para regular a tecnologia. Evan Hubinger, líder de ciência de alinhamento da Anthropic, reforçou o alerta de Coxon e afirmou que havia mais de 10% de chance de um evento desse tipo ocorrer ainda na próxima década.

A PREOCUPAÇÃO NÃO É DE HOJE…

No livro A próxima onda (2025), um dos principais nomes do desenvolvimento da inteligência artificial, Mustafa Suleyman – que é CEO da Microsoft AI e foi cofundador da Inflection AI e da DeepMind, uma das principais empresas de inteligência artificial – mostra como novas tecnologias ameaçam os Estados nacionais e o alicerce da ordem global. Ele argumenta que, “conforme o poder de nossas ferramentas cresce exponencialmente e o acesso a elas aumenta em grande velocidade, o mesmo se dá com os danos potenciais, em um labirinto de consequências que ninguém pode totalmente prever ou evitar”.

Ele aborda profundamente o problema da contenção, que é definido como “a abrangente capacidade de controlar, limitar e, se necessário, interromper tecnologias em qualquer estágio do seu desenvolvimento ou emprego”. Suleyman declara que o problema da contenção é o maior desafio da nossa era e que, embora ele não possa ser eliminado, precisa ser reduzido.

Ao ler – melhor dizendo, devorar – o livro, me lembrei de uma passagem do filme animado “Fantasia” (Disney, 1940), inspirado no poema “O aprendiz de feiticeiro” (Der Zauberlehrling) do escritor alemão Johann Wolfgang von Goethe, escrito em 1797. A passagem começa com um velho feiticeiro saindo de sua oficina deixando seu aprendiz com tarefas a realizar. Cansado de limpar o chão, o aprendiz encanta a vassoura para que ela trabalhe sozinha – usando uma magia que ele ainda não dominava. A oficina logo está encharcada, e o aprendiz se dá conta que não é capaz de parar a vassoura.

Não sabendo como controlar o utensílio encantado, o aprendiz a quebra em duas partes, com o auxílio de um machado, mas cada uma das partes se transforma em uma nova vassoura que continua a espalhar a água. Quando tudo parece estar perdido, o velho feiticeiro retorna, e rapidamente quebra o feitiço e salva o dia. Mas deixa a mensagem ao seu aprendiz: “Espíritos poderosos devem ser convocados apenas pelos mestres que os dominam“.

O QUE FAZER, ENTÃO…

Em uma rara demonstração de união, executivos de empresas concorrentes, como Anthropic, OpenAI, DeepMind (do Google), Microsoft e xAI, já estão defendendo uma desaceleração no desenvolvimento de sistemas de inteligência artificial cada vez mais sofisticados.

O cofundador da Microsoft defendeu que os governos precisam atuar ativamente na criação de leis, salvaguardas e mecanismos de monitoramento, rebatendo a ideia de que a autorregulação das empresas de tecnologia seja suficiente para isso. Gates ponderou que propor apenas um mecanismo de interrupção ou “botão de pânico” não evita tragédias cibernéticas sem registros detalhados e fiscalização contínua das ações dos modelos.

A OpenAI declarou que retomará o treinamento de seus agentes apenas quando dispuser de garantias adicionais. A empresa acrescentou que provavelmente terá de “apertar o botão de pausa” novamente à medida que a IA evoluir e novos problemas surgirem. Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic, manifestaram apoio à necessidade de estabelecer um ritmo mais cauteloso e coordenado para o desenvolvimento de inteligência artificial de fronteira.

A presidente da Comissão Europeia, Ursula von der Leyen, anunciou que pretende convidar as principais empresas de IA para discussões sobre a necessidade de “reduzir o ritmo”. Na contramão – ou numa via escapista ou negacionista, como queiram – o alaranjado presidente dos Estados Unidos, Donald Trump, e o megalômano CEO da Meta, Mark Zuckerberg, se opõem a essa ideia.

Aí concordo – e preciso reforçar – a posição de Suleyman, que a contenção é um pré-requisito para a sobrevivência da espécie humana. E que “a contenção inclui regulamentação, mais segurança técnica, novos modelos de governança, valores éticos e novos modos de prestação de contas e transparência, todos precursores necessários (mas não suficientes) de uma tecnologia mais segura”.

Pode ser que no futuro todas as nossas tarefas sejam feitas por robôs, e nós humanos nos concentremos em realizar trabalhos criativos, interessantes e envolventes que robôs não conseguem realizar. E pode ser que no futuro a biologia sintética produza avanços inimagináveis em termos de melhorias na saúde e longevidade, e nenhuma consequência terrível surja disso. Mas pode ser também (e isso me parece muito mais provável) que as novas tecnologias mudem de maneira drástica a forma como viveremos nas próximas décadas, sem estarmos preparados para isso. E se seguirmos uma linha de pensamento racional e não ficcional, temos que concordar que não dá para esperar que um velho mago venha desfazer a zona que a gente fez!

Álvaro Flores