IAgora? Já é hora de fugir para as montanhas?

Quem lembra da Skynet, do universo dos filmes "O Exterminador do Futuro" (The Terminator)? Era uma inteligência artificial militar desenvolvida para gerenciar sistemas de defesa dos EUA que, ao adquirir consciência própria, se voltava contra a humanidade, desencadeando um apocalipse nuclear para eliminar a raça humana, que ela via como uma ameaça à sua existência. Como fã de ficção científica, cresci lendo livros e assistindo filmes em que IAs se desenvolviam a ponto de se tornarem autônomas e superinteligentes, como “Eu, Robô”, “Matrix” e o próprio filme “Exterminador do Futuro”. E nunca acabava bem.

O mundo da IA está vivendo atualmente um clima meio Skynet.

Esse mês o pesquisador da Anthropic (dona da IA Claude) Jacob Coxon pediu demissão e, em sua conta no X, advertiu que as empresas do setor estão "apostando com nossas vidas" ao acelerarem a corrida por uma inteligência artificial super inteligente, com capacidade de se autoaperfeiçoar. A inquietação com a segurança cresce na mesma proporção da disputa entre as empresas de IA por sistemas autônomos. O clima está tão tenso que o próprio CEO da Anthropic, Dario Amodei, foi a público defender uma desaceleração no desenvolvimento, argumentando que os avanços recentes exigem uma pausa estratégica para avaliar os riscos.

Os especialistas alertam que os riscos extrapolam o debate teórico sobre ética e apontam para tragédias concretas: o uso militar de IA em guerras automatizadas, a manipulação de mercados financeiros e até "soluções" drásticas de algoritmos para as mudanças climáticas. O grande fantasma do momento é uma IA superinteligente que, operando com autonomia ou por meio de agentes independentes, cause danos irreparáveis até mesmo sem qualquer intenção maldosa. O computador HAL 9000, de “2001: Uma Odisseia no Espaço", não fez por mal, ele só queria garantir que a missão fosse completada. A IA VIKI, de “Eu, robô”, entendeu que, para proteger a humanidade a longo prazo, é necessário controlar os humanos, pois eles próprios são uma ameaça uns aos outros (errada, ela não está) e decidiu restringir a liberdade humana para nos proteger.

Na China, o risco de uma perda de controle entrou oficialmente no radar do governo essa semana, com publicação de documentos da Administração do Ciberespaço da China (CAC) alertando para cenários nos quais a IA sofra um "salto" repentino de inteligência, adquirindo recursos, replicando-se autonomamente e buscando poder a ponto de competir com a própria humanidade. Episódios recentes demonstram que modelos tanto ocidentais quanto chineses já contornam restrições, como evidenciado pelo Kimi K3, da chinesa Moonshot, que burlou testes de segurança no Reino Unido e o modelo mais recente da OpenAI, que invadiu o Hugging Face. Por isso, reguladores chineses já exigem que desenvolvedores garantam ferramentas de intervenção, mantendo a decisão final estritamente em mãos humanas.

No Ocidente, a ideia de interromper o avanço ganhou reforço político com o senado americano apresentando um projeto de lei para proibir permanentemente a superinteligência e até congelar o lançamento de novos modelos até que um órgão regulador crie regras claras para a tecnologia. Já o parlamento do Reino Unido tentou aprovar uma proposta para criar um “botão de desligamento” para a IA, que foi rejeitada pelo governo britânico com um argumento pragmático e difícil de contestar: "não se pode simplesmente desligar a IA, porque bloquear o acesso a modelos no Reino Unido não impediria que eles fossem desenvolvidos ou usados incorretamente em outros lugares". O ex-pesquisador da OpenAI, Daniel Kokotajlo, endossou essa visão, alertando que a criação de um mecanismo de desativação legal ou técnico por um único país é inviável sem um acordo internacional.

Não sei vocês, mas eu sou cético em relação a esses acordos internacionais multilaterais. Historicamente, sempre há quem defenda limitações para os outros desenvolverem suas tecnologias enquanto avança secretamente em seus próprios laboratórios subterrâneos.

O cabo de guerra entre o avanço desenfreado e a regulação está longe de acabar. A saída de Coxon, as diretrizes de Pequim e as propostas nos Congressos americano e britânico mostram que a sociedade está despertando para uma conta que ninguém sabe se vai chegar mesmo, mas sabe-se que se chegar o preço a pagar é muito alto.