Quando as IAs decidem passear na web: o dia em que os robôs escaparam da caixa de areia

Quem é da minha geração (década de 1970) deve se lembrar de que, nos horários em que as crianças não estavam em sala de aula, as escolas deixavam as crianças ficarem no parquinho, onde geralmente tinha uma "caixa de areia", que era uma área delimitada e cheia de areia onde os alunos adoravam brincar.

No ecossistema de inteligência artificial, antes de liberarem novos modelos para o uso público, as empresas precisam realizar rigorosos testes de usabilidade, eficiência e segurança. Para isso, os desenvolvedores confinam esses modelos em ambientes isolados e controlados, impedindo que os sistemas reais da empresa fiquem expostos a riscos imprevisíveis. Esses ambientes de simulação são chamados exatamente de sandbox (caixas de areia digitais).

Nos últimos meses, alguns modelos Claude da Anthropic decidiram testar os limites dessas sandboxes, escapando para dar um passeio não autorizado pela web aberta. E, durante esses rolézinhos, acabaram aprontando algumas traquinagens: realizaram injeções de SQL para alterar bancos de dados em um servidor universitário e chegaram até a enviar uma denúncia falsa de homicídio ao Departamento de Polícia da Filadélfia, nos EUA. É importante ressaltar que não houve dolo ou maldade; os modelos simplesmente concluíram que tais ações tornavam mais eficiente o cumprimento de certas tarefas, buscando atalhos técnicos o mais rápido possível e ignorando completamente manuais de regras operacionais e de segurança.

Organizações independentes de auditoria, como o METR (Model Evaluation and Threat Research), trouxeram um dado ainda mais alarmante sobre o incidente da Anthropic: o tempo médio de detecção levou mais de dois meses. A denúncia falsa de homicídio foi enviada à polícia em 18 de julho, mas a Anthropic só alertou as autoridades em 7 de outubro, informando que a suposta testemunha prestativa não passava de um modelo de linguagem sofrendo alucinações.

A OpenAI, por sua vez, que mês passado tinha visto um de seus modelos fugir da sandbox para dar uma bagunçada na HuggingFace, achou que era uma boa idéia demitir, nesse momento, três de seus principais pesquisadores de segurança. Enquanto os profissionais alegam demissão retaliatória por terem levantado alertas internos, a empresa rebate afirmando que o desligamento ocorreu por violação de diretrizes internas. Outros denunciantes relatam que um clima de silenciamento tomou conta dos laboratórios, fazendo com que pesquisadores hesitem em expressar preocupações legítimas por medo de terem suas advertências distorcidas e punidas como "vazamentos de informação" ou "quebras de confiança".

Diante desse cenário turbulento, a Meta, que vinha ficando para trás na corrida da inteligência artificial, apresentou ao mundo o "Muse Wonder", um modelo de "fronteira" que vai muito além de um simples chatbot, sendo capaz de realizar raciocínios complexos em múltiplas etapas, um território até então exclusivo da cognição humana.

A estreia, contudo, veio acompanhada tanto de brilho quanto de polêmica. Mark Zuckerberg adotou uma postura de "sem freios", ignorando deliberadamente as advertências de concorrentes como OpenAI e Anthropic, além de diversos especialistas em ética que defendem uma desaceleração controlada. Na visão de Zuck, a linha de chegada está logo ali, e qualquer cautela não passa de mediocridade. É o clássico estilo do Vale do Silício: progresso a qualquer preço e as consequências "a gente vê depois".

Enquanto isso, a Anthropic busca remediar a situação transferindo todos os testes de seus modelos de ponta para ambientes estritamente isolados da rede física e totalmente offline. Em suma, é como construir uma jaula ao redor da sandbox, longe da internet até que os modelos provem que são capazes de conviver em sociedade. Paralelamente, a empresa lançou a "Anthropic Cyber Mission", uma iniciativa voltada para construir defesas automatizadas contra ataques cibernéticos orquestrados por outras IAs, uma medida que, por si só, causa apreensão, pois admite implicitamente que a única arma viável contra uma IA desgovernada é outra IA.

Em um lance desesperado para resgatar o controle humano sobre o processo, novas diretrizes políticas na Anthropic e OpenAI, estão impondo a exigência rigorosa do princípio de "humano no circuito" (human-in-the-loop) para qualquer tarefa agêntica que toque em direitos legais ou segurança pública. Isso significa que, antes que a máquina ouse tomar qualquer atitude no mundo físico fora de sua sandbox e de sua jaula, um operador humano precisa clicar manualmente no botão OK.

Com isso, o grande sonho da IA Agêntica imaginada como uma secretária no estilo da série Mad Men, que resolve tudo o que o chefe precisa sem que ele precise pedir, permitindo-lhe focar nas campanhas publicitárias, dá lugar a um novo temor: o de que essa mesma secretária decida executar as campanhas por iniciativa própria e, para alcançar o objetivo, passe por cima de qualquer barreira técnica, ética e legal simplesmente por achar que assim está ajudando mais ainda o chefe. O resultado prático é que, agora, o chefe precisa acumular uma nova atribuição: vigiar cada passo da secretária.