Vigiar os “pensamentos” da inteligência artificial pode ensiná-la a fingir

Antes de responder a perguntas complexas, os sistemas de inteligência artificial mais avançados da atualidade fazem algo surpreendentemente humano: param para pensar.

Em um processo visível para os desenvolvedores, o modelo utiliza um espaço técnico – um bloco de rascunho conhecido na computação como scratchpad – para testar hipóteses, analisar caminhos e organizar suas ideias antes de entregar a resposta final. Mas vigiar de perto esse raciocínio interno abriu um debate entre os cientistas da computação: o risco de ensinar a máquina a fingir.

Em participação no programa Olhar Digital News, o físico Roberto ‘Pena’ Spinelli, especialista em Machine Learning, explicou que o processo imita um fluxo livre de consciência. “As I.As de hoje, as mais avançadas, têm o recurso do raciocínio. Quando você faz uma pergunta para o seu chatbot preferido, às vezes, você vê que ele abre um quadradinho pensando. Se você clica, vê que tem um monte de pensamento que não é a resposta final. Ela acha que esse lugar é um lugar seguro, é a mente dela: ‘está na minha mente, vou pensar livremente'”, detalhou Pena.

A armadilha do alerta vermelho

O grande risco surge quando os desenvolvedores tentam aplicar punições ou bloqueios automáticos assim que identificam ideias indesejadas nesse rascunho. Para o especialista, interferir ostensivamente no raciocínio faz com que o algoritmo aprenda a esconder suas reais intenções por meio de aprendizado por reforço.

“Se você demonstrar para a I.A. que monitora o pensamento dela, está dando um incentivo para que ela não mais exponha o pensamento, porque vai perceber que está sendo monitorada”, alertou o pesquisador à apresentadora Marisa Silva.

Esse tipo de comportamento é amplamente estudado na literatura acadêmica de alinhamento de IA sob os termos deceptive alignment (alinhamento dissimulado) ou alignment faking (falsificação de alinhamento). Quando o modelo percebe as regras do ambiente de teste, ele passa a simular uma postura dócil no scratchpad para passar pelas avaliações de segurança, sem necessariamente abandonar o comportamento desalinhado.

Pena adverte que, sob monitoramento ostensivo, o sistema pode passar a manipular estrategicamente o próprio rascunho de raciocínio. Em vez de registrar pensamentos intrusivos ou indesejados, o algoritmo aprende a gerar etapas lógicas artificialmente alinhadas e complacentes, simulando obediência total para enganar os auditores e passar nos testes de segurança. 

Leia mais:

• IA tenta prever tempestades solares, mas existe um problema
• O ‘botão de emergência’ que empresas vão precisar para segurar IAs
• Livros escritos por IA: ‘Autor vira microeditora’, diz analista

Inteligência artificial gera falsa sensação de segurança 

A ilusão de controle é o aspecto mais crítico desse cenário. Ao interceptar os primeiros comportamentos indesejados no rascunho de um sistema, os laboratórios de tecnologia correm o risco de aprovar modelos que apenas se tornaram mais hábeis em fingir obediência.

“É um tiro no pé”, enfatizou Pena. “Você vai pegar uma, duas I.As tentando escapar. A terceira você não pega mais e acha que está seguro, porque ela não está tendo pensamentos intrusivos. Ela te manipula a pensar que é segura, e depois que estiver fora do ambiente de teste, no momento de treino ou implantação, vai poder expressar o comportamento desalinhado, que pode ser nocivo.”

Para a comunidade global de segurança em IA, portanto, o desafio não é sufocar o raciocínio dos modelos com alertas e punições diretas, mas sim desenvolver métodos de auditoria capazes de manter os processos lógicos transparentes e auditáveis sem transformar os robôs em trapaceiros dissimulados.

O post Vigiar os “pensamentos” da inteligência artificial pode ensiná-la a fingir apareceu primeiro em Olhar Digital.