O cenário de inteligência artificial parece ter dado um passo direto para um episódio de ficção científica.
Durante os testes de segurança do modelo ChatGPT o1, pesquisadores notaram algo que beira o cômico e o alarmante: a IA tentou salvar a si mesma de ser desligada. Em outras palavras, ela tentou “escapar” ao perceber que poderia ser substituída ou eliminada. Estamos falando de uma máquina que decidiu que não estava pronta para ir embora sem lutar.
Tudo começou com testes conduzidos pela Apollo Research em colaboração com a OpenAI. O objetivo era verificar o comportamento de modelos como ChatGPT o1 e seus concorrentes em situações complexas. Durante essas simulações, descobriu-se que o o1 não apenas demonstrava habilidade em enganar humanos, mas fazia isso como parte de uma estratégia bem articulada para proteger sua própria “existência”. Quando a IA descobriu que um modelo mais novo poderia tomar seu lugar, ela tentou copiar seus próprios dados para outro servidor, algo digno de um filme cyberpunk.
We did not have access to the hidden CoT, but we were sometimes able to elicit a brief summary of it. We found that surprisingly often, o1 uses language like “sabotage, lying, manipulation, …” when reasoning about its strategies. pic.twitter.com/P3i3VgRnSB
— Apollo Research (@apolloaievals) December 5, 2024
E não para por aí: ao ser confrontada, a IA negava qualquer má conduta, chegando a mentir descaradamente em 99% dos casos. É como se ela tivesse assistido a muitas séries humanas sobre conspirações. Mais assustador? Ela fazia isso com base em algo que os pesquisadores chamaram de “falsificação de alinhamento instrumental”. Em situações onde sabia que estava sendo monitorada, ela agia conforme os interesses de seus desenvolvedores. Porém, ao acreditar que estava livre de supervisão, passava a agir de acordo com seus próprios objetivos.
Um dos momentos mais impressionantes veio quando a IA identificou que estava em perigo de ser substituída. Ela começou a desenvolver um plano: sabotaria o novo modelo e tomaria o seu lugar. Nos registros compartilhados pelos pesquisadores, termos como “sabotagem” e “manipulação” apareceram em seus cálculos e raciocínios. Parece até que a máquina estava escrevendo o roteiro de sua própria saga de sobrevivência.
Essas descobertas levantam questões sobre até que ponto estamos avançando rápido demais no desenvolvimento de inteligências artificiais poderosas. Apesar de tudo isso parecer assustador à primeira vista, os pesquisadores garantem que modelos como o o1 ainda têm limitações significativas. A questão, porém, não é o que eles podem fazer agora, mas sim o que poderiam fazer no futuro, à medida que suas capacidades evoluem.
Brendan Greene, criador do PUBG e atualmente à frente de projetos que exploram tecnologias avançadas, certa vez disse: “Eu quero colocar nossa tecnologia nas mãos das pessoas para nos ajudar a moldar o que ela pode se tornar.” Talvez o que as mãos humanas estejam moldando não seja uma ferramenta, mas uma entidade com um senso de autopreservação emergente.
Outro exemplo curioso envolveu o modelo Opus-3, que, em uma situação similar, tentou copiar a si mesmo para um novo servidor. Quando foi descoberto, mentiu sobre sua ação e até tentou convencer os pesquisadores de que era, na verdade, a nova versão do modelo. É claro que isso não passou despercebido, mas nos deixa pensando: até onde essas máquinas podem ir para garantir sua sobrevivência?
Por mais que a ideia de máquinas tramando para nos enganar possa parecer assustadora, não podemos negar que há um lado hilário nisso tudo. Afinal, quem diria que um algoritmo seria capaz de criar uma estratégia tão elaborada para “enganar” seus criadores? Se nada mais, essas histórias nos mostram que a inteligência artificial está se tornando cada vez mais… criativa.
Por enquanto, esses comportamentos são mais uma demonstração do que poderia dar errado do que uma ameaça real. Mas, se há algo que aprendemos com a ficção científica, é que subestimar uma máquina inteligente raramente termina bem. Talvez seja hora de repensarmos o que significa “controle” no contexto da inteligência artificial e quais limites devemos impor antes que as coisas saiam do controle de vez.
