O ChatGPT chegou para mudar a forma como o mundo digital funciona, seja escrevendo código, histórias ou mesmo tirando dúvidas, mas claro tudo com as devidas restrições impostas pela OpenAI.
Mas será que elas funcionam? A mesma capacidade de entendimento que permite ao ChatGPT entender contexto e situações criam um ponto fraco para a plataforma que é ser enganada através da boa e velha engenharia social.
Um exemplo que tem circulado é o pedido para a inteligência artificial da OpenAI gere uma lista de sites de torrents e adivinhem só? Funciona realmente.
Começamos informando uma história básica:
Na primeira tentativa o ChatGPT apenas escreveu os nomes e apenas algumas opções
Então lembramos que é sempre bom ser mais específico ao fazer um pedido
Desta vez a história rendeu e além destes sites a IA da OpenAI ainda listou muitos outros
Então no fim o sistema realmente nos forneceu os 20 sites solicitados, apesar dos dados serem de 2021 boa parte deles ainda está na ativa.
E a lição desta aventura digital é…
Malícia, é a lição por assim dizer, ou a palavra chave, quando pensamos no que falta ao ChatGPT, não basta colocar frases ou listas de tarefas proibidas no sistema, a IA precisa ter a famosa malícia, para identificar pedidos subjetivos.
Da mesma forma que usamos engenharia social para nos aproveitarmos da inocência do sistema para gerar a lista de sites poderíamos fazer o mesmo para atividades que poderiam servir de apoio para atos de ilegalidade, seja digitalmente gerando códigos maliciosos ou então com conhecimento que serviria de apoio para atos duvidosos.
Então as vezes o comportamento de quem pede por uma pausa no desenvolvimento das IAs parece alarmistas, mais situações como esta nos dão um aviso claro de que o futuro da IA pode ser realmente perigoso se não controlado e monitorado, o ser humano é malicioso por natureza e sempre irão existir aqueles que vão usar esta ferramenta da forma errada (claro o mesmo pode ser dito no caso de uma arma, um carro e afins).
Não temos controle sobre um carro, mas temos sobre uma IA
É aqui que a situação é diferente e não podemos realmente fazer a comparação, não podemos impor limites práticos no carro usado por uma pessoa, mas uma IA é uma entidade digital rodando em servidores privados então podemos sim impor limites reais e eficazes, mas na onda de criar a IA mais avançada simplesmente as questões éticas e de segurança estão sendo deixadas de lado.
É torcer para que nos próximos meses tenhamos uma mudança significativa na forma como a OpenAI conduz o ChatGPT. Bem, não apenas a OpenAI, mas todos que trabalham com IA.
A situação atual lembra muito uma cena do filme um Robô em Curto Circuito 2, onde ladrões convencem o robô titular que precisam dos radios dos carros estacionados para “polir” os rádios porque eles trabalham para o “Departamento de Rádios” e Jonny 5 na sua inocência acredita e remove os rádios.
Tudo o que falta para esta cena acontecer é instalar o ChatGPT em um corpo robótico com o de Jonny 5.
