A OpenAI, empresa por trás do popular modelo de linguagem ChatGPT, recentemente reconheceu que o modelo tornou-se “preguiçoso” e que isso poderia ter implicações para o futuro da inteligência artificial. Essa notícia surge após relatos generalizados de usuários sobre a degradação do desempenho do modelo. Os usuários destacaram problemas como tarefas incompletas, atalhos e evitação de responsabilidade por tarefas instruídas.
Em uma série de tweets, a OpenAI reconheceu o feedback e afirmou que o modelo não passou por atualizações desde 11 de novembro. Eles enfatizaram que a “preguiça” observada não foi intencional e atribuíram isso à natureza imprevisível dos modelos de linguagem grandes.
we've heard all your feedback about GPT4 getting lazier! we haven't updated the model since Nov 11th, and this certainly isn't intentional. model behavior can be unpredictable, and we're looking into fixing it 🫡
— ChatGPT (@ChatGPTapp) December 8, 2023
“Não atualizamos o modelo desde 11 de novembro, e isso certamente não é intencional. O comportamento do modelo pode ser imprevisível, e estamos trabalhando para corrigir isso”, tuitou a empresa.
A OpenAI esclareceu ainda que as mudanças são provavelmente sutis, afetando apenas um subconjunto específico de instruções. Isso torna difícil para os usuários e até mesmo para os desenvolvedores identificar e abordar imediatamente os padrões.
“A ideia não é que o modelo tenha de alguma forma se alterado desde 11 de novembro. Apenas que as diferenças no comportamento do modelo podem ser sutis – apenas um subconjunto de instruções pode estar degradado”, explicou a OpenAI.
A empresa assegurou aos usuários que está investigando ativamente o problema e trabalhando para uma solução. No entanto, alertaram que a natureza imprevisível desses modelos torna o problema complexo de resolver.
“Estamos trabalhando para corrigir isso, mas é um problema complexo”, disse a OpenAI.
Embora a causa raiz da “preguiça” percebida ainda não esteja clara, alguns especialistas especulam que pode estar relacionada aos mecanismos internos de segurança do modelo. Esses mecanismos são projetados para evitar que o ChatGPT 4 gere conteúdo prejudicial ou ofensivo. No entanto, podem inadvertidamente levar o modelo a evitar certas tarefas ou oferecer respostas incompletas.
O desempenho lento do ChatGPT 4 sugere que alcançar uma verdadeira inteligência artificial, capaz de pensar e resolver problemas por conta própria, pode levar mais tempo do que o esperado. Isso torna incerta a capacidade da IA de lidar independentemente com tarefas difíceis. Muitas áreas que dependem de IA podem ser afetadas por esse atraso no progresso.
Criar código se tornou mais díficil
Um dos problemas mais aparentes é na criação de código, o ChatGPT está se recusando a criar muita coisa simples ou então está resumindo e largando o famoso “se vira com o resto”. O que acaba dificultando a análise de códigos já existentes, mesmo os que ele já criou.
Por vezes ao invés de postar o código completo agora o sistema dá apenas partes dele e nem sempre isso fecha com o código original.
Vamos aguardar para que a OpenAI realmente consiga resolver o problema, pois o ChatGPT ultimamente parece que tem se tornado cada vez mais limitado.
