De acordo com um relatório do The Wall Street Journal, que afirma que a OpenAI tem mantido uma ferramenta que pode identificar redações escritas pelo ChatGPT com um alto grau de precisão, a empresa compartilhou algumas informações sobre sua pesquisa em marca d’água em textos — e por que não liberou seu método de detecção.
Segundo o relatório do The Wall Street Journal, o debate sobre se a ferramenta deve ser liberada ou não a manteve fora de circulação, apesar de estar “pronta”. Em uma atualização publicada no domingo em uma postagem de blog de maio, notada pelo TechCrunch, a OpenAI disse: “Nossas equipes desenvolveram um método de marca d’água em texto que continuamos a considerar enquanto pesquisamos alternativas.”
A empresa afirmou que a marca d’água é uma das várias soluções, incluindo classificadores e metadados, que investigou como parte de uma “pesquisa extensiva na área de proveniência de texto”.
Segundo a OpenAI, o método “tem sido altamente preciso” em algumas situações, mas não funciona tão bem quando enfrenta certas formas de adulteração, “como usar sistemas de tradução, reformular com outro modelo generativo ou pedir ao modelo para inserir um caractere especial entre cada palavra e depois excluir esse caractere.”
Além disso, a marca d’água em texto poderia “impactar desproporcionalmente alguns grupos”, escreveu a OpenAI. “Por exemplo, poderia estigmatizar o uso de IA como uma ferramenta útil de escrita para falantes não nativos de inglês.”
Conforme a postagem no blog, a OpenAI tem avaliado esses riscos. A empresa também escreveu que priorizou a liberação de ferramentas de autenticação para conteúdo audiovisual. Em uma declaração ao TechCrunch, um porta-voz da OpenAI disse que a empresa está adotando uma “abordagem deliberada” para a proveniência de texto devido às “complexidades envolvidas e seu provável impacto no ecossistema mais amplo além da OpenAI.”
