A OpenAI, empresa por trás do ChatGPT, desenvolveu uma ferramenta que pode detectar com 99,9% de precisão se um texto foi gerado pelo seu famoso modelo de linguagem. Porém, a companhia parece relutante em liberar essa tecnologia para o público. Vamos entender melhor o que está acontecendo.
A Ferramenta de Detecção da OpenAI
A ferramenta da OpenAI é capaz de identificar textos gerados pelo ChatGPT por meio de uma técnica que altera sutilmente a forma como o modelo prevê e escolhe as palavras seguintes, criando um padrão que pode ser reconhecido posteriormente. Essa abordagem não afeta a qualidade das respostas, mas deixa uma “marca d’água” invisível aos olhos humanos.
A empresa confirmou a existência dessa ferramenta de detecção e revelou que está testando métodos ainda menos controversos, como a aplicação de metadados criptografados. Mesmo assim, a OpenAI parece relutante em liberar essa tecnologia, temendo que possa trazer consequências negativas para os usuários do ChatGPT.
Os Dilemas da OpenAI
Um dos principais problemas apontados pela OpenAI é que a ferramenta de detecção pode ser burlada. Basta pedir a outro modelo de linguagem que reescreva o texto gerado pelo ChatGPT ou usar uma ferramenta de tradução para descaracterizar a “marca d’água”.
Outro ponto de preocupação é que a implementação de um sistema de detecção poderia estigmatizar os usuários do ChatGPT, especialmente aqueles que não têm o inglês como idioma principal e dependem do assistente para escrever. Isso, inclusive, poderia fazer com que quase 30% dos usuários usassem menos o ChatGPT, segundo pesquisa da própria OpenAI.
A Visão da Comunidade
Apesar das preocupações da OpenAI, cerca de 80% dos entrevistados em uma pesquisa encomendada pela empresa apoiam a criação de uma ferramenta para identificar textos gerados por IA. Isso significa que há uma demanda por esse tipo de recurso, especialmente em ambientes acadêmicos, onde o uso do ChatGPT pode ser visto com desconfiança.
Conclusão
A OpenAI tem em mãos uma ferramenta de detecção bastante precisa, mas parece hesitar em liberá-la devido aos potenciais impactos negativos que isso poderia trazer. No entanto, a pressão da comunidade pode fazer com que a empresa eventualmente ceda e disponibilize essa tecnologia, desde que encontre soluções para mitigar os principais problemas identificados. Afinal, a transparência e a confiança são essenciais quando se trata de uma tecnologia tão poderosa quanto o ChatGPT.
Principais Conclusões
- A OpenAI desenvolveu uma ferramenta capaz de detectar textos gerados pelo ChatGPT com 99,9% de precisão, mas ainda não está disposta a liberá-la publicamente.
- A empresa teme que a ferramenta possa estigmatizar os usuários do ChatGPT, especialmente aqueles com dificuldades com o inglês, e que possa ser burlada por outros modelos de linguagem.
- Cerca de 80% dos entrevistados em uma pesquisa encomendada pela OpenAI apoiam a criação de uma ferramenta para identificar textos gerados por IA, o que pode pressionar a empresa a eventualmente disponibilizar essa tecnologia.
