Nova funcionalidade do ChatGPT poderá expor os alunos que copiam textos do chatbot

De acordo com fontes próximas da OpenAI, a empresa tem um sistema para criar marcas de água para os textos gerados pelo ChatGPT, bem como uma ferramenta para detetar essas marcas de água. Isto poderá levar à exposição de pessoas que se limitam a copiar textos do chatbot.

OpenAI debate se deve ou não introduzir a funcionalidade no ChatGPT

Segundo o TechCrunch, um porta-voz da OpenAI confirmou que a empresa está a trabalhar num método de marca de água descrito no WSJ, mas que o sistema tem “complexidades” e representa um “provável impacto no ecossistema para além da OpenAI”. Os responsáveis da empresa estão a debater se devem ou não introduzi-lo no mercado.

Existe uma divisão interna: se por um lado seria da sua responsabilidade fazer algo deste género, por outro, o lançamento desta ferramenta poderia prejudicar a sua atividade.

Como revela o TechCrunch, os responsáveis da OpenAI acreditam que, embora este sistema seja “tecnicamente prometedor”, tem alguns problemas.

Apresenta riscos significativos que estamos a ponderar à medida que investigamos alternativas, como a suscetibilidade de ser contornado por maus atores e a possibilidade de afetar desproporcionadamente grupos como os que não falam inglês.

Disse a OpenAI.

Uma tarefa quase impossível

Várias empresas lançaram ferramentas de deteção de texto geradas por IA, mas nenhuma delas funciona muito bem. A OpenAI criou e lançou a sua própria ferramenta no início de 2023, mas acabou por admitir que o seu nível de precisão era baixo e até cancelou e abandonou a proposta inicial.

Este novo mecanismo é relativamente mais simples, embora só funcione no ChatGPT. O que a empresa faria era introduzir pequenas alterações na forma como o ChatGPT seleciona as palavras que gera, criando uma espécie de marca invisível na caligrafia que poderia ser detetada por outra ferramenta.

Por outras palavras: a OpenAI forçaria o ChatGPT a ter um “estilo robótico” de escrita que poderia depois identificar. Os textos continuariam a ser de qualidade, mas a escolha das palavras denunciá-lo-ia.

A OpenAI afirma que a marca de água demonstrou “elevada precisão e até eficácia contra manipulações localizadas, como a paráfrase”, mas também tem problemas.

A empresa não esclarece em nenhum momento se acabará por lançar a ferramenta, mas parece que pelo menos há uma forma interessante de conseguir algo que até agora parecia impossível.

Leia também:

Vídeo ativa modo DEUS no GPT-4o e quebra as restrições da OpenAI