OpenAI testa marca d’água em textos do ChatGPT na União Europeia
O textGrain será aplicado nas próximas semanas a respostas elegíveis do ChatGPT e do Codex; o detector ficará restrito a pesquisadores e organizações.
Resumo em 30 segundos
A OpenAI começou a anunciar o textGrain, método que marca textos por meio de alterações estatísticas nas escolhas de palavras. O teste será feito com respostas elegíveis do ChatGPT e do Codex na União Europeia. A empresa também lançou um detector de acesso restrito e alerta que a tecnologia pode errar.
A OpenAI começou nesta segunda-feira (5) a anunciar uma marca d’água invisível para textos produzidos pelo ChatGPT. O recurso, chamado textGrain, será aplicado nas próximas semanas a respostas elegíveis do ChatGPT e do Codex de usuários na União Europeia, em uma etapa de testes no uso real. A empresa não informou quando poderá expandi-lo a outras regiões.
Em vez de inserir caracteres ocultos ou sinais gráficos incomuns, o textGrain altera estatisticamente as escolhas de palavras do modelo. O objetivo é deixar indícios da origem do conteúdo sem modificar perceptivelmente a qualidade do texto. A marcação não equivale a uma assinatura visível nem garante, por si só, que qualquer texto possa ser identificado com certeza como produzido por inteligência artificial.
A OpenAI afirma que a tecnologia teve desempenho igual ou superior ao de outras abordagens avaliadas, incluindo o SynthID para texto, usado pelo Google no Gemini. Esse resultado, porém, foi observado em condições ideais. A empresa ressalta que a detecção pode ser menos confiável em situações cotidianas, nas quais o texto pode ter sido editado ou transformado.
Como outros métodos de detecção, a marca d’água pode gerar falsos positivos — apontar como produzido por IA um texto que não foi — ou falsos negativos, quando não identifica um conteúdo que recebeu a marcação. Por isso, o resultado de um detector não deve ser tratado isoladamente como prova da autoria de um texto, especialmente em contextos acadêmicos ou profissionais.
A ferramenta de detecção da marca d’água também foi lançada nesta segunda-feira, mas não está aberta ao público. Pesquisadores e organizações especializadas podem solicitar acesso por uma lista de espera, e a OpenAI avaliará os pedidos. A restrição busca reduzir o risco de uso indevido do detector.
Na União Europeia, a aplicação será obrigatória para as respostas elegíveis abrangidas pelo teste. Já clientes da API da OpenAI — serviço que permite integrar os modelos da empresa a outros produtos — poderão ativar o recurso opcionalmente nos modelos compatíveis, em qualquer país, inclusive quando exigido por regras locais.
A iniciativa não significa que todos os textos do ChatGPT já tenham uma marca d’água, nem que exista uma ferramenta pública para verificar sua origem. Em agosto, a Anthropic anunciou uma solução semelhante, aplicada obrigatoriamente a modelos recentes do Claude em âmbito internacional. A experiência europeia permitirá à OpenAI observar o funcionamento do textGrain entre usuários reais antes de decidir sobre uma eventual ampliação.
Para entender
- Marca d’água em texto
- É um sinal incorporado ao conteúdo para ajudar a identificar sua origem. No textGrain, a marcação não aparece como símbolo visível: ela se baseia em padrões estatísticos nas escolhas de palavras e pode deixar de ser detectada após edições ou transformações.
- Falsos positivos e negativos
- Um falso positivo ocorre quando um detector classifica incorretamente um texto sem marcação como se tivesse sido produzido por IA. Um falso negativo é quando não reconhece um texto que recebeu a marca. Por isso, o resultado de um detector não comprova autoria por si só.
