Textos gerados pelo ChatGPT ganham marca d'água invisível

A OpenAI vai inserir uma marca d'água digital invisível em textos e códigos produzidos pelo ChatGPT e pelo Codex na União Europeia. A medida responde às exigências de transparência previstas na Lei de IA do bloco europeu e deve entrar em vigor nas próximas semanas.

O sistema recebe o nome de textGrain e funciona ao incorporar um sinal estatístico invisível nas escolhas de palavras feitas pelo modelo.

Segundo a própria empresa, a tecnologia adiciona uma marca legível por máquina sem alterar o sentido ou a aparência do conteúdo para o leitor humano.

A OpenAI afirma que o textGrain igualou ou superou outras soluções testadas internamente, inclusive o SynthID para texto, desenvolvido pelo Google DeepMind. Ainda assim, a empresa reconhece que o sistema não é infalível.

De fato, a detecção pode falhar em situações cotidianas, mesmo quando apresenta bom desempenho em condições ideais. Além disso, o detector está sujeito a dois tipos de erro:

• Falso positivo: indicar marca d'água onde ela não existe;
• Falso negativo: deixar passar uma marca d'água presente no texto.

Por ora, a implementação fica restrita à União Europeia e não se tornará o padrão global da empresa.

Para clientes que acessam os modelos por API, a marcação será opcional e ficará desativada por padrão, de modo que cada cliente possa decidir como aplicá-la conforme suas obrigações legais.

O detector também não estará disponível ao público no lançamento.

O acesso inicial será liberado apenas para pesquisadores aprovados e organizações especializadas, e os resultados indicarão somente se há marca d'água da OpenAI, sem identificar usuários nem revelar conversas ou prompts.

A OpenAI não é a única empresa a adotar esse caminho. Em agosto, a Anthropic, desenvolvedora do Claude, anunciou medida semelhante para cumprir a legislação europeia e inserir sinais identificadores nos textos produzidos por seus modelos.

O artigo 50 da Lei de IA da União Europeia obriga provedores de IA generativa a tornar textos identificáveis de forma legível por máquina. As principais empresas de tecnologia do setor têm até 2 de dezembro para cumprir essa exigência.

As regras abrangem, portanto, um conjunto amplo de obrigações que incluem:

• Tornar o conteúdo gerado por IA identificável por máquinas;
• Garantir transparência para usuários finais;
• Cumprir o prazo de adequação até 2 de dezembro.

Por fim, a medida representa um passo concreto no esforço regulatório europeu para tornar o uso de inteligência artificial mais rastreável e transparente para empresas, pesquisadores e consumidores.