OpenAI coloca marca d'água invisível no ChatGPT para cumprir lei europeia

A OpenAI começou a aplicar uma marca d'água invisível nos textos gerados pelo ChatGPT, segundo o Tubefilter noticiou em 8 de outubro, e também naqueles gerados pelo Codex. A mudança, que altera a forma como o modelo escolhe as palavras para deixar um rastro estatístico, atende a uma exigência da Lei de Inteligência Artificial da União Europeia.

Batizada de textGrain, a tecnologia será obrigatória para os usuários europeus nas próximas semanas, enquanto clientes da interface de programação (API) no resto do mundo poderão ativá-la de forma opcional. A ferramenta de detecção, por enquanto, ficará restrita a pesquisadores e especialistas aprovados pela empresa, que não terão acesso aos dados de quem gerou o conteúdo original.

O sinal embutido no texto, no entanto, é frágil e depende do tamanho e do assunto do material. A própria OpenAI admite que a eficácia da detecção cai drasticamente se o texto for curto, se tratar de temas com vocabulário rígido, como matemática, ou se passar por revisão humana. Trocar apenas 10% das palavras por sinônimos derruba a taxa de acerto de 92% para 66% em um trecho de trezentas palavras. Se um quarto do texto for alterado, a detecção despenca para 17%, tornando a marca d'água fácil de ser burlada.

A regra europeia, que entrou em vigor de forma gradual, exige que os provedores de IA garantam que seus resultados sejam detectáveis por máquinas até 2 de dezembro de 2026, sob pena de multas que podem chegar a 3% do faturamento global da empresa, o que para a OpenAI representaria mais de 2 bilhões de dólares. Enquanto a identificação de imagens e vídeos gerados por inteligência artificial já se tornou um padrão na indústria de tecnologia, rastrear texto continua sendo um desafio técnico.

O movimento da OpenAI segue o da concorrente Anthropic, que mais cedo neste ano adotou uma marca d'água semelhante para o Claude. A diferença é que a Anthropic aplicou a restrição a todos os usuários globalmente, independentemente de onde acessam o modelo, enquanto a criadora do ChatGPT optou por limitar a obrigatoriedade ao território europeu.