Detector de IA no Substack vira arma contra autores e ALLi orienta guardar rascunhos

A plataforma de newsletters Substack ativou uma ferramenta de detecção de inteligência artificial chamada Pangram, que exibe aos leitores a probabilidade percentual de um texto ter sido criado por humanos. A decisão, tomada sem opção clara de recusa para os criadores, gerou conflitos na plataforma e reflete o debate que atravessa o mercado editorial, segundo artigo publicado pelo The Self-Publishing Advice Center na sexta-feira (16). A Alliance of Independent Authors (ALLi), associação global que mantém o portal e que recentemente ouviu mais de 1.200 membros em uma pesquisa sobre o tema, aponta que o mercado vive uma "guerra de detecção".

Ferramentas como o Pangram não atestam a verdade, mas apenas medem a semelhança estatística de um texto com padrões gerados por máquina. O resultado é que autores estão sendo julgados e punidos com base em suspeitas e alegações não provadas, enquanto grandes editoras e plataformas fecham acordos silenciosos com empresas de tecnologia para treinar modelos. O caso do Substack é um microcosmo de uma tensão que já derrubou contratos milionários. O cofundador e diretor de tecnologia do Pangram, Bradley Emi, publicou uma resposta defendendo a ferramenta, mas foi criticado por usar jargões técnicos e ignorar as preocupações morais e éticas levantadas pela comunidade.

Desde o início do ano, a indústria lida com escândalos baseados em suspeitas de IA. No final de julho, agentes retiraram um thriller de estreia que já havia sido arrematado pela editora Minotaur em um leilão de 14 disputantes, vendido por cerca de US$ 2,5 milhões, após rumores de que o texto tinha "marcas" de máquina, como metáforas fora de tom e prosa plana. A Hachette também tirou de circulação o romance de terror Shy Girl, de Mia Ballard, após alegações não provadas de geração de texto, mesmo com o livro já tendo passado pela edição da casa. Ballard negou ter usado IA pessoalmente, afirmando que um conhecido contratado para editar uma versão anterior incorporou as ferramentas, e relatou que sua saúde mental atingiu o nível mais baixo.

No Reino Unido, o uso de IA foi o centro de debates sobre a credibilidade de referências no livro de não ficção de Matt Goodwin e levou à demissão do crítico Alex Preston do New York Times por suspeita de plágio automatizado. Para a ALLi, a exigência de selos de "texto humano" divide a comunidade e não resolve a questão ética. A associação defende que a confiança se constrói com precisão, proteção de direitos e transparência, e orienta os escritores a decidirem sua posição de divulgação, guardarem o histórico de versões de suas obras e não usarem detectores contra o trabalho de colegas.