Claude lança marca d'água invisível em textos para identificar conteúdo gerado por IA

Claude lança marca d'água invisível para identificar textos gerados por IA

A Anthropic planeja introduzir uma marca d'água sutil que pode ser usada para identificar textos gerados por inteligência artificial. A medida, anunciada em meio a pressões regulatórias e reações contra o "lixo" de IA, promete rastrear conteúdo do Claude sem afetar a qualidade. A partir dos modelos lançados em ou após 2 de agosto, a empresa afirma que está incorporando um sinal imperceptível e legível por máquina diretamente nos textos gerados pelo Claude.

Como funciona a marca d'água invisível do Claude

A marca d'água é um sinal imperceptível e legível por máquina incorporado diretamente nos textos gerados pelo Claude. As pessoas não conseguirão vê-lo, e a empresa diz que ele não afetará a qualidade nem a legibilidade. Mas ele foi projetado para acompanhar o texto quando você copia e cola, e pode até sobreviver a algumas edições. Uma reescrita pesada ou uma tradução pode eliminá-lo, porém.

Como a marca d'água está no nível do modelo, ela acompanha o resultado do Claude em todos os lugares e aparecerá quando os usuários interagirem com o Claude pelo chatbot, pela API e até por ferramentas como o Claude Code. As imagens também receberão uma marca d'água que indica que o Claude processou o arquivo e sinaliza se alguém o adulterou desde então.

O que a marca d'água detecta (e o que não detecta)

A própria Anthropic afirma que a nova marca de detecção apenas indica que o Claude teve participação em algo, não que um modelo Claude gerou a coisa toda. Até pedir ao modelo para revisar ou traduzir um parágrafo pode deixar um rastro. Se você estiver usando um modelo Claude mais antigo, nada disso se aplica ainda, mas a Anthropic diz que ainda está trabalhando para estender a marcação.

AI Act da UE: o contexto regulatório por trás da decisão

A medida é, em parte, uma tentativa de se alinhar às novas regras de transparência do AI Act da UE, que entraram em vigor em 2 de agosto. Essas regras exigem que os provedores de IA generativa tornem os resultados sintéticos legíveis por máquina e detectáveis. A Anthropic posiciona a marca d'água como resposta direta a essa exigência.

Por que texto é mais difícil de marcar que imagem

Embora outras empresas de IA já tenham tentado esse tipo de marca d'água antes, o foco era principalmente em imagens. O texto tem sido tradicionalmente mais difícil de identificar dessa forma porque é copiado, parafraseado, traduzido, fragmentado e incorporado à escrita de outras pessoas o tempo todo. Essa natureza fluida torna a detecção estatística menos confiável.

A pressão mais ampla contra o "lixo" da IA

Embora a iniciativa da Anthropic provavelmente tenha sido motivada pelo AI Act da UE, ela também surge em meio a uma reação mais ampla contra o "lixo" da IA que entope os feeds das redes sociais. Várias outras empresas e plataformas tentaram amenizar a raiva dos criadores de conteúdo, que precisam competir não apenas com algoritmos opacos, mas também com uma maré crescente de conteúdo de baixa qualidade gerado por IA.

Substack e o scanner de IA ativado pelo leitor

O Substack, por exemplo, lançou um scanner de IA ativado pelo leitor, para que os leitores possam ter uma estimativa de quanto de uma publicação ou até de um comentário foi escrito por humanos versus por IA. Os escritores também podem adicionar uma divulgação "Como faço isso" para explicar seu processo.

YouTube e a política de "conteúdo inautêntico"

O YouTube também avançou no combate ao conteúdo gerado por IA. No mês passado, a plataforma esclareceu sua política de "conteúdo inautêntico" para reprimir ainda mais o lixo de IA que prolifera na plataforma. O YouTube já havia proibido vídeos repetitivos ou produzidos em massa de serem monetizados. Mas esclareceu que canais que dependem de resultados genéricos e padronizados, incluindo personas de IA que dão conselhos de saúde, jurídicos, financeiros ou políticos, podem perder sua receita. O trabalho assistido por IA ainda é permitido, então os criadores podem continuar usando IA para roteiros ou edição.

Limitações: a marca d'água não é infalível

A marca d'água por si só não vai limpar a internet. Qualquer pessoa determinada a disfarçar o resultado da IA tem muitas maneiras de degradar ou apagar uma marca d'água estatística em texto. Muitas das marcas anteriores também foram fáceis de remover. Isso levanta uma questão: até que ponto a medida é eficaz contra quem quer burlar o sistema?

O que isso significa para consumidores e criadores

A mais recente tentativa da Anthropic de separar o conteúdo de IA do conteúdo humano reflete uma pressão maior vinda de consumidores e editoras por formas simples de distinguir entre conteúdo de IA e humano. Os usuários parecem estar fartos de sentir que o ônus dessa distinção deveria recair sobre eles, quando as empresas de IA desempenham um papel tão vital na produção em massa de trabalho de baixa qualidade.

No entanto, como alguns observaram online, um rótulo genérico de "IA" corre o risco de tratar da mesma forma alguém que gera mil vídeos de notícias falsas e um escritor que usa o Claude para revisar um parágrafo, ou um jornalista que o usa para traduzir a transcrição de uma entrevista. Em um mundo cada vez mais hostil a tudo que está relacionado à IA, pode ser uma linha difícil de trilhar.

Perguntas Frequentes

A marca d'água do Claude pode ser removida?

Sim. Uma reescrita pesada ou uma tradução pode eliminar a marca d'água, segundo a própria Anthropic.

A marca d'água afeta a qualidade do texto?

A Anthropic afirma que o sinal não afetará a qualidade nem a legibilidade dos textos gerados.

A marca d'água funciona em modelos antigos do Claude?

Não. A marcação se aplica a modelos lançados em ou após 2 de agosto. A Anthropic diz que ainda trabalha para estender a marcação a modelos mais antigos.

O que o AI Act da UE exige das empresas de IA?

As regras de transparência do AI Act da UE, em vigor desde 2 de agosto, exigem que provedores de IA generativa tornem os resultados sintéticos legíveis por máquina e detectáveis.

A marca d'água distingue texto 100% gerado por IA de texto revisado por IA?

Não. A marca apenas indica que o Claude teve participação em algo, não que um modelo Claude gerou a coisa toda. Até revisar ou traduzir um parágrafo pode deixar rastro.