A inteligência artificial da Anthropic, conhecida como Claude, deu um passo importante rumo à transparência de conteúdo. A empresa anunciou que todos os modelos lançados a partir de 2 de agosto incorporarão um sistema de marcação invisível no texto gerado. Essa medida, que será implementada globalmente, visa atender aos requisitos da União Europeia em relação à identificação de conteúdo sintético.
O principal objetivo é que qualquer texto produzido por Claude seja identificável como tal, sem que o usuário perceba qualquer diferença na qualidade ou legibilidade. A marca d'água não é visível a olho nu, mas permanece incorporada ao texto mesmo quando copiado e colado em outras plataformas. Esta iniciativa responde ao Código de Boas Práticas sobre Transparência de Conteúdo Gerado por IA, assinado por mais de 190 organizações, e à Lei de IA da UE, que, desde agosto, exige a marcação d'água para este tipo de conteúdo.
A decisão da Anthropic não é coincidência. As regulamentações europeias exigem que as empresas de IA rotulem o conteúdo sintético para que os usuários possam distingui-lo do conteúdo criado por humanos. O Artigo 50.2 da Lei de IA estabelece que os provedores devem garantir que as saídas de seus sistemas sejam rotuladas em um formato legível por máquina. A Anthropic, juntamente com outras grandes empresas de tecnologia como OpenAI, Google, Meta e Microsoft, assinou esse código de transparência, embora empresas como a xAI de Elon Musk ainda não tenham aderido.
A empresa explicou que a marca d'água é feita de duas maneiras: para imagens e gráficos, são utilizados metadados baseados no padrão C2PA (Coalition for Content Provenance and Authenticity); para texto, é empregada uma marca d'água invisível integrada ao próprio processo de geração. Essa marca d'água não altera o significado ou a qualidade das respostas e é transmitida juntamente com o texto quando este é copiado, exportado ou compartilhado por meio de uma API.
O sistema baseia-se na sequência de tokens gerados pelo modelo. Em vez de adicionar caracteres ocultos ou metadados visíveis, a marca d'água é codificada na escolha das palavras quando várias opções igualmente válidas estão disponíveis. Por exemplo, dada a frase "o céu estava...", o modelo pode escolher "nublado" ou "cinza". Com a marca d'água, essa escolha não é aleatória, mas depende de uma chave criptográfica e das palavras precedentes. Assim, quem possuir a chave pode determinar estatisticamente se o texto foi gerado por Claude.
Este método, já utilizado em outros sistemas como o SynthID do Google, não adiciona custo nem latência ao processo. A detecção de marcas d'água não é infalível : se o texto for editado, parafraseado, traduzido ou misturado com outro conteúdo, a marca d'água pode desaparecer. Além disso, o sinal é mais fraco em fragmentos muito curtos ou em código. A Anthropic reconhece que a ausência de uma marca d'água não significa que o conteúdo não foi gerado por IA e que a presença de uma marca d'água não é conclusiva quanto à autoria real.
A empresa especificou que a marca d'água se aplica a todos os modelos lançados desde 2 de agosto e que os modelos anteriores receberão a atualização gradualmente. A medida é global, não se limitando à Europa , e afeta todos os produtos Claude, incluindo a API, o Claude Code, o Claude Cowork e plataformas de terceiros como a infraestrutura da AWS , o Google Cloud e o Microsoft Foundry. No entanto, a detecção pública ainda não está disponível: a Anthropic anunciou que lançará uma ferramenta em algumas semanas para que usuários e terceiros possam verificar se um texto contém a marca d'água.
Outra limitação significativa é que a marca d'água não identifica o usuário nem a conversa original. Ela também não distingue se o texto foi criado do zero ou se Claude simplesmente ajudou a corrigir, traduzir ou resumir o conteúdo existente. Isso gerou críticas, já que as regulamentações europeias excluem explicitamente tarefas de edição padrão, mas a Anthropic aplica a marca d'água a todos os usos. Apesar dessas deficiências, a medida representa um avanço na luta contra a desinformação e o uso indevido da IA.
A decisão da Anthropic faz parte de um movimento mais amplo da indústria. OpenAI, Google, Meta, Microsoft e Mistral também assinaram o Código de Transparência e estão implementando sistemas semelhantes. No entanto, a falta de um padrão unificado e as limitações técnicas fazem com que a detecção não seja perfeita. Por exemplo, tirar uma captura de tela de uma imagem pode remover os metadados C2PA, e reescrever completamente o texto pode apagar a marca d'água.
Em contextos educacionais e profissionais, essas ferramentas de etiquetagem podem ser úteis para identificar trabalhos gerados por IA, mas especialistas alertam que não são uma solução definitiva. A própria Anthropic enfatiza que a etiqueta não comprova a autoria, mas sim indica uma probabilidade. À medida que a tecnologia evolui, provavelmente veremos sistemas mais robustos, mas, por enquanto, a transparência continua sendo um desafio.
Em resumo, a adição de marcas d'água invisíveis no Claude representa um passo importante para o cumprimento das regulamentações europeias e para fornecer aos usuários mais informações sobre a origem do conteúdo. Embora o sistema tenha limitações, é um passo significativo na direção certa. A comunidade tecnológica acompanhará de perto a ferramenta de detecção que a Anthropic promete lançar em breve, bem como a forma como outras empresas se adaptam a essa nova realidade.