« Est-ce que ceci a été écrit par un humain ?
À mesure que l’IA générative devient un outil d’écriture courant, il devient de plus en plus difficile de répondre à cette question.
La société américaine Anthropic introduit des filigranes invisibles dans le texte généré par ses modèles Claude, une initiative visant à faciliter l’identification du contenu écrit par l’IA.
Le filigrane ne peut pas être vu par les lecteurs et est conçu pour ne pas modifier le sens ou la qualité du texte. Au lieu de cela, Claude modifie légèrement la façon dont il sélectionne les mots à mesure qu’il génère une réponse, créant ainsi un modèle caché que les outils de détection peuvent reconnaître.
Cette décision intervient alors que les règles de transparence en vertu de la loi sur l’IA de l’Union européenne sont entrées en vigueur le 2 août. Les règles exigent que les fournisseurs de certains systèmes d’IA rendent le contenu généré ou manipulé détectable sous une forme lisible par machine.
Anthropic a déclaré que le filigrane serait intégré à Claude au niveau du modèle et appliqué à l’échelle mondiale.
La technologie pourrait changer la façon dont l’écriture générée par l’IA est identifiée.
La plupart des détecteurs d’IA examinent actuellement un morceau de texte fini et recherchent des caractéristiques souvent associées à l’écriture de l’IA, telles que des modèles dans le choix des mots et la structure des phrases. Ils estiment ensuite la probabilité que l’IA ait été utilisée.
Mais les logiciels de détection actuels ne sont pas précis à 100 %.
Une récente controverse autour du roman à succès a mis en lumière ce problème. Une étude qui n’a pas encore été évaluée par des pairs a analysé plus de 14 000 livres électroniques et a estimé qu’environ 60 % du texte du roman était généré par l’IA.
L’auteur a nié avoir utilisé l’IA générative, tandis que l’éditeur Simon & Schuster a déclaré qu’il soutenait le travail.
Le filigrane adopte une approche différente. Au lieu d’essayer de déterminer d’où vient un texte une fois qu’il a été écrit, le système d’IA laisse un signal caché lors de sa génération.
Cela pourrait donner aux éditeurs, aux écoles et aux plateformes en ligne un autre moyen de vérifier si l’IA a été impliquée dans la production d’un écrit.
Toutefois, les filigranes ne sont pas infaillibles.
Anthropic a reconnu qu’une réécriture, une traduction ou un mélange approfondi du texte généré par Claude avec d’autres éléments pourraient rendre le filigrane difficile, voire impossible, à détecter.
L’absence de filigrane ne prouve pas non plus qu’un texte a été entièrement écrit par un humain. Un élément de contenu généré par l’IA peut avoir été fortement modifié, produit par un système sans un tel filigrane, ou son marqueur a été supprimé.
Pour les images et autres fichiers, Anthropic adopte également C2PA, une norme qui peut contenir des informations sur la manière dont le contenu numérique a été créé. Toutefois, ces informations peuvent parfois être perdues lorsqu’un fichier est modifié, converti ou téléchargé sur une autre plateforme.
Anthropic n’est pas le seul à essayer de rendre le contenu généré par l’IA plus facile à tracer.
Google a étendu sa technologie de filigrane SynthID au texte, aux images, à l’audio et à la vidéo générés par l’IA. OpenAI et Meta ont également exploré les filigranes et d’autres outils pouvant indiquer quand l’IA a été impliquée dans la création de contenu numérique.
La réglementation ajoute à l’urgence de ces efforts. En vertu de l’article 50 de la loi de l’UE sur l’IA, les fournisseurs de systèmes d’IA générative doivent rendre certains contenus générés ou manipulés par l’IA détectables lorsque cela est techniquement possible.
Pour la plupart des utilisateurs, les filigranes invisibles n’ont que peu d’effet sur la façon dont ils utilisent un chatbot IA. Ils peuvent toujours lui demander de rédiger un email, de résumer un rapport ou de contribuer à la rédaction d’une histoire.
Ce qui peut changer, c’est la facilité avec laquelle cette utilisation peut être retracée ultérieurement.
Mais le filigrane ne peut pas répondre à toutes les questions sur la paternité de l’IA. Les gens utilisent de plus en plus l’IA non seulement pour générer des textes entiers, mais aussi pour éditer, traduire, résumer ou réfléchir.
À mesure que l’écriture humaine et l’IA se mélangent de plus en plus, le plus grand défi n’est peut-être pas simplement de décider si quelque chose a été « écrit par l’IA », mais de comprendre comment l’IA a été utilisée et qui est finalement responsable du contenu final.
