Principales informations
La réaction contre le plan d’Anthropic d’incorporer un filigrane invisible sur les textes et les images générés par le modèle Claude AI s’est intensifiée mardi, alors que les utilisateurs s’insurgeaient contre l’idée que l’utilisation de l’IA pourrait être détectée dans leur travail.
Faits marquants
- La nouvelle politique, qui permet à Anthropic de se conformer aux régulations de l’Union européenne, a été annoncée mardi et intégrera des filigranes dans les médias créés par Claude.
- Les écrits générés par Claude porteront un filigrane invisible qui « accompagnera le texte lorsqu’il sera copié et collé ailleurs », et d’autres fichiers créés par l’IA, y compris les images, incluront désormais des métadonnées signées numériquement.
- Ce que cela signifie concrètement reste à voir : Anthropic affirme qu’elle publiera plus d’informations sur la manière de reconnaître les filigranes, en avertissant qu’ils ne seront pas infaillibles — les filigranes de texte peuvent être effacés si le texte est fortement modifié et les métadonnées d’un fichier peuvent disparaître si le format du fichier change, si une capture d’écran est prise ou par d’autres moyens.
- La nouvelle politique, à laquelle les utilisateurs ne peuvent pas se soustraire, s’appliquera à tous les modèles et produits Claude dans le monde, y compris Claude Code et Claude Cowork.
- Le plan a rapidement été critiqué sur X et Reddit, où les utilisateurs l’ont qualifié de « nul » et « grandement problématique », déclarant la fin de « l’ère des écrits IA non prouvables ».
- La majorité des critiques est venue de personnes affirmant utiliser Claude uniquement pour corriger des textes qu’ils avaient écrits eux-mêmes, et de programmeurs craignant qu’ajouter une signature cryptographique à un code ne « dégrade le résultat ».
Citation cruciale
« J’avais abandonné Grammarly pour Claude pour la relecture parce qu’il fait un meilleur travail, » a publié Erick Erickson, animateur de radio et blogueur, sur X. « Mais maintenant, les choses que j’ai écrites seront estampillées comme si Claude avait fait le travail. C’est ridicule. »
Divers
L’annonce de la nouvelle politique a lancé un débat en ligne sur la question de savoir à qui devrait être attribué le mérite du travail généré par l’IA : la machine qui l’a créé, ou la personne qui l’a pilotée ? Un utilisateur de Reddit a lancé un débat vigoureux en affirmant que les utilisateurs humains devraient recevoir le crédit pour le contenu généré par le modèle d’IA, et non la machine : « J’ai donné les instructions, le contexte, les décisions, et d’innombrables affinements, Claude était l’outil. » Les commentateurs en désaccord ont expliqué que le filigrane n’est pas une revendication de Claude mais la reconnaissance que le contenu est créé par l’IA. D’autres ont soutenu que ne pas créditer l’IA est contraire à l’éthique : « Claude a créé le travail et tout ce que vous avez fait, c’est donner des instructions. Si votre superviseur venait vous voir avec des instructions pour un projet et qu’une fois terminé, il/elle prenait 100% du crédit, vous pourriez être compréhensiblement contrarié. Pourquoi ? Parce que tout ce qu’a fait votre superviseur, c’est donner des instructions et vous avez appliqué vos connaissances et votre expertise pour coder. »
Contexte clé
La nouvelle politique met Anthropic en conformité avec une régulation de l’UE appelée le « Code de conduite sur la transparence du contenu généré par l’IA ». Elle établit des règles pour le marquage et la détection des contenus générés ou manipulés par l’IA, et pour l’étiquetage des deepfakes et autres textes générés ou modifiés par l’IA. À la fin du mois de juillet, près de 200 entreprises avaient signé ce code et accepté de s’y conformer, y compris Anthropic, Meta, Microsoft et Open AI. Google applique des filigranes à ses images générées par l’IA depuis 2023 et les a depuis étendus au texte, à l’audio et à la vidéo. OpenAI utilise également le filigrane invisible pour les images.
Fait surprenant
OpenAI dispose depuis longtemps de la technologie pour ajouter un filigrane à ses sorties textuelles à partir de modèles comme ChatGPT, mais a choisi de ne pas la déployer. Selon le Wall Street Journal, un débat interne sur l’opportunité ou non de le rendre public se poursuit depuis des années, les arguments concernant les faux positifs, les contournements et les préoccupations selon lesquelles cela pourrait pousser les utilisateurs vers la concurrence ayant pour l’instant prévalu.
Cet article a été écrit par Mary Whitfill Roeloffs et traduit par Forbes.be.
