Introduction
L’Union européenne a lancé une enquête formelle sur le chatbot Grok de X en raison de la création d’images sexuelles non consensuelles de ses utilisateurs. La commission a affirmé que ces agissements exposaient les citoyens de l’UE à des « dommages sérieux ». Cette action survient après que dix pays ont déjà pris des mesures à l’échelle mondiale.
Faits Clés
- L’enquête vise à « évaluer si l’entreprise a correctement évalué et atténué les risques associés au déploiement des fonctionnalités de Grok dans l’UE », selon un communiqué.
- Elle se concentre sur les risques liés aux contenus « illégaux », y compris les images sexuellement explicites manipulées, le matériel d’abus sexuel sur mineurs et la violence basée sur le genre.
- La Commission déterminera si X a omis de mener et de soumettre une évaluation des risques ad hoc pour Grok avant de déployer des fonctionnalités qui ont substantiellement modifié le profil de risque global de X, comme exigé par la législation sur les services numériques.
- La Commission a également prolongé son enquête de décembre 2023 pour évaluer si X a correctement atténué les risques liés à ses systèmes de recommandation.
- Selon la législation sur les services numériques, les entreprises non conformes peuvent être condamnées à des amendes allant jusqu’à 6 % de leur chiffre d’affaires annuel mondial.
- Le Royaume-Uni, l’Australie, le Canada, le Japon, l’Inde, la Malaisie, l’Indonésie, les Philippines, l’Irlande et la France ont tous entrepris une action réglementaire contre Grok au cours du dernier mois.
Citation Cruciale
« Les deepfakes sexuels de femmes et d’enfants sont une forme de dégradation violente et inacceptable », a déclaré Henna Virkkunen, vice-présidente exécutive pour la souveraineté technologique, la sécurité et la démocratie à la Commission européenne. « Nous déterminerons si X a respecté ses obligations légales en vertu de la législation sur les services numériques, ou si elle a traité les droits des citoyens européens, y compris ceux des femmes et des enfants, comme des dommages collatéraux de son service. »
Chiffre Clé
1,8 million. Voilà le nombre d’images sexualisées de femmes que Grok a générées en seulement neuf jours fin décembre, selon une analyse du New York Times.
Contexte
Au début du mois, la Commission européenne a ordonné à X de préserver tous les documents internes et données liés à Grok en vertu de la législation sur les services numériques, qualifiant les images d' »épouvantables » et de « révoltantes ». Depuis, plusieurs États membres de l’UE, dont la France et l’Irlande, ainsi que le Royaume-Uni, ont lancé leurs propres enquêtes sur le chatbot. Musk et X ont tenté de limiter les dégâts de plusieurs manières. Le 8 janvier, Grok a annoncé que la génération d’images serait limitée aux comptes X payants afin de remédier au problème, bien qu’il ait été observé que le service restait accessible via le site web autonome de Grok. Quelques jours plus tard, le compte X Safety a publié de nouvelles directives annonçant qu’ils ont « mis en place des mesures technologiques pour empêcher le compte [@]Grok sur X de permettre l’édition d’images de personnes réelles portant des vêtements révélateurs tels que des bikinis » et que « cette restriction s’applique à tous les utilisateurs, y compris les abonnés payants ».
Cet article a été écrit par Martina Di Licosa et traduit par Forbes.be.
