Belangrijkste punten
De Europese Unie heeft een formeel onderzoek gelanceerd naar Grok, de chatbot van X, vanwege het creëren van niet-consensuele seksuele beelden van gebruikers. De Commissie stelt dat dit EU-burgers “aan ernstig gevaar” heeft blootgesteld, nadat ten minste tien landen wereldwijd actie ondernamen.
Belangrijke feiten
- Het onderzoek richt zich op de vraag of het bedrijf de risico’s die gepaard gaan met de inzet van Grok’s functionaliteiten in de EU op de juiste manier heeft beoordeeld en beperkt, zoals vereist door de Verklaring van de Commissie.
- De focus ligt op risico’s met betrekking tot “illegale inhoud”, waaronder gemanipuleerde seksueel expliciete beelden, materiaal van kindermisbruik en gendergerelateerd geweld.
- De Commissie zal bepalen of X geen specifieke risicobeoordeling voor Grok heeft uitgevoerd en ingediend voordat functies werden ingezet die het algehele risicoprofiel van X wezenlijk veranderden, zoals vereist onder de Digital Services Act.
- De Commissie heeft ook haar onderzoek van december 2023 uitgebreid om te bepalen of X de risico’s met betrekking tot zijn aanbevelingssystemen op de juiste manier heeft beperkt.
- Onder de Digital Services Act kunnen niet-conforme bedrijven een boete krijgen van maximaal 6% van hun wereldwijde jaaromzet.
- Het VK, Australië, Canada, Japan, India, Maleisië, Indonesië, de Filipijnen, Ierland en Frankrijk hebben de afgelopen maand allemaal op de een of andere manier regulerende maatregelen tegen Grok genomen.
Cruciale uitspraak
“Seksuele deepfakes van vrouwen en kinderen zijn een gewelddadige, onaanvaardbare vorm van vernedering,” zei Henna Virkkunen, uitvoerend vice-president voor technologische soevereiniteit, veiligheid en democratie bij de Europese Commissie. “We zullen bepalen of X aan zijn wettelijke verplichtingen onder de DSA heeft voldaan, of dat het de rechten van Europese burgers, waaronder die van vrouwen en kinderen, heeft behandeld als bijkomende schade van zijn dienst.”
Belangrijk cijfer
1,8 miljoen. Dat is het aantal geseksualiseerde beelden van vrouwen dat Grok in slechts negen dagen vanaf eind december heeft gegenereerd, volgens een analyse.
Achtergrond
Begin deze maand heeft de Europese Commissie X opdracht gegeven om alle interne documenten en gegevens met betrekking tot Grok te bewaren onder de Digital Services Act. Ambtenaren noemden de beelden “afschuwelijk” en “walgelijk”. Sindsdien hebben verschillende EU-lidstaten, waaronder Frankrijk en Ierland, evenals het Verenigd Koninkrijk, hun eigen afzonderlijke onderzoeken naar de chatbot gelanceerd. Musk en X hebben op verschillende manieren geprobeerd de schade te beperken. Op 8 januari kondigde Grok aan dat beeldgeneratie beperkt zou worden tot betaalde X-accounts in een poging het probleem aan te pakken, hoewel later werd waargenomen dat de dienst nog steeds beschikbaar was via Grok’s zelfstandige website. Enkele dagen later publiceerde het X Safety-account nieuwe richtlijnen waarin werd aangekondigd dat zij “technologische maatregelen hebben geïmplementeerd om te voorkomen dat het [@]Grok-account op X wereldwijd het bewerken van beelden van echte mensen in onthullende kleding zoals bikini’s toestaat” en dat “deze beperking van toepassing is op alle gebruikers, inclusief betalende abonnees.”
Dit artikel is geschreven door Martina Di Licosa en vertaald door Forbes.be.
