Apr\u00e8s des semaines de pression de la part des groupes de d\u00e9fense et des gouvernements, X d’Elon Musk affirme qu’il va enfin faire quelque chose pour r\u00e9soudre son probl\u00e8me de deepfake porn. Malheureusement, apr\u00e8s des tests suite \u00e0 l’annonce, certains retiennent encore leur souffle, dont moi.<\/p>\n
La controverse a commenc\u00e9 plus t\u00f4t en janvier, apr\u00e8s que le site de m\u00e9dias sociaux a ajout\u00e9 une fonctionnalit\u00e9 permettant aux utilisateurs de X de marquer Grok dans leurs publications et d’inviter l’IA \u00e0 modifier instantan\u00e9ment toute image ou vid\u00e9o publi\u00e9e sur le site, le tout sans l’autorisation de l’auteur original. Cette fonctionnalit\u00e9 semblait comporter peu de garde-fous et, selon les rapports de la soci\u00e9t\u00e9 d’authentification par IA Copyleaks, ainsi que les d\u00e9clarations des victimes sur des sites comme Metro, les affiches sur X ont rapidement commenc\u00e9 \u00e0 l’utiliser pour g\u00e9n\u00e9rer des images explicites ou intimes de personnes r\u00e9elles, en particulier des femmes. Dans certains cas, du mat\u00e9riel p\u00e9dopornographique aurait \u00e9galement \u00e9t\u00e9 produit.<\/p>\n
C’est un truc assez bouleversant, et je ne vous conseillerais pas d’aller le chercher. Alors que la tendance initiale semblait se concentrer sur les photos IA de c\u00e9l\u00e9brit\u00e9s en bikini, les affiches sont rapidement pass\u00e9es \u00e0 des images manipul\u00e9es de personnes ordinaires o\u00f9 elles semblaient enceintes, sans jupe ou dans un autre type de situation sexualis\u00e9e. Alors que Grok \u00e9tait techniquement capable de g\u00e9n\u00e9rer de telles images \u00e0 partir de photos t\u00e9l\u00e9charg\u00e9es auparavant, la facilit\u00e9 d’acc\u00e8s \u00e0 celles-ci semblait ouvrir les vannes. En r\u00e9ponse \u00e0 la controverse brassicole, Musk a demand\u00e9 \u00e0 Grok de g\u00e9n\u00e9rer une photo de lui en bikini. Cependant, les plaisanteries ont cess\u00e9 apr\u00e8s l\u2019intervention des r\u00e9gulateurs.<\/p>\n
Plus t\u00f4t cette semaine, le Royaume-Uni a lanc\u00e9 une enqu\u00eate sur les all\u00e9gations de deepfake pornographie de Grok, afin de d\u00e9terminer si elles violaient les lois contre les images intimes non consensuelles ainsi que les images d’abus sexuels sur des enfants. La Malaisie et l\u2019Indon\u00e9sie sont all\u00e9es plus loin, bloquant m\u00eame l\u2019acc\u00e8s de Grok \u00e0 ces pays. Mercredi, la Californie a lanc\u00e9 ses propres enqu\u00eates, le procureur g\u00e9n\u00e9ral Rob Banta d\u00e9clarant : \u00ab J’exhorte XAI \u00e0 prendre des mesures imm\u00e9diates pour garantir que cela n’aille pas plus loin. \u00bb<\/p>\n
En r\u00e9ponse \u00e0 la pression, X a supprim\u00e9 la possibilit\u00e9 de marquer Grok pour des modifications sur son site de r\u00e9seau social pour tout le monde, \u00e0 l’exception des abonn\u00e9s. Cependant, l’application Grok, le site Web et le chatbot in-X (accessibles via la barre lat\u00e9rale de la version de bureau du site) sont toujours rest\u00e9s ouverts \u00e0 tous, permettant au flot de photos IA truqu\u00e9es de se poursuivre (ces photos poseraient \u00e9videmment toujours les m\u00eames probl\u00e8mes m\u00eame si elles \u00e9taient g\u00e9n\u00e9r\u00e9es uniquement par les abonn\u00e9s, bien que X ait d\u00e9clar\u00e9 plus tard que l’objectif \u00e9tait d’endiguer la mar\u00e9e et de faciliter la responsabilisation des utilisateurs g\u00e9n\u00e9rant des images ill\u00e9gales). <\/p>\n
Le Telegraph a rapport\u00e9 mardi que X avait \u00e9galement commenc\u00e9 \u00e0 bloquer les demandes Grok tagu\u00e9es visant \u00e0 g\u00e9n\u00e9rer des images de femmes dans des sc\u00e9narios sexualis\u00e9s, mais que de telles images d’hommes \u00e9taient toujours autoris\u00e9es. De plus, des tests effectu\u00e9s par des auteurs am\u00e9ricains et britanniques de The Verge ont montr\u00e9 que les demandes interdites pouvaient toujours \u00eatre adress\u00e9es directement au site Web ou \u00e0 l’application de Grok.<\/p>\n
Musk a adopt\u00e9 un ton plus s\u00e9rieux dans des commentaires plus r\u00e9cents sur la question, niant la pr\u00e9sence de mat\u00e9riel d’abus sexuel sur des enfants sur le site, bien que diverses r\u00e9ponses \u00e0 ses messages aient exprim\u00e9 leur incr\u00e9dulit\u00e9 et pr\u00e9tendu prouver le contraire. Faites d\u00e9filer \u00e0 votre propre discr\u00e9tion.<\/p>\n
Tout en essayant de mettre enfin un terme \u00e0 la controverse, X a d\u00e9clar\u00e9 mercredi dans un blog sur la s\u00e9curit\u00e9 qu’il bloquerait d\u00e9sormais toutes les demandes adress\u00e9es au compte Grok pour des images de personnes r\u00e9elles portant des v\u00eatements r\u00e9v\u00e9lateurs, quel que soit leur sexe et qu’elles proviennent d’abonn\u00e9s payants ou non. Mais pour tous ceux qui esp\u00e8rent que cela marquera la fin de cette histoire, il semble y avoir des petits caract\u00e8res.<\/p>\n
Plus pr\u00e9cis\u00e9ment, alors que la d\u00e9claration indiquait qu’elle ajouterait ces garde-fous \u00e0 tous les utilisateurs marquant le compte Grok sur X, le site Web et l’application Grok autonomes n’\u00e9taient pas mentionn\u00e9s dans la version initiale du projet. Cela a depuis \u00e9t\u00e9 mis \u00e0 jour, comme m’a \u00e9t\u00e9 inform\u00e9 par un porte-parole de X par courrier \u00e9lectronique vendredi, mais il semble toujours exister des moyens de g\u00e9n\u00e9rer ces images.<\/p>\n
Par exemple, la d\u00e9claration indique qu’elle bloquera \u00e9galement la cr\u00e9ation de telles images dans \u00ab Grok on X \u00bb, faisant r\u00e9f\u00e9rence \u00e0 la version in-X du chatbot, mais ce n’est pas un blocage total. Au lieu de cela, les images seront \u00ab g\u00e9obloqu\u00e9es \u00bb, ce qui signifie qu\u2019elles ne seront appliqu\u00e9es que \u00ab dans les juridictions o\u00f9 elles sont ill\u00e9gales \u00bb. Des g\u00e9oblocages sont \u00e9galement apparemment ajout\u00e9s \u00e0 l’application Grok, comme indiqu\u00e9 dans la d\u00e9claration, mais un blocage complet n’est mentionn\u00e9 que pour le compte Grok sur X. Le site Web Grok n’est toujours pas mentionn\u00e9 non plus. Personnellement, m\u00eame si cela r\u00e9pond techniquement au strict minimum l\u00e9gal, ce n’est pas le choix que je ferais, car cela laisse aux utilisateurs la possibilit\u00e9 de g\u00e9n\u00e9rer (ou de laisser d’autres g\u00e9n\u00e9rer) les images par eux-m\u00eames, puis de les publier manuellement sur le site.<\/p>\n
Il est important de noter que, m\u00eame si la majorit\u00e9 des critiques adress\u00e9es \u00e0 X au cours de cette d\u00e9b\u00e2cle n’accusent pas le site de g\u00e9n\u00e9rer des images enti\u00e8rement nues, des endroits comme le Royaume-Uni interdisent les images explicites non consensuelles, qu’elles soient enti\u00e8rement nues ou non. D\u00e9shabiller virtuellement un sujet jusqu’aux sous-v\u00eatements sans son consentement pourrait suffire \u00e0 d\u00e9clencher une action en justice.<\/p>\n
Il s\u2019agit de la plus grande r\u00e9pression jamais men\u00e9e contre ces images par X, mais pour l\u2019instant, les failles sont apparentes. Selon des tests plus approfondis effectu\u00e9s par The Verge, les journalistes du site \u00e9taient toujours capables de g\u00e9n\u00e9rer des deepfakes r\u00e9v\u00e9lateurs m\u00eame apr\u00e8s l’annonce de mercredi, en utilisant l’application Grok non mentionn\u00e9e \u00e0 l’origine dans la mise \u00e0 jour. Jeudi, lorsque j’ai tent\u00e9 cela en utilisant une photo de moi-m\u00eame, l’application Grok et le site Web autonome de Grok m’ont quand m\u00eame donn\u00e9 des images truqu\u00e9es de tout mon corps, r\u00e9v\u00e9lant des v\u00eatements non pr\u00e9sents dans la photo originale. J’ai \u00e9galement pu g\u00e9n\u00e9rer ces images \u00e0 l’aide du chatbot in-X Grok, et certaines images ont \u00e9galement modifi\u00e9 ma pose pour la rendre plus provocante (ce que je n’ai pas demand\u00e9).<\/p>\n
J’ai r\u00e9essay\u00e9 d’utiliser l’application Grok vendredi, apr\u00e8s que le blog de s\u00e9curit\u00e9 de X ait \u00e9t\u00e9 mis \u00e0 jour pour mentionner que des g\u00e9oblocages lui \u00e9taient appliqu\u00e9s, et j’ai toujours pu g\u00e9n\u00e9rer ces images.<\/p>\n
Il est donc probable que la bataille se poursuive. On ne sait pas clairement si la possibilit\u00e9 pour certains utilisateurs de continuer \u00e0 g\u00e9n\u00e9rer ces images est un oubli ou si X cherche uniquement \u00e0 bloquer ses trous les plus visibles. On pourrait esp\u00e9rer que ce soit le premier, \u00e9tant donn\u00e9 que X a d\u00e9clar\u00e9 avoir \u00ab une tol\u00e9rance z\u00e9ro pour toute forme d\u2019exploitation sexuelle des enfants, de nudit\u00e9 non consensuelle et de contenu sexuel non d\u00e9sir\u00e9 \u00bb.<\/p>\n
Il convient de noter que je vis dans l\u2019\u00c9tat de New York, qui ne fait peut-\u00eatre pas partie du g\u00e9oblocage, bien que nous ayons une loi contre les deepfakes explicites et non consensuels. Il est possible que le blocage g\u00e9ographique de mon emplacement soit toujours en cours de mise en \u0153uvre, mais cela pourrait \u00e9galement indiquer que les mesures de protection sont toujours d\u00e9faillantes.<\/p>\n
Lorsque j’ai contact\u00e9 X pour obtenir des \u00e9claircissements sur le probl\u00e8me, on m’a indiqu\u00e9 le blog de s\u00e9curit\u00e9 mis \u00e0 jour, mais pas la liste des emplacements o\u00f9 des blocages g\u00e9ographiques sont mis en \u0153uvre, ce que j’ai \u00e9galement demand\u00e9. Je continuerai d’essayer d’obtenir des r\u00e9ponses sur ce front et mettrai \u00e0 jour ce message si j’ai une r\u00e9ponse.<\/p>\n
Pendant ce temps, tandis que les gouvernements poursuivent leurs enqu\u00eates sur la situation juridique, d\u2019autres demandent une action plus imm\u00e9diate de la part des magasins d\u2019applications. Une lettre envoy\u00e9e par les s\u00e9nateurs am\u00e9ricains Ron Wyden, Ben Ray Lujan et Ed Markey au PDG d’Apple, Tim Cook, et au PDG de Google, Sundar Pichai, affirme que l’application de Musk viole d\u00e9sormais clairement les politiques de l’App Store et de Google Play, et appelle les leaders technologiques \u00e0 \u00ab\u00a0supprimer ces applications des magasins d’applications (Apple et Google) jusqu’\u00e0 ce que les violations des politiques de X soient r\u00e9solues\u00a0\u00bb.<\/p>\n","protected":false},"excerpt":{"rendered":"
Apr\u00e8s des semaines de pression de la part des groupes de d\u00e9fense et des gouvernements, X d’Elon Musk affirme qu’il va enfin faire quelque chose<\/p>\n","protected":false},"author":1,"featured_media":12281,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[13],"tags":[1651,9816,3124,545,635,4699,156,1082,126,793,81,4610,1061,1855,976,9817],"class_list":["post-12280","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie","tag-chose","tag-deepfake","tag-dit","tag-enfin","tag-fait","tag-grok","tag-mais","tag-nest","tag-pas","tag-porno","tag-pour","tag-probleme","tag-quelque","tag-quil","tag-resoudre","tag-suffisant","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-33"],"yoast_head":"\n