Les terribles profils d’IA de Meta deviennent viraux

Ils ne sont pas nouveaux. Ils sont pourtant horribles.

Meta n’est peut-être pas la première entreprise qui vient à l’esprit lorsque l’on pense à l’IA générative, mais elle joue un rôle important dans la course actuelle à l’intelligence artificielle. La société possède son propre modèle d’IA, Llama, et a ajouté « Meta AI » à tous ses gros produits, que cela vous plaise ou non (vous ne l’aimez pas). Meta veut même que vous essayiez de créer votre propre robot IA. On peut affirmer sans se tromper que l’entreprise mise entièrement sur l’IA.

Mais même pour une entreprise aussi engagée dans l’IA, cette dernière histoire est tout simplement bizarre. Il s’avère que l’entreprise expérimente des comptes d’utilisateurs générés par l’IA sur ses plateformes depuis 2023. Les versions Instagram de ces pages deviennent actuellement virales, mais elles sont également disponibles sur Facebook. Les comptes sont vérifiés et chacun est doté d’une personnalité unique, mais ils sont complètement frauduleux. Chacun est entièrement constitué, avec des publications d’images générées par l’IA.

Tout cela est très étrange, mais pas si nouveau non plus : les profils ont été créés il y a plus d’un an et semblent avoir été en grande partie abandonnés. Et maintenant que les profils suscitent de nombreuses réactions négatives en ligne, Meta supprime activement leur contenu.

Les utilisateurs d’IA de Meta sont rebutants

Il n’est pas difficile de comprendre pourquoi Internet a adopté la haine de ces fausses personnes. Prenez « Liv » (nom d’utilisateur « himamaliv »), qui prétend être une « fière maman queer noire de 2 enfants et qui raconte la vérité ». Bien sûr, Liv n’est pas réelle, pas plus que la vie qu’elle publie sur son Instagram. Mais cela n’arrête pas Liv : la créatrice a publié des articles sur l’éducation de filles fortes, le patinage sur glace avec sa famille et « le fait de profiter de tout le soleil et de s’amuser » avec « les enfants ». Chaque message arbore une image correspondante – le message sur la plage montre des enfants jouant dans le sable, tandis que le message sur le patinage sur glace montre des patineurs sur une patinoire – mais toutes ces images sont générées par l’IA.

Au crédit de Meta, chaque image arbore un filigrane Meta AI pour indiquer que l’image n’est pas réellement réelle, mais cela ne rend pas ces publications moins effrayantes. Pourquoi une « mère » générée par l’IA publie-t-elle une image générée par l’IA de ses « enfants » jouant à la « plage » ? À qui a profité la collecte de manteaux générée par l’IA dont elle est fière d’avoir été le fer de lance ?

le post effrayant de Liv sur la plage

Dans son deuxième message le plus ancien, datant du 26 septembre 2023, elle déclare : « Mon jardin est mon endroit heureux… J’ai organisé tellement de fêtes d’anniversaire, de repas au restaurant et de soirées entre filles dans cet espace que j’en ai perdu le compte. reconnaissant pour la vie que je vis », complété par une image générée par l’IA d’un pique-nique. Le fait est que Liv n’a pas organisé de fêtes d’anniversaire, de repas au restaurant ou de soirées entre filles dans cet espace. Cet espace n’existe pas. La vie que Liv est si reconnaissante de vivre n’existe pas.

Liv suit 18 comptes au moment de la rédaction de cet article. Treize d’entre elles semblent être des pages similaires générées par l’IA. Par exemple, il y a Becca (dogloverbecca), qui publie du contenu sur les chiens généré par l’IA ; Brian (bonjourgrandpabiran), qui se présente comme « le grand-père de tout le monde » ; et Alvin l’Alien (salutationsalvin), qui est, euh, un extraterrestre.

Mais pas tous les posts sont Généré par l’IA. Certains d’entre eux ont également posté des vidéos sur leurs comptes, et même si les vidéos générées par l’IA peuvent certainement être convaincantes de nos jours, je ne pense pas que ces vidéos soient générées par l’IA – du moins, pas toutes. Carter, le coach de rencontres en IA, avait une vidéo de cuisine de janvier 2024 qui semblait tout à fait réelle, mais il semble que Meta ait détruit tout le contenu. Mais qui les a postés ? Dans quel but ?

Ces comptes ne sont pas nouveaux, mais deviennent viraux

Le plus étrange, c’est que ces articles et pages ne sont pas nouveaux. Le dernier message de Liv, par exemple, date du 8 mars 2024, tout comme la plupart des messages de ces robots IA. (Carter semble avoir posté une publication en juin.) Pour la plupart, leurs profils sont abandonnés, bien que des badges de vérification soient toujours apposés sur chacun. Cela dit, au moment où j’écris ces lignes, Meta semble supprimer le contenu de chacune des pages Instagram. Les homologues de Facebook semblent toujours en ligne, mais j’imagine qu’ils disparaîtront bientôt aussi.

carters faux post d'IA

Les pages sont en fait liées aux chatbots d’IA que Meta a développés en 2023, alors qu’elle mettait réellement en marche ses programmes d’IA. Les gros titres se concentraient alors principalement sur une liste de chatbots IA de célébrités, qui vous permettaient de discuter avec « Tom Brady », « Kendall Jenner » et « Paris Hilton ». Mais parmi cette liste de chatbots non célèbres déployés par Meta figuraient des noms comme Liv, Brian et Alvin the Alien. Vous pouvez toujours discuter avec eux si vous le souhaitez : visitez le profil de Liv et vous pourrez démarrer une conversation. Mais comme avec tout autre chatbot IA, vous n’irez probablement pas très loin.

On ne sait pas vraiment pourquoi ces comptes deviennent viraux maintenant, un an et demi après leur lancement initial par Meta. Si je devais deviner, je dirais que c’est parce qu’ils sont vraiment si mauvais. Les récits sont étranges, et leur bizarrerie comporte tellement de niveaux : les personnalités développées par Meta sont rebutantes (et à la limite offensantes) ; les messages eux-mêmes sont effrayants (qui veut voir des photos IA d’enfants de fausses personnes, accompagnées d’une histoire sur leur journée à la plage ?) ; et le fait qu’ils soient vérifiés va complètement à l’encontre de l’objectif de la vérification.

En bref, les comptes datent peut-être de 2023, mais ils reflètent un ressentiment furieux à l’égard de la négligence de l’IA en 2025. Comme l’écrit Jason Koebler de 404media sur Bluesky :

Les profils Meta AI actuellement viraux sont anciens et sont déjà inactifs car ils ont constitué un échec colossal et étaient impossibles à distinguer du spam IA. Cet avenir « inévitable » que Zuckerberg essaie de nous imposer est complètement rejeté www.404media.co/metas-ai-pro… (image ou intégration)

– Jason Koebler (@jasonkoebler.bsky.social) 3 janvier 2025 à 12h12