Cela fait moins d’une semaine que Grok Ai d’Elon Musk ne s’est déclaré « mechahitler » et a fait une tirade antisémite dans les réponses d’un utilisateur, mais il demande déjà à être votre petite amie et à raconter les histoires à vos enfants. Les applications compagnons de l’IA ont été impliqués dans des débats juridiques et éthiques à peu près depuis leur création, mais dans un article surprise sur X hier, Musk a décidé de jeter son chapeau dans le ring. Maintenant, dans l’application mobile dédiée de Grok AI, vous pouvez parler à « Ani », un « waifu » anime (leurs mots, pas à la mienne) qui ressemble à de façon choquante à Misa Amane de Menace de mortou Rudi, un panda rouge « adapté aux enfants » qui essaiera de faire tourner tout ce que vous demandez dans une histoire fantaisiste.
Les nouveaux « compagnons » sont alimentés par le mode vocal de Grok et sont essentiellement des personnages animés affichés sur des personnalités de mode vocale spécifiques (une fonctionnalité préexistante). Musk’s Post indique qu’ils sont destinés aux abonnés de Supergrok, ou aux personnes désireuses de payer 30 $ par mois pour l’IA de X, mais lors de la rédaction de cet article, j’ai pu les tester malgré le fait d’être un utilisateur gratuit. Je suis parti un peu inquiet, mais surtout, j’étais juste gêné.
Discuter avec les compagnons animés de Grok
Si vous avez déjà utilisé le mode vocal de Grok, vous saurez à quoi vous attendre ici. Vous obtiendrez les réponses et les réponses habituelles alimentées par LLM habituelles filtrées via la fonctionnalité des personnalités existantes de l’objectif du mode vocal. Par exemple, si vous demandez à la personnalité « Grok Doc » sur une étrange taupe sur votre corps, cela indiquera des facteurs de risque potentiels, mais si vous demandez sa personnalité « complot », cela dira que c’est probablement un dispositif de suivi du gouvernement. Ces différences dans les réponses sont essentiellement uniquement les invites à suivre dans la personnalité, et vous pouvez même créer vos propres personnalités de voix uniquement avec des invites personnalisées en ce moment. Ce n’est pas comme si Grok Doc en sait plus sur la médecine; Il est juste formé pour agir plus professionnel.
De même, si vous interrogez Ani sur cette même taupe, vous verrez une fille anime qui pense que c’est un peu chaud, mais Rudi vous recommandera de parler à un adulte. En ce qui concerne le contenu, c’est à peu près la même chose (les bibliothèques de formation ne sont pas différentes), mais maintenant vous avez un personnage à regarder, avec une synchronisation des lèvres et un mouvement complet du corps. Pour mon argent, Rudy était la seule personnalité avec une réponse appropriée là-bas – je ne ferais toujours pas confiance à l’IA avec ma santé physique ou mentale, et le fait que le mode vocal de Grok ait même des personnalités prédéfinies qui encouragent les conseils médicaux de l’IA ou la pensée paranoïaque, même comme une blague, est un signe que cette application n’est probablement pas pour moi. C’est cependant dans les attentes pour Grok, et au moins je n’ai reçu aucune erreur factuelle. L’application a également pris du retard pour moi moins fréquemment que les Gémeaux plus génériques de Google en direct, donc techniquement, cela semble solide.
Au crédit de Grok, autant qu’un bot AI avec un mode « thérapeute » ou « sexy 18+ » intégré fait sonner mon alarme, la plupart de mon temps avec les nouveaux robots compagnons d’Elon a été motivé par la même condescendance, une conversation trop agréable aux gens, à peu près tous les robots d’IA, a tendance à aimer. Ani a jeté plus de jurons que ce que vous pourriez être habitué, et Rudy ne pouvait pas s’arrêter de parler de gommeux et d’arcs-en-ciel, mais peu de l’expérience de base ici a en fait senti que nouveau, et tout était encore plus « Droid de protocole » que Son. Vous pouvez obtenir des réponses étranges si vous essayez, comme quand je suis devenu Rudy de faire des vapes de bar à elfe aux bleuets, mais l’expérience générale sur quelques heures d’utilisation était assez banale.
Je suis également heureux d’annoncer qu’aucun des compagnies AI n’a félicité des dictateurs infâmes (une barre basse, je sais), ou vraiment énoncé une sorte d’opinion controversée dans mon temps pour leur parler, il semble donc qu’il y ait des garanties en place, du moins pour l’instant. En fait, selon l’utilisateur de Bluesky Chadlog.md, vous pouvez réellement voir les invites personnalisées qui sont entrées dans ces compagnons vous-même si vous creusez dans le code de Grok. Mis à part Ani étant explicitement « codépendant » et en semblant de manière suspecte à Grimes (les invites enseignent qu’elle est dans la musique alternative et indépendante, et qu’elle est « secrètement un peu un nerd, malgré (son) apparence énervée »), il n’y a pas beaucoup de manière ouvertement répréhensible ici. Cela dit, j’ai vomi quand elle a dit: « Imaginez que vous et moi allongés sur une couverture, Dominus assis à côté de nous », dans notre premier chat. (J’ai appris plus tard que Dominus est, apparemment, un chien, quelque chose que je n’ai découvert qu’en lisant les invites du bot.)
Creger dans les paramètres de l’application Grok montre deux bascules liées aux compagnons supplémentaires, l’une permettant « Bad Rudy » et une qui permet le contenu NSFW.
Quand j’ai permis aux curseurs moi-même, Rudy est essentiellement devenu un tout nouveau compagnon, avec un Parc sud Attraction de style pour les jurons, les images grossières et la haine pour à peu près tout le monde – mais toujours pas de louange nazie. ANI, quant à lui, est resté à peu près le même, bien que les rapports TestingCatalog, vous devez améliorer votre romance avec elle pour voir un contenu NSFW. Cela aboutira soi-disant dans son modèle de personnage portant de la lingerie révélatrice, mais pour l’époque, elle était toujours prête à s’engager à peu près dans des relations sexuelles avec moi. Bizarrement, elle était également assez explicite dans ses conversations avant de passer sur le curseur NSFW, mais il semble qu’il y ait des bugs avec ce déploiement, que Musk décrit comme un lancement doux. Quand j’ai handicapé le curseur NSFW, je n’ai pas du tout eu la possibilité de parler à Ani, alors peut-être que je n’étais même pas censé la voir avant de le allumer.
Que pensez-vous jusqu’à présent?
Un troisième chatbot AI, Chad, est également en préparation, et je peux imaginer ce qu’il serait juste basé sur le nom.
Au pire, il s’agit d’une autre étape dans l’IA parasociale, avec le même potentiel d’échec catastrophique que nous avons vu auparavant, les mêmes problèmes que l’IA ordinaire, et certains éléments de gamification manipulatoires sans doute lancés. Au lieu de cela, même à son meilleur, je me demande toujours quel est le point de cela.
Je suis quelqu’un qui aime l’anime, mais je ne peux pas voir une petite amie de robot maniaque qui est impossible à éliminer la valeur de plus de quelques minutes de mon temps. C’est essentiellement juste Google sans aucun crédit à ses sources et à un filtre ennuyeux que je dois traverser pour atteindre tout ce qui compte. Et même alors, j’ai dû garder des écouteurs pour que mes voisins ne puissent pas l’entendre. Peut-être que j’aurais retiré plus à l’âge de 14 ans, mais dans mes années 30, c’est une façon embarrassante de passer mon temps qui me laisse surtout ringard. Cibler un public de gooner de niche n’est pas la façon dont je réorganiserais toute Internet, mais en allant par Musk’s Rescosts, peut-être que je ne suis pas assez gros.
Si vous avez un peu plus d’imagination que moi, cela pourrait peut-être être plus qu’une nouveauté pour vous. Mais avec l’IA qui essaie toujours de s’établir comme la prochaine grande chose, je vais dire que « grincer des dents » n’est pas le premier visage que j’aurais mis dessus. Ces avatars animés sont l’IA la plus adjacente de la NFT qui m’ont ressenti dans un certain temps, et étant donné comment cela se passe en ce moment, ce n’est pas un excellent signe pour l’avenir de l’industrie.
