Aussi puissants que puissent être les LLM, tous ont une faiblesse commune : l’hallucination. Pour des raisons qui échappent à notre compréhension, les modèles d’IA ont l’habitude d’inventer des choses de façon totalement inattendue. Une réponse peut être précise, avec des sources bien citées et des informations pertinentes ; puis, tout d’un coup, l’IA avance une fausse affirmation ou interprète par erreur un commentaire ironique du forum comme un fait. (C’est ainsi que vous vous retrouvez avec les aperçus de l’IA de Google recommandant d’ajouter de la colle à votre pizza.) Certains LLM peuvent moins halluciner que d’autres, mais aucun n’est à l’abri. C’est pourquoi chaque fois que vous utilisez un chatbot, vous verrez une sorte d’avertissement à l’écran, vous informant que l’IA peut faire des erreurs.
Apple Intelligence, la plateforme d’IA d’Apple, ne fait pas exception ici. Lorsque l’entreprise a déployé son IA pour la première fois, elle a inclus des résumés de notifications comme « avantage ». Cependant, Apple a dû rapidement faire marche arrière lorsque la fonctionnalité a commencé à résumer de manière incorrecte les alertes d’actualité, comme dans un cas, lorsque Apple Intelligence a condensé un titre de la BBC pour lire que le suspect de la fusillade de United Healthcare, Luigi Mangione, s’était suicidé en prison. La société a ensuite restauré la fonctionnalité, mais a inclus quelques garde-fous supplémentaires, comme la mise en italique des résumés d’actualités.
Apple Intelligence pourrait inventer de nouveaux mots
Je suis tombé sur ce message sur le subreddit r/iOS jeudi, qui ajoute une note intéressante à la discussion sur les hallucinations de l’IA. Le message dit : « Quelqu’un d’autre a-t-il reçu de faux mots dans ses résumés d’IA ? » avec une capture d’écran ci-jointe, montrant les résumés des notifications pour l’application Acme Weather. La première phrase se lit comme suit : « Imbixtent une légère pluie pendant une heure ». Ah, la pluie débordante. Au moins, ce n’est que pour une heure. Attendez; imbixtent? »
Bien qu’il ressemble vraisemblablement à un vrai mot, inbixtent est en fait totalement inventé. L’affiche ne partage pas exactement ce que dit la notification, nous ne pouvons donc pas savoir sur quels mots Apple Intelligence travaille à partir d’ici. Ce que nous savons, c’est que l’affiche a vu « imbixtent » trois fois, et ils ne sont pas seuls. Au-delà des jabs se moquant de l’application météo utilisée par OP, certains commentaires sur le message affirment que d’autres ont vu Apple Intelligence inventer de faux mots dans ses résumés de notification. Un intervenant a déclaré avoir vu « flémulant » dans un résumé et « tranqué » dans un résumé de Mail ; un autre a partagé qu’ils avaient vu « strictement » au lieu de strictement à deux occasions distinctes.
Je ne trouve aucun autre exemple sur Internet montrant ce phénomène, et personnellement, je n’utilise pas de résumés de notifications sur mon iPhone, je n’ai donc pas vu ce problème moi-même. Je ne peux pas dire avec certitude à quel point ce problème est répandu, ni s’il est limité à une certaine version d’iOS, à un appareil spécifique ou à une application plutôt qu’à une autre. L’un des commentateurs a cependant une théorie : ils pensent que lorsque le modèle d’IA intégré à l’appareil utilisé par Apple Intelligence ne peut pas à lui seul raccourcir la phrase originale, il constitue un portemanteau à adapter. Selon eux, l’IA « yolos » est un « mot vibratoire », comme imbixtent. Ils disent que cela leur arrive le plus souvent avec les résumés de l’application Météo.
Apple Intelligence invente-t-elle des mots dans vos résumés ?
Encore une fois, on ne sait pas si cela affecte un grand nombre d’utilisateurs Apple ou seulement une petite fraction. Le fait que je ne trouve qu’un seul article à ce sujet, avec deux commentateurs partageant des expériences similaires, m’amène à croire qu’il s’agit de la dernière solution, mais j’aimerais avoir l’avis de toute personne ayant une expérience similaire. Si vous utilisez les résumés de notification d’Apple Intelligence, faites-moi savoir si vous avez vu des mots inventés de votre côté. Je devrai peut-être activer la fonctionnalité pour garder un œil ouvert.
