Aussi puissants que puissent \u00eatre les LLM, tous ont une faiblesse commune : l\u2019hallucination. Pour des raisons qui \u00e9chappent \u00e0 notre compr\u00e9hension, les mod\u00e8les d\u2019IA ont l\u2019habitude d\u2019inventer des choses de fa\u00e7on totalement inattendue. Une r\u00e9ponse peut \u00eatre pr\u00e9cise, avec des sources bien cit\u00e9es et des informations pertinentes ; puis, tout d\u2019un coup, l\u2019IA avance une fausse affirmation ou interpr\u00e8te par erreur un commentaire ironique du forum comme un fait. (C’est ainsi que vous vous retrouvez avec les aper\u00e7us de l’IA de Google recommandant d’ajouter de la colle \u00e0 votre pizza.) Certains LLM peuvent moins halluciner que d’autres, mais aucun n’est \u00e0 l’abri. C’est pourquoi chaque fois que vous utilisez un chatbot, vous verrez une sorte d’avertissement \u00e0 l’\u00e9cran, vous informant que l’IA peut faire des erreurs. <\/p>\n
Apple Intelligence, la plateforme d’IA d’Apple, ne fait pas exception ici. Lorsque l\u2019entreprise a d\u00e9ploy\u00e9 son IA pour la premi\u00e8re fois, elle a inclus des r\u00e9sum\u00e9s de notifications comme \u00ab\u00a0avantage\u00a0\u00bb. Cependant, Apple a d\u00fb rapidement faire marche arri\u00e8re lorsque la fonctionnalit\u00e9 a commenc\u00e9 \u00e0 r\u00e9sumer de mani\u00e8re incorrecte les alertes d’actualit\u00e9, comme dans un cas, lorsque Apple Intelligence a condens\u00e9 un titre de la BBC pour lire que le suspect de la fusillade de United Healthcare, Luigi Mangione, s’\u00e9tait suicid\u00e9 en prison. La soci\u00e9t\u00e9 a ensuite restaur\u00e9 la fonctionnalit\u00e9, mais a inclus quelques garde-fous suppl\u00e9mentaires, comme la mise en italique des r\u00e9sum\u00e9s d\u2019actualit\u00e9s.<\/p>\n
Je suis tomb\u00e9 sur ce message sur le subreddit r\/iOS jeudi, qui ajoute une note int\u00e9ressante \u00e0 la discussion sur les hallucinations de l’IA. Le message dit\u00a0: \u00ab\u00a0Quelqu’un d’autre a-t-il re\u00e7u de faux mots dans ses r\u00e9sum\u00e9s d’IA\u00a0?\u00a0\u00bb avec une capture d’\u00e9cran ci-jointe, montrant les r\u00e9sum\u00e9s des notifications pour l’application Acme Weather. La premi\u00e8re phrase se lit comme suit\u00a0: \u00ab\u00a0Imbixtent une l\u00e9g\u00e8re pluie pendant une heure\u00a0\u00bb. Ah, la pluie d\u00e9bordante. Au moins, ce n’est que pour une heure. Attendez; imbixtent<\/em>?\u00a0\u00bb<\/p>\n Bien qu\u2019il ressemble vraisemblablement \u00e0 un vrai mot, inbixtent est en fait totalement invent\u00e9. L’affiche ne partage pas exactement ce que dit la notification, nous ne pouvons donc pas savoir sur quels mots Apple Intelligence travaille \u00e0 partir d’ici. Ce que nous savons, c’est que l’affiche a vu \u00ab\u00a0imbixtent\u00a0\u00bb trois fois, et ils ne sont pas seuls. Au-del\u00e0 des jabs se moquant de l’application m\u00e9t\u00e9o utilis\u00e9e par OP, certains commentaires sur le message affirment que d’autres ont vu Apple Intelligence inventer de faux mots dans ses r\u00e9sum\u00e9s de notification. Un intervenant a d\u00e9clar\u00e9 avoir vu \u00ab\u00a0fl\u00e9mulant\u00a0\u00bb dans un r\u00e9sum\u00e9 et \u00ab\u00a0tranqu\u00e9\u00a0\u00bb dans un r\u00e9sum\u00e9 de Mail\u00a0; un autre a partag\u00e9 qu\u2019ils avaient vu \u00ab strictement \u00bb au lieu de strictement \u00e0 deux occasions distinctes. <\/p>\n Je ne trouve aucun autre exemple sur Internet montrant ce ph\u00e9nom\u00e8ne, et personnellement, je n’utilise pas de r\u00e9sum\u00e9s de notifications sur mon iPhone, je n’ai donc pas vu ce probl\u00e8me moi-m\u00eame. Je ne peux pas dire avec certitude \u00e0 quel point ce probl\u00e8me est r\u00e9pandu, ni s’il est limit\u00e9 \u00e0 une certaine version d’iOS, \u00e0 un appareil sp\u00e9cifique ou \u00e0 une application plut\u00f4t qu’\u00e0 une autre. L’un des commentateurs a cependant une th\u00e9orie : ils pensent que lorsque le mod\u00e8le d’IA int\u00e9gr\u00e9 \u00e0 l’appareil utilis\u00e9 par Apple Intelligence ne peut pas \u00e0 lui seul raccourcir la phrase originale, il constitue un portemanteau \u00e0 adapter. Selon eux, l’IA \u00ab yolos \u00bb est un \u00ab mot vibratoire \u00bb, comme imbixtent. Ils disent que cela leur arrive le plus souvent avec les r\u00e9sum\u00e9s de l’application M\u00e9t\u00e9o. <\/p>\n Encore une fois, on ne sait pas si cela affecte un grand nombre d\u2019utilisateurs Apple ou seulement une petite fraction. Le fait que je ne trouve qu’un seul article \u00e0 ce sujet, avec deux commentateurs partageant des exp\u00e9riences similaires, m’am\u00e8ne \u00e0 croire qu’il s’agit de la derni\u00e8re solution, mais j’aimerais avoir l’avis de toute personne ayant une exp\u00e9rience similaire. Si vous utilisez les r\u00e9sum\u00e9s de notification d’Apple Intelligence, faites-moi savoir si vous avez vu des mots invent\u00e9s de votre c\u00f4t\u00e9. Je devrai peut-\u00eatre activer la fonctionnalit\u00e9 pour garder un \u0153il ouvert. <\/p>\n","protected":false},"excerpt":{"rendered":" Aussi puissants que puissent \u00eatre les LLM, tous ont une faiblesse commune : l\u2019hallucination. Pour des raisons qui \u00e9chappent \u00e0 notre compr\u00e9hension, les mod\u00e8les d\u2019IA<\/p>\n","protected":false},"author":1,"featured_media":13663,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[10230],"tags":[54,29,591,10611,233,2498],"class_list":["post-13662","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-apple","tag-apple","tag-des","tag-intelligence","tag-inventetelle","tag-maintenant","tag-mots","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-33"],"yoast_head":"\nApple Intelligence invente-t-elle des mots dans vos r\u00e9sum\u00e9s\u00a0?<\/h2>\n