Il semble que l’IA agentique fasse fureur : les nouveaux agents d’OpenAI, « Dots », ont été déployés cette semaine, tandis que Meta’s Muse vient de dépasser les cinq millions de téléchargements. Plutôt que de simplement discuter avec eux ou de les utiliser pour générer des images, les sociétés d’IA souhaitent que les utilisateurs commencent à demander à leurs robots de faire des choses en leur nom, de la gestion de leurs boîtes de réception à la commande d’un dîner.
Mais les agents ne constituent pas seulement la prochaine étape logique pour l’IA en tant que technologie. Lorsqu’elles sont mal mises en œuvre, elles peuvent être extrêmement dangereuses. Les agents IA sont conçus pour fonctionner de manière autonome et, pour ce faire, ils ont souvent besoin d’un accès quasi total à vos appareils et à leurs données. Certaines personnes permettent désormais aux agents d’utiliser pleinement leur ordinateur, y compris tous leurs messages, fichiers, mots de passe et comptes. Cela représente beaucoup de confiance, surtout lorsqu’il n’est pas si difficile de « pirater » l’un de ces agents à des fins malveillantes avec une invite empoisonnée cachée sur un site Web, ce qui pourrait amener votre agent IA à remettre aux pirates les clés de vos comptes bancaires. Ce n’est pas bon.
Apple rend beaucoup plus difficile pour vous de vous mettre dans cette situation
Qu’en pense Apple ? La société est notoirement en retard sur le plan logiciel de l’IA – elle n’a déployé sa version de Siri basée sur l’IA qu’en septembre – mais son activité de matériel d’IA est en plein essor. Lorsque l’engouement pour les agents IA a décollé avec des projets comme Moltbot, les clients ont acheté en masse des Mac mini afin d’exécuter ces programmes. Désormais, Apple fait la promotion de ses différents Mac avec l’IA au premier plan : il ne propose pas ses propres modèles comme OpenAI ou Anthropic, mais il gagne beaucoup d’argent en vous vendant le matériel nécessaire pour exécuter ces modèles.
C’est peut-être la raison pour laquelle Apple semble très préoccupé par la tendance des agents IA, en particulier en ce qui concerne les données que les utilisateurs exposent pour exécuter ces programmes. Apple est avant tout une question de confidentialité et de sécurité, et en tant que tel, je ne peux qu’imaginer l’entreprise regarder avec horreur tant d’utilisateurs confier volontairement leur Mac (et toutes leurs données) à des robots IA automatisés.
Dans ce contexte, la société a publié une mise à jour sur son forum de développeurs intitulée « Mises à jour de l’accès complet au disque sous macOS ». Dans ce document, la société souligne les dangers que les développeurs demandent aux utilisateurs d’accorder des autorisations « Accès complet au disque » à une application. Apple affirme que cette fonction est traditionnellement réservée aux applications de sauvegarde qui doivent accéder à l’intégralité du disque pour fonctionner. (Après tout, si votre application de sauvegarde ne peut pas accéder à l’intégralité de votre Mac, comment peut-elle sauvegarder l’intégralité de votre Mac ?) Mais maintenant, Apple affirme que les développeurs demandent aux utilisateurs de tout exposer sur leur Mac, y compris les messages, le courrier, l’historique de navigation, et plus encore, sans que ces utilisateurs n’en comprennent pleinement les conséquences. Apple affirme même que les implications en matière de confidentialité s’étendent au-delà de l’utilisateur, car les applications de communication qui exigent un accès complet au disque compromettent également les personnes avec lesquelles l’utilisateur discute.
Et Apple semble faire quelque chose à ce sujet : même si les détails sont minces, la société affirme qu’elle introduira « des contrôles supplémentaires pour garantir que les utilisateurs qui souhaitent réellement accorder à une application ce niveau d’accès extraordinaire ne pourront le faire qu’avec une action très explicite de l’utilisateur ». Je suppose que cela signifie qu’à l’avenir, une fois que vous aurez téléchargé un agent sur votre Mac, vous devrez cliquer sur une série d’avertissements et de paramètres pour « prouver » à macOS que vous vraiment souhaitez exposer l’intégralité de votre Mac à l’application et à son IA. L’entreprise affirme qu’elle le fait maintenant, car la menace ne fera que croître à mesure que les agents d’IA s’amélioreront et deviendront plus autonomes.
Les risques de l’IA augmentent partout
Je suis tout à fait favorable à des garanties supplémentaires en matière d’IA. Dans le passé, vous aviez besoin d’un certain niveau d’expertise technique pour installer un agent IA sur votre Mac. En tant que tel, vous avez probablement compris les risques encourus ou avez délibérément ignoré tous les avertissements pour ce faire. Maintenant qu’exécuter des agents est aussi simple que d’installer Muse sur votre Mac, la barrière à l’entrée est minime. N’importe qui peut le faire, même s’il ne comprend pas vraiment ce qu’il est réellement. faire. Alors que l’industrie de l’IA prend conscience des risques que sa technologie fait peser sur l’humanité, des entreprises comme Apple devraient en effet réfléchir à la manière de protéger leurs utilisateurs des dangers actuels de l’IA, même si les utilisateurs peuvent toujours choisir d’ignorer ces avertissements.
