Meta déploie officiellement de nouveaux contrôles parentaux qui facilitent le suivi des conversations que les adolescents ont avec l’IA de l’entreprise. Meta a révélé la nouvelle dans un article de blog jeudi, six mois après l’annonce initiale de la société. Mais si des contrôles parentaux supplémentaires sont prometteurs, cela suffira-t-il à résoudre les problèmes plus importants liés aux jeunes utilisateurs et à l’IA ?
Comment fonctionnent les nouveaux contrôles parentaux IA de Meta
Selon Meta, les parents utilisant la fonctionnalité « supervision » sur Facebook, Messenger ou Instagram disposent désormais d’un onglet « Insights » dans le cadre de la supervision. Si vous sélectionnez cet onglet, vous verrez tous les sujets sur lesquels votre ou vos adolescents ont discuté avec leurs robots IA au cours des sept derniers jours. Un certain nombre de sujets peuvent apparaître ici, notamment « École », « Divertissement », « Mode de vie », « Voyage », « Écriture » et « Santé et bien-être ».
Ce ne sont cependant que des sujets superficiels. Si vous appuyez sur un, vous verrez toutes les différentes catégories couvertes par ce sujet unique. Ainsi, si votre adolescent a parlé de « style de vie » avec Meta AI, vous pouvez appuyer sur ce sujet pour voir qu’il a discuté de sujets tels que la mode, la nourriture et les vacances. Si leurs conversations concernent la santé et le bien-être, vous pouvez y accéder pour voir les discussions porter sur la forme physique, la santé physique et la santé mentale. Surtout, vous ne pouvez pas voir les conversations elles-mêmes : uniquement les sujets que l’IA de Meta a renseignés.
Meta dit que son IA ne devrait renvoyer que des résultats qui pourraient correspondre à un film classé PG-13. En tant que tel, le bot peut refuser de répondre à certaines questions, même si les sujets de ces demandes seront toujours enregistrés dans le nouvel onglet Insights. La société affirme qu’elle travaille toujours sur des outils pour alerter les parents si leurs adolescents commencent à parler de suicide ou d’automutilation à Meta AI. Il propose également une série de questions que vous pouvez poser à vos adolescents si vous ne vous sentez pas « en confiance » pour aborder le sujet de l’IA avec vos enfants. Les questions sont disponibles dans Family Center.
Le contrôle parental de Meta est un pas dans la bonne direction, mais loin d’être suffisant
Il est indéniable que les enfants et les adolescents d’aujourd’hui grandissent dans un monde d’IA, mais cela ne signifie pas que la technologie ne devrait pas être réglementée (ou non supervisée). Malheureusement, les entreprises technologiques ont été au mieux un peu en retard, et au pire complices de manière malveillante, lorsqu’il s’agit de contrôler l’utilisation de l’IA auprès des mineurs. Meta, pour sa part, avait initialement autorisé ses robots IA à avoir des conversations extrêmement inappropriées avec des utilisateurs mineurs, avant qu’un rapport viral de Reuters en août ne l’oblige à changer. Deux mois plus tard, la société a annoncé ces nouveaux contrôles parentaux qu’elle est en train de déployer.
Il est évident que ces nouvelles fonctionnalités et politiques ne sont pas là en raison d’une véritable préoccupation pour les utilisateurs mineurs de Meta. La politique officielle de Meta autorisait les robots IA à s’engager dans des jeux de rôle sensuels avec des enfants et des adolescents, et permettait explicitement au robot de répondre à des questions racistes par des réponses racistes. Ces changements sont une réponse au fait de se faire prendre, et non au bien-être des utilisateurs.
Cela étant dit, c’est bien que Meta permette enfin aux parents de voir les sujets dont leurs enfants parlent à Meta AI, surtout s’il y a des sujets préoccupants à signaler. Mais pourquoi les parents ne peuvent-ils pas désactiver complètement Meta AI ? Pourquoi les adolescents qui ont un compte Instagram ou WhatsApp doivent-ils être liés à Meta AI ? Et l’onglet Insight de Meta indique que, comme les sujets sont organisés automatiquement, ils peuvent ne pas être précis, ce qui signifie que le programme d’IA qui résume les sujets de conversation de votre adolescent peut halluciner certains de ces sujets.
En fin de compte, la meilleure approche pourrait toujours être d’avoir un dialogue ouvert et honnête avec vos adolescents sur l’utilisation de l’IA, même si je ne suis pas sûr que faire confiance aux questions du Family Center de Meta soit une décision.
