Avez-vous déjà utilisé une application appelée Chat & Ask AI ? Si tel est le cas, il y a de fortes chances que vos messages aient été exposés le mois dernier. En janvier, un chercheur indépendant a pu accéder facilement à quelque 300 millions de messages sur le service, selon Emanual Maiberg de 404 Media. Les données comprenaient des journaux de discussion liés à toutes sortes de sujets sensibles, de la consommation de drogue au suicide.
Chat & Ask AI, une application proposée par la société Codeway, basée à Istanbul et disponible sur les magasins d’applications Apple et Google, revendique environ 50 millions d’utilisateurs. L’application revend essentiellement l’accès à de grands modèles de langage d’autres sociétés, notamment OpenAI, Claude et Google, offrant un accès gratuit et limité à ses utilisateurs.
Le problème à l’origine de la fuite de données était lié à une configuration non sécurisée de Google Firebase, une vulnérabilité relativement courante. Le chercheur a pu facilement devenir un utilisateur « authentifié », et ainsi lire les messages de 25 millions d’utilisateurs de l’application. Il aurait extrait et analysé environ 60 000 messages avant de signaler le problème à Codeway.
La bonne nouvelle : le problème a été rapidement corrigé. Autre bonne nouvelle : aucun rapport faisant état de fuite de ces messages sur Internet au sens large. Pourtant, c’est une raison supplémentaire d’examiner attentivement les types de messages que vous envoyez aux chatbots IA. N’oubliez pas que les conversations avec les chatbots IA ne sont pas privées : de par leur nature, ces systèmes enregistrent souvent vos conversations pour les « mémoriser » plus tard. Dans le cas d’une violation de données, cela pourrait potentiellement conduire à des embarras, ou pire encore, et le recours à un revendeur comme Chat & Ask AI pour accéder à de grands modèles de langage ajoute une autre couche de risques de sécurité potentiels, comme le démontre cette récente fuite.
