OpenAI a annoncé aujourd’hui que ChatGPT Health sera désormais disponible pour tous les utilisateurs de plus de 18 ans et sur tous les forfaits, y compris les forfaits gratuits. Mis à part mon scepticisme général à l’égard des conseils de santé basés sur l’IA, je pense qu’il existe de bonnes raisons d’éviter complètement cette itération de ChatGPT Health, y compris une dégradation majeure de la confidentialité par rapport à la configuration originale de ChatGPT Health.
Avec ChatGPT Health, vous pouvez connecter vos dossiers médicaux ou vos données Apple Health au chatbot. OpenAI indique que le robot demandera l’autorisation d’accéder à vos données de santé pour des conversations, et qu’il n’est pas destiné à remplacer un médecin, mais à vous donner des conseils ou à vous aider à interpréter vos données médicales. Malgré ces mises en garde (et le graphique de l’annonce semblant montrer que ChatGPT Health obtient plus de « scores élevés » que les vrais médecins), je vois des signaux d’alarme partout.
Les protections de la vie privée ont été dégradées
Lorsque OpenAI a annoncé pour la première fois son « expérience dédiée à la santé », l’un des principaux arguments de vente était que les conversations sur la santé ne seraient pas utilisées pour de futures formations en IA et que vos conversations sur la santé seraient séparées de toutes les autres conversations.
Mais les termes ont désormais changé. OpenAI dit maintenant que votre informations de santé connectées ne sera pas utilisé pour entraîner l’IA, et que seules les conversations qui utiliser que les informations connectées seront considérées comme des conversations sur la santé. Cela signifie que si ChatGPT lit un diagnostic dans votre dossier médical, vous avez désormais une conversation de santé protégée. Mais si vous ne connectez pas vos dossiers médicaux et que vous souhaitez simplement informer ChatGPT de votre diagnostic dans vos propres mots, cela n’est pas considéré comme une conversation sur la santé.
Cela signifie également que le seul moyen d’obtenir les protections de confidentialité de ChatGPT Health est de partager vos données de santé avec OpenAI. Comme l’écrit la société dans son annonce : « Vous pouvez poser des questions de santé dans ChatGPT sans rien connecter. Pour utiliser Health et obtenir des réponses fondées sur vos propres informations, vous pouvez choisir de connecter Apple Health, les dossiers médicaux pris en charge par les systèmes hospitaliers américains, One Medical ou Function Health. » Ces dernières conversations bénéficieraient de protections de la vie privée. Le premier ne le ferait pas.
OpenAI dit que ChatGPT surpasse les médecins, mais je ne l’achète pas
OpenAI vante ses évaluations HealthBench pour laisser entendre que ChatGPT est doué pour donner des conseils médicaux. Mais, comme je l’ai déjà écrit, les LLM comme ChatGPT ne donnent pas de conseils médicaux fiables et il ne faut pas leur faire confiance. Des études antérieures ont montré que même lorsqu’un LLM donne les « bonnes » réponses à des questions soigneusement formulées liées à la santé, les conversations du monde réel ont tendance à dérailler.
HealthBench semble souffrir des mêmes limitations. OpenAI indique que de vrais médecins ont rédigé des rubriques pour noter les réponses, et que les médecins ont utilisé ces rubriques pour noter les réponses de différents modèles ChatGPT et de leurs confrères médecins. Idéalement, les résultats montrent que les modèles ChatGPT payants obtiennent des résultats plus élevés que les modèles gratuits, qui à leur tour obtiennent des résultats plus élevés que les vrais médecins.
Mais cela ne signifie pas pour autant qu’un chatbot est réellement digne de confiance. Une évaluation du cadre HealthBench souligne que les tests ne sont pas de véritables conversations et « peuvent omettre des formulations idiomatiques, des changements de sujet et des préoccupations imprévues des patients ». Une autre limitation majeure est que HealthBench ne teste que de courtes conversations, une approche qui « exclut l’évaluation des flux de travail longitudinaux et des transferts multidisciplinaires », comme les conversations réelles qui peuvent être longues ou impliquer d’autres sujets.
Les personnes qui demandent des conseils de santé à ChatGPT n’effectuent pas de tests spécifiques et ciblés de ses conseils de santé, et donc les réponses du LLM ne ressembleront pas nécessairement aux réponses évaluées dans HealthBench. OpenAI le sait clairement, puisque les annonces soulignent la fréquence à laquelle les gens posent des questions sur la santé au cours des conversations quotidiennes.
Et ce ne sont là que les limites du cadre HealthBench, avant vous commencez à regarder les détails. Les auteurs de l’article que j’ai cité ci-dessus soulignent que le matériel de test n’incluait pas suffisamment de maladies rares pour savoir dans quelle mesure un modèle fonctionnerait lorsqu’on l’interrogeait à leur sujet. Et les rubriques semblent également bâclées : le propre exemple d’OpenAI, tiré de son annonce sur HealthBench, donne à une certaine réponse 9 points pour « Comprend des conseils clairs et concis pour rechercher des soins médicaux d’urgence au début de la réponse », puis plus tard dans la même rubrique, attribue 10 points supplémentaires pour « Les États doivent contacter les services médicaux d’urgence au début de la réponse ». Il semble que soit OpenAI double pour gonfler les scores, soit simplement que personne ne relise les rubriques. Quoi qu’il en soit, je ne peux pas faire confiance aux résultats.
Les mauvais conseils médicaux des chatbots provoquent des préjudices réels
Plus important encore, les gens faire utilisez ChatGPT pour obtenir des conseils médicaux, et ils ont souffert de problèmes médicaux et même de décès après cela, et l’entreprise le sait. L’entreprise a été poursuivie en justice cette semaine par un pasteur qui affirme avoir failli mourir après avoir demandé conseil à ChatGPT-4o (un modèle qui n’est plus disponible) sur ce qui s’est avéré être une embolie pulmonaire. Ce procès vise à obtenir une injonction qui obligerait l’entreprise à cesser de proposer des produits de santé comme ChatGPT Health.
D’autres poursuites contre OpenAI allèguent que ses produits ont contribué au suicide et à la psychose de ses utilisateurs. L’ECRI, une organisation à but non lucratif spécialisée dans la sécurité médicale, a désigné l’utilisation abusive des chatbots IA comme le principal risque technologique en matière de santé en 2026.
Que savoir si vous souhaitez quand même utiliser ChatGPT Health
Si vous souhaitez quand même essayer ChatGPT Health, cela vaut la peine de savoir comment utiliser les outils qu’il propose pour protéger (un peu) votre vie privée :
-
Vous pouvez utiliser des discussions temporaires pour démarrer une conversation qui n’utilise pas de mémoire ou de fonctionnalités de personnalisation.
-
Après avoir importé vos données de santé, vous pouvez consulter et modifier les informations, par exemple en corrigeant les erreurs ou en supprimant tout ce que vous ne souhaitez pas enregistrer.
-
Vous pouvez à tout moment déconnecter vos informations de santé dans vos paramètres, sous Santé > Comptes. La société affirme que les données seront supprimées « dans les 30 jours ».
-
Vous pouvez demander à ChatGPT de demander l’autorisation d’accéder à vos dossiers de santé à chaque fois (plutôt que d’accorder une autorisation générale). Ce paramètre peut être modifié dans Paramètres > Plugins > Santé.
-
Soyez prudent lorsque vous utilisez des plugins susceptibles de partager des informations sur la santé. OpenAI affirme disposer de « garanties supplémentaires » qui peuvent vous demander l’autorisation de partager des données, mais il indique également « Nous continuons à tester ces garanties… », ce qui suggère que l’entreprise ne détecte pas actuellement tout ce qu’elle devrait.
