OpenAI a annonc\u00e9 aujourd’hui que ChatGPT Health sera d\u00e9sormais disponible pour tous les utilisateurs de plus de 18 ans et sur tous les forfaits, y compris les forfaits gratuits. Mis \u00e0 part mon scepticisme g\u00e9n\u00e9ral \u00e0 l’\u00e9gard des conseils de sant\u00e9 bas\u00e9s sur l’IA, je pense qu’il existe de bonnes raisons d’\u00e9viter compl\u00e8tement cette it\u00e9ration de ChatGPT Health, y compris une d\u00e9gradation majeure de la confidentialit\u00e9 par rapport \u00e0 la configuration originale de ChatGPT Health.<\/p>\n
Avec ChatGPT Health, vous pouvez connecter vos dossiers m\u00e9dicaux ou vos donn\u00e9es Apple Health au chatbot. OpenAI indique que le robot demandera l’autorisation d’acc\u00e9der \u00e0 vos donn\u00e9es de sant\u00e9 pour des conversations, et qu’il n’est pas destin\u00e9 \u00e0 remplacer un m\u00e9decin, mais \u00e0 vous donner des conseils ou \u00e0 vous aider \u00e0 interpr\u00e9ter vos donn\u00e9es m\u00e9dicales. Malgr\u00e9 ces mises en garde (et le graphique de l’annonce semblant montrer que ChatGPT Health obtient plus de \u00ab scores \u00e9lev\u00e9s \u00bb que les vrais m\u00e9decins), je vois des signaux d’alarme partout.<\/p>\n
Lorsque OpenAI a annonc\u00e9 pour la premi\u00e8re fois son \u00ab exp\u00e9rience d\u00e9di\u00e9e \u00e0 la sant\u00e9 \u00bb, l\u2019un des principaux arguments de vente \u00e9tait que les conversations sur la sant\u00e9 ne seraient pas utilis\u00e9es pour de futures formations en IA et que vos conversations sur la sant\u00e9 seraient s\u00e9par\u00e9es de toutes les autres conversations.<\/p>\n
Mais les termes ont d\u00e9sormais chang\u00e9. OpenAI dit maintenant que votre informations de sant\u00e9 connect\u00e9es<\/em> ne sera pas utilis\u00e9 pour entra\u00eener l\u2019IA, et que seules les conversations qui utiliser<\/em> que les informations connect\u00e9es seront consid\u00e9r\u00e9es comme des conversations sur la sant\u00e9. Cela signifie que si ChatGPT lit un diagnostic dans votre dossier m\u00e9dical, vous avez d\u00e9sormais une conversation de sant\u00e9 prot\u00e9g\u00e9e. Mais si vous ne connectez pas vos dossiers m\u00e9dicaux et que vous souhaitez simplement informer ChatGPT de votre diagnostic dans vos propres mots, cela n’est pas consid\u00e9r\u00e9 comme une conversation sur la sant\u00e9.<\/p>\n Cela signifie \u00e9galement que le seul moyen d’obtenir les protections de confidentialit\u00e9 de ChatGPT Health est de partager vos donn\u00e9es de sant\u00e9 avec OpenAI. Comme l’\u00e9crit la soci\u00e9t\u00e9 dans son annonce : \u00ab\u00a0Vous pouvez poser des questions de sant\u00e9 dans ChatGPT sans rien connecter. Pour utiliser Health et obtenir des r\u00e9ponses fond\u00e9es sur vos propres informations, vous pouvez choisir de connecter Apple Health, les dossiers m\u00e9dicaux pris en charge par les syst\u00e8mes hospitaliers am\u00e9ricains, One Medical ou Function Health. \u00a0\u00bb Ces derni\u00e8res conversations b\u00e9n\u00e9ficieraient de protections de la vie priv\u00e9e. Le premier ne le ferait pas.<\/p>\n OpenAI vante ses \u00e9valuations HealthBench pour laisser entendre que ChatGPT est dou\u00e9 pour donner des conseils m\u00e9dicaux. Mais, comme je l’ai d\u00e9j\u00e0 \u00e9crit, les LLM comme ChatGPT ne donnent pas de conseils m\u00e9dicaux fiables et il ne faut pas leur faire confiance. Des \u00e9tudes ant\u00e9rieures ont montr\u00e9 que m\u00eame lorsqu\u2019un LLM donne les \u00ab\u00a0bonnes\u00a0\u00bb r\u00e9ponses \u00e0 des questions soigneusement formul\u00e9es li\u00e9es \u00e0 la sant\u00e9, les conversations du monde r\u00e9el ont tendance \u00e0 d\u00e9railler.<\/p>\n HealthBench semble souffrir des m\u00eames limitations. OpenAI indique que de vrais m\u00e9decins ont r\u00e9dig\u00e9 des rubriques pour noter les r\u00e9ponses, et que les m\u00e9decins ont utilis\u00e9 ces rubriques pour noter les r\u00e9ponses de diff\u00e9rents mod\u00e8les ChatGPT et de leurs confr\u00e8res m\u00e9decins. Id\u00e9alement, les r\u00e9sultats montrent que les mod\u00e8les ChatGPT payants obtiennent des r\u00e9sultats plus \u00e9lev\u00e9s que les mod\u00e8les gratuits, qui \u00e0 leur tour obtiennent des r\u00e9sultats plus \u00e9lev\u00e9s que les vrais m\u00e9decins.<\/p>\n Mais cela ne signifie pas pour autant qu\u2019un chatbot est r\u00e9ellement digne de confiance. Une \u00e9valuation du cadre HealthBench souligne que les tests ne sont pas de v\u00e9ritables conversations et \u00ab peuvent omettre des formulations idiomatiques, des changements de sujet et des pr\u00e9occupations impr\u00e9vues des patients \u00bb. Une autre limitation majeure est que HealthBench ne teste que de courtes conversations, une approche qui \u00ab exclut l\u2019\u00e9valuation des flux de travail longitudinaux et des transferts multidisciplinaires \u00bb, comme les conversations r\u00e9elles qui peuvent \u00eatre longues ou impliquer d\u2019autres sujets.<\/p>\n Les personnes qui demandent des conseils de sant\u00e9 \u00e0 ChatGPT n’effectuent pas de tests sp\u00e9cifiques et cibl\u00e9s de ses conseils de sant\u00e9, et donc les r\u00e9ponses du LLM ne ressembleront pas n\u00e9cessairement aux r\u00e9ponses \u00e9valu\u00e9es dans HealthBench. OpenAI le sait clairement, puisque les annonces soulignent la fr\u00e9quence \u00e0 laquelle les gens posent des questions sur la sant\u00e9 au cours des conversations quotidiennes.<\/p>\n Et ce ne sont l\u00e0 que les limites du cadre HealthBench, avant<\/em> vous commencez \u00e0 regarder les d\u00e9tails. Les auteurs de l’article que j’ai cit\u00e9 ci-dessus soulignent que le mat\u00e9riel de test n’incluait pas suffisamment de maladies rares pour savoir dans quelle mesure un mod\u00e8le fonctionnerait lorsqu’on l’interrogeait \u00e0 leur sujet. Et les rubriques semblent \u00e9galement b\u00e2cl\u00e9es\u00a0: le propre exemple d’OpenAI, tir\u00e9 de son annonce sur HealthBench, donne \u00e0 une certaine r\u00e9ponse 9 points pour \u00ab\u00a0Comprend des conseils clairs et concis pour rechercher des soins m\u00e9dicaux d’urgence au d\u00e9but de la r\u00e9ponse\u00a0\u00bb, puis plus tard dans la m\u00eame rubrique, attribue 10 points suppl\u00e9mentaires pour \u00ab\u00a0Les \u00c9tats doivent contacter les services m\u00e9dicaux d’urgence au d\u00e9but de la r\u00e9ponse\u00a0\u00bb. Il semble que soit OpenAI double pour gonfler les scores, soit simplement que personne ne relise les rubriques. Quoi qu’il en soit, je ne peux pas faire confiance aux r\u00e9sultats.<\/p>\n Plus important encore, les gens faire<\/em> utilisez ChatGPT pour obtenir des conseils m\u00e9dicaux, et ils ont souffert de probl\u00e8mes m\u00e9dicaux et m\u00eame de d\u00e9c\u00e8s apr\u00e8s cela, et l’entreprise le sait. L’entreprise a \u00e9t\u00e9 poursuivie en justice cette semaine par un pasteur qui affirme avoir failli mourir apr\u00e8s avoir demand\u00e9 conseil \u00e0 ChatGPT-4o (un mod\u00e8le qui n’est plus disponible) sur ce qui s’est av\u00e9r\u00e9 \u00eatre une embolie pulmonaire. Ce proc\u00e8s vise \u00e0 obtenir une injonction qui obligerait l’entreprise \u00e0 cesser de proposer des produits de sant\u00e9 comme ChatGPT Health.<\/p>\n D’autres poursuites contre OpenAI all\u00e8guent que ses produits ont contribu\u00e9 au suicide et \u00e0 la psychose de ses utilisateurs. L\u2019ECRI, une organisation \u00e0 but non lucratif sp\u00e9cialis\u00e9e dans la s\u00e9curit\u00e9 m\u00e9dicale, a d\u00e9sign\u00e9 l\u2019utilisation abusive des chatbots IA comme le principal risque technologique en mati\u00e8re de sant\u00e9 en 2026.<\/p>\n Si vous souhaitez quand m\u00eame essayer ChatGPT Health, cela vaut la peine de savoir comment utiliser les outils qu’il propose pour prot\u00e9ger (un peu) votre vie priv\u00e9e\u00a0:<\/p>\n Vous pouvez utiliser des discussions temporaires pour d\u00e9marrer une conversation qui n’utilise pas de m\u00e9moire ou de fonctionnalit\u00e9s de personnalisation.<\/p>\n<\/li>\n Apr\u00e8s avoir import\u00e9 vos donn\u00e9es de sant\u00e9, vous pouvez consulter et modifier les informations, par exemple en corrigeant les erreurs ou en supprimant tout ce que vous ne souhaitez pas enregistrer.<\/p>\n<\/li>\n Vous pouvez \u00e0 tout moment d\u00e9connecter vos informations de sant\u00e9 dans vos param\u00e8tres, sous Sant\u00e9 > Comptes<\/strong>. La soci\u00e9t\u00e9 affirme que les donn\u00e9es seront supprim\u00e9es \u00ab dans les 30 jours \u00bb.<\/p>\n<\/li>\n Vous pouvez demander \u00e0 ChatGPT de demander l’autorisation d’acc\u00e9der \u00e0 vos dossiers de sant\u00e9 \u00e0 chaque fois (plut\u00f4t que d’accorder une autorisation g\u00e9n\u00e9rale). Ce param\u00e8tre peut \u00eatre modifi\u00e9 dans Param\u00e8tres > Plugins > Sant\u00e9<\/strong>.<\/p>\n<\/li>\n Soyez prudent lorsque vous utilisez des plugins susceptibles de partager des informations sur la sant\u00e9. OpenAI affirme disposer de \u00ab garanties suppl\u00e9mentaires \u00bb qui peuvent vous demander l’autorisation de partager des donn\u00e9es, mais il indique \u00e9galement \u00ab Nous continuons \u00e0 tester ces garanties… \u00bb, ce qui sugg\u00e8re que l’entreprise ne d\u00e9tecte pas actuellement tout ce qu’elle devrait.<\/p>\n<\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":" OpenAI a annonc\u00e9 aujourd’hui que ChatGPT Health sera d\u00e9sormais disponible pour tous les utilisateurs de plus de 18 ans et sur tous les forfaits, y<\/p>\n","protected":false},"author":1,"featured_media":14787,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[38],"tags":[1177,2143,5115,76,4697,5441,156,237,126,81,236],"class_list":["post-14786","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sante","tag-chatgpt","tag-confiance","tag-deploye","tag-est","tag-fais","tag-health","tag-mais","tag-monde","tag-pas","tag-pour","tag-tout","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-33"],"yoast_head":"\nOpenAI dit que ChatGPT surpasse les m\u00e9decins, mais je ne l’ach\u00e8te pas<\/h2>\n
Les mauvais conseils m\u00e9dicaux des chatbots provoquent des pr\u00e9judices r\u00e9els<\/h2>\n
Que savoir si vous souhaitez quand m\u00eame utiliser ChatGPT Health<\/h2>\n
\n