ChatGPT et santé : pourquoi une réponse sans sources doit vous alerter

ChatGPT peut formuler une réponse claire, structurée et rassurante à une question de santé. C’est justement ce qui impose de la prudence : une réponse bien écrite n’est pas forcément une information médicale vérifiée, surtout lorsqu’elle ne donne aucune source identifiable.

L’absence de sources ne signifie pas automatiquement que la réponse est fausse. Elle signifie que vous ne pouvez pas contrôler facilement d’où vient l’information, si elle est à jour, si elle s’applique à votre situation, ni si elle repose sur une recommandation médicale reconnue.

Pour les usages du quotidien, ChatGPT peut rester utile : reformuler une question, expliquer un terme, préparer une consultation. Mais dès qu’une réponse influence une décision de soin, la vérification devient indispensable. Le même réflexe vaut pour d’autres usages sensibles de l’IA : comprendre comment repérer une hallucination de ChatGPT aide à ne pas confondre fluidité et fiabilité.

Une réponse plausible ne suffit pas en santé

Les IA génératives produisent du texte en s’appuyant sur des modèles statistiques. Elles peuvent expliquer, résumer, reformuler ou comparer des notions avec beaucoup de fluidité. Cette capacité peut aider à comprendre un compte rendu, à traduire un vocabulaire médical difficile ou à préparer une liste de questions pour un professionnel de santé.

Le risque vient de cette même fluidité. Le texte peut paraître sûr de lui alors qu’il manque de contexte, généralise trop ou mélange une information correcte avec un détail imprécis.

Sur un sujet technique courant, une erreur peut faire perdre du temps. Sur un sujet de santé, elle peut peser sur une décision : arrêter un traitement, modifier une dose, retarder une consultation, interpréter un symptôme inquiétant ou choisir une conduite à tenir sans avis professionnel.

Le problème n’est donc pas seulement que ChatGPT peut se tromper. Le point critique est plus concret : sans source vérifiable, vous n’avez pas de moyen simple de distinguer une explication fiable d’une formulation seulement convaincante.

Le chiffre de 91,3 % signale un problème de traçabilité

Un chiffre souvent repris dans ce débat mérite d’être lu avec méthode : 91,3 % de réponses médicales testées ne citeraient aucune source web identifiable. Il attire l’attention, mais il ne permet pas de conclure que ChatGPT donne systématiquement de mauvais conseils médicaux.

Pour interpréter correctement ce type de résultat, il faut regarder plusieurs éléments : la version de ChatGPT testée, la présence ou non d’une navigation web, la nature des questions posées, la consigne donnée au modèle et la définition exacte d’une “source web identifiable”.

Ces détails changent fortement la portée du chiffre. Une question générale sur la fièvre n’a pas le même niveau de risque qu’une question sur une interaction médicamenteuse. Une réponse sans lien peut être correcte dans son contenu, tout en restant insuffisante pour être auditée.

La bonne lecture est donc prudente : ce chiffre ne prouve pas que toutes les réponses concernées sont fausses. Il montre surtout qu’une réponse médicale peut manquer de traçabilité, même lorsqu’elle semble bien construite.

Une source médicale sert à vérifier trois choses

Dans la vie quotidienne, beaucoup de recherches santé commencent par une question directe : “Est-ce grave ?”, “Que signifie ce résultat ?”, “Puis-je prendre ce médicament avec celui-ci ?”. ChatGPT peut donner une première explication, mais la santé n’est pas un domaine où une réponse générale suffit toujours.

Une source médicale utile permet d’abord d’identifier l’origine de l’information : organisme public, hôpital, société savante, revue médicale, notice officielle, page grand public relue médicalement ou contenu non spécialisé.

Elle permet ensuite de vérifier la date. Les recommandations médicales évoluent. Une information correcte il y a quelques années peut avoir été nuancée, remplacée ou réservée à certains cas.

Elle permet enfin de contrôler le périmètre. Certaines recommandations dépendent de l’âge, d’une grossesse, d’antécédents, d’allergies, d’autres traitements, du pays ou d’un protocole local.

Sans source, ces limites disparaissent de la réponse. Vous recevez un texte compact, parfois convaincant, mais séparé de la chaîne de vérification qui donne sa valeur à une information médicale.

Des références peuvent aussi être inventées ou mal attribuées

Demander des sources à ChatGPT est un bon réflexe, mais ce n’est pas une garantie suffisante. Des travaux sur les réponses médicales générées par IA ont relevé un autre risque : des références peuvent paraître crédibles tout en étant inexactes, mal attribuées ou fabriquées.

Une bibliographie longue ne prouve donc pas la fiabilité d’une réponse. Les articles doivent exister, les titres doivent correspondre, et les références doivent réellement soutenir l’affirmation avancée.

Le contrôle minimal consiste à ouvrir les sources proposées, lire le titre, identifier l’organisme responsable, regarder la date et vérifier que la source dit bien ce que ChatGPT affirme. Si un lien renvoie vers une page sans rapport, une page introuvable ou une référence impossible à retrouver, la réponse doit être considérée comme non vérifiée.

Les usages raisonnables de ChatGPT pour préparer une démarche santé

La prudence ne veut pas dire qu’il faut exclure ChatGPT de tout usage lié à la santé. L’outil peut rendre service lorsqu’il reste à sa bonne place : aider à comprendre ou à préparer une démarche plus fiable.

Il peut reformuler un texte médical difficile en langage plus simple. Il peut aider à lister les questions à poser à un médecin ou à un pharmacien. Il peut expliquer la différence entre un symptôme, un diagnostic, un traitement et un facteur de risque. Il peut aussi aider à organiser des informations personnelles avant un rendez-vous : durée des symptômes, traitements pris, allergies connues, examens déjà réalisés.

Dans ces usages, ChatGPT sert d’assistant de compréhension. Il ne remplace pas une source médicale, un pharmacien, un médecin ou un service d’urgence. La nuance est essentielle : l’outil peut aider à poser une meilleure question, mais il ne doit pas devenir l’arbitre d’une décision médicale.

Cette logique rejoint les bonnes pratiques générales pour utiliser ChatGPT sans lui déléguer une décision sensible : plus la conséquence possible est importante, plus la vérification doit être stricte.

La vérification à faire avant de croire une réponse médicale

Avant de vous appuyer sur une réponse de ChatGPT en santé, commencez par demander les sources, puis contrôlez-les. Privilégiez les organismes de santé publics, les hôpitaux, les notices officielles de médicaments, les sociétés savantes ou les ressources médicales reconnues. Une réponse qui reste vague sur son origine doit rester un point de départ, pas une conclusion.

Comparez ensuite avec au moins une source médicale fiable. Si ChatGPT affirme une chose et qu’une source reconnue dit autre chose, ne tranchez pas seul. Notez la divergence et demandez un avis professionnel.

Évaluez aussi le type de question. Une explication générale sur le fonctionnement d’un examen est moins risquée qu’une décision concrète sur un traitement, une posologie, une interaction médicamenteuse ou un symptôme aigu.

Regardez enfin le niveau de certitude. Une réponse sérieuse devrait reconnaître ses limites, mentionner les situations où consulter et éviter les affirmations trop catégoriques sur une situation individuelle qu’elle ne connaît pas.

> En cas de symptôme inquiétant, de douleur intense, de difficulté à respirer, de malaise, de signe neurologique brutal, de réaction allergique importante ou de doute urgent, il faut contacter un professionnel de santé ou les services d’urgence. ChatGPT ne doit pas servir à décider d’attendre.

Le bon statut d’une réponse sans sources

La meilleure place de ChatGPT en santé est celle d’un outil intermédiaire. Il peut aider à comprendre des mots, clarifier une notice, préparer une consultation ou structurer des inquiétudes. Il devient problématique lorsqu’il remplace la vérification, l’avis médical ou la lecture de sources reconnues.

Une réponse médicale sans sources identifiables doit donc être traitée comme un signal d’alerte. Elle n’est pas forcément fausse, mais elle ne mérite pas une confiance complète.

La règle pratique est simple : une réponse utile doit pouvoir être vérifiée. Si elle ne peut pas l’être, elle peut servir à formuler une question, pas à décider quoi faire.