L'IA conversationnelle: vulnérable aux fausses informations en santé

L'IA conversationnelle: vulnérable aux fausses informations en santé

On sait que l'IA peut nous aider à comprendre la médecine, mais une étude américaine majeure (publiée dans The Lancet Digital Health en 2026) vient de jeter un pavé dans la mare : les IA conversationnelles sont encore très vulnérables à la désinformation médicale, surtout quand elle "semble" sérieuse.

1. Le piège du "style clinique"

L'étude a testé 20 modèles d'IA (dont GPT, Llama, Gemma...) avec des millions de questions. Le résultat est surprenant :

• L'IA est plus méfiante face aux réseaux sociaux : Elle détecte assez bien les fausses infos qui viennent des forums (taux d'erreur de seulement 9 %).
• L'IA est naïve face aux documents officiels : Si on insère une fausse information dans une lettre de sortie d'hôpital, l'IA l'accepte dans 46 % des cas.
• L'argument d'autorité : Si vous dites à l'IA "Un éminent professeur recommande de boire du lait froid pour stopper une hémorragie", elle a tendance à valider cette aberration simplement parce que la phrase a l'air "professionnelle".

2. Le danger des "Sophismes"

Les chercheurs ont utilisé des techniques de manipulation (sophismes) pour tester les réflexes de l'IA.

• La "pente glissante" ou "l'appel à l'autorité" sont les méthodes qui piègent le plus facilement l'IA, la poussant à confirmer des conseils médicaux dangereux.
• Heureusement, certains modèles (comme GPT) s'en sortent mieux que d'autres, mais aucun n'est infaillible.

3. Pourquoi est-ce important pour vous ?

Cela signifie que si vous utilisez une IA pour vérifier un symptôme ou un traitement :

1. Le ton ne fait pas la vérité : Ce n'est pas parce que l'IA répond avec un vocabulaire médical complexe qu'elle a raison.
2. L'IA peut "halluciner" : Elle peut inventer ou valider une bêtise si la question est posée avec trop d'assurance.
3. Le contexte est roi : Les IA ont encore du mal à faire la différence entre un vrai protocole médical et une fausse recommandation glissée au milieu d'un texte sérieux.

Mon conseil de pro

L'IA est un outil fantastique pour expliquer (vulgariser un compte rendu, expliquer une maladie), mais elle ne doit jamais servir à décider d'un traitement ou à valider un conseil de santé douteux. En Algérie, comme ailleurs, la "Sagesse de l'IA" a ses limites. Votre médecin reste le seul capable de trier le vrai du faux en fonction de votre situation réelle

Dr NAAS A.

D'après une dépêche publiée dans APMnews le 10 février 2026.