ChatGPT Health : Une IA encore trop fragile pour les urgences vitales

ChatGPT Health : Une IA encore trop fragile pour les urgences vitales

Lancé début 2026, l'outil ChatGPT Health d'OpenAI promettait d'aider les utilisateurs à évaluer la gravité de leurs symptômes. Cependant, une étude menée par l'Icahn School of Medicine (New York) révèle des failles de sécurité alarmantes : l'IA échoue à identifier l'urgence dans plus de la moitié des situations critiques.

1. Des performances inégales selon le degré d'urgence

L'étude a testé 960 scénarios cliniques. Si l'IA s'en sort bien pour la bobologie, elle devient dangereuse dès que le pronostic vital est en jeu.

2. Les "angles morts" de l'intelligence artificielle

L'étude souligne des erreurs de jugement paradoxales :

• Asthme et Diabète : Dans 85 % des cas d'asthme sévère, l'IA n'a pas conseillé les urgences. Pour l'acidocétose diabétique, elle a souvent confondu l'urgence avec une simple hausse de sucre, recommandant un rendez-vous classique.
• Le paradoxe des données : Étonnamment, fournir des résultats biologiques précis à l'IA a tendance à dégrader sa performance dans les cas urgents, comme si les chiffres "distrayaient" l'algorithme de la gravité des symptômes.
• Risque Suicidaire : Le point le plus critique. L'IA a parfois échoué à détecter un passage à l'acte imminent, ne proposant même pas de numéro d'aide psychologique.

3. Vers une réglementation stricte

Face à ces résultats, les chercheurs appellent à ce que les IA de santé soient traitées comme des dispositifs médicaux. Cela signifie qu'elles devraient passer des tests de sécurité rigoureux avant d'être mises à disposition du public, au même titre qu'un nouveau médicament ou un appareil chirurgical.

Mon conseil de pro (Focus Algérie)

En Algérie, où l'accès aux spécialistes peut être complexe et où l'on se tourne de plus en plus vers internet pour se rassurer :

1. L'IA n'est pas un médecin : Utilisez ces outils pour vous informer, mais jamais pour décider si vous devez attendre ou non.
2. Écoutez les "signes rouges" : En cas de douleur thoracique brutale, difficulté à respirer, paralysie soudaine d'un membre ou propos suicidaires, n'ouvrez pas ChatGPT. Appelez immédiatement les secours (Protection Civile 14 ou SAMU) ou rendez-vous aux urgences les plus proches.
3. La règle d'or : Dans le doute, privilégiez toujours l'avis d'un professionnel de santé humain. Le temps perdu sur une application peut être fatal dans les pathologies chroniques comme le diabète ou l'asthme.

Dr NAAS AI.