Guides › Intelligence artificielle & outils numériques
Ce qu'un outil d'IA médicale peut et ne peut pas faire, et comment évaluer sa fiabilité.
La certification « Logiciel d'Aide à la Prescription » (LAP) de la HAS est une démarche de labellisation qualité pour les logiciels intégrant des fonctions d'aide à la prescription, distincte de la question réglementaire du dispositif médical.
La fiabilité d'un assistant IA médical dépend moins de sa fluidité conversationnelle que de la nature de ses sources (données officielles vérifiées ou corpus généraliste non vérifié) et de sa capacité à s'abstenir plutôt qu'à inventer une réponse plausible mais incorrecte.
Un assistant conversationnel généraliste n'est pas conçu pour un usage médical : il n'est pas adossé à une base de données médicamenteuses officielle vérifiée et peut produire des réponses plausibles mais incorrectes, un risque particulièrement sensible en contexte de prescription.
L'intelligence artificielle appliquée à la santé reste, à ce jour, un outil d'aide à la décision et non un outil de diagnostic autonome ; le jugement clinique du professionnel de santé reste central, et aucun système ne doit être présenté comme automatisant une décision médicale.
Une coupure réseau, une connexion instable en zone rurale, ou un déplacement en visite à domicile sont des situations concrètes où un outil exigeant une connexion permanente devient inutilisable — un vrai mode hors-ligne reste un critère de choix important pour un logiciel de cabinet.
Un outil d'aide à la décision médicale fournit une information à considérer par le professionnel de santé, sans jamais formuler une décision de prescription automatisée — un positionnement volontairement distinct de celui d'un dispositif médical, encadré par un règlement européen spécifique.
Une hallucination désigne une réponse d'IA générative formulée avec assurance mais non fondée sur une source vérifiable ; en médecine, les signaux d'alerte sont l'absence de citation de source officielle et une précision chiffrée non vérifiable dans le RCP.
Une question précise (molécule nommée, contexte clinique explicite, question fermée plutôt qu'ouverte) donne généralement une réponse plus fiable et plus facilement vérifiable qu'une question vague à un assistant IA médical.
Une IA générative grand public est entraînée sur des données diverses et non médicalement vérifiées, tandis qu'une IA médicale spécialisée s'appuie sur des bases de données officielles identifiées et documentées — un critère de distinction déterminant pour un usage clinique.
Une IA qui effectue une recherche web agrège des pages de qualité et de fiabilité variables, sans garantie qu'elles reflètent la version officielle et à jour du RCP d'un médicament — une IA qui interroge directement la base ANSM offre une garantie différente.
Un outil d'IA de triage de symptômes peut aider à prioriser une urgence potentielle, mais ne remplace ni l'examen clinique ni le jugement du médecin, notamment face à des présentations atypiques qu'un algorithme peine à reconnaître.
L'explicabilité désigne la capacité d'une IA à justifier sa réponse par une source ou un raisonnement vérifiable ; en médecine, une réponse non explicable est difficile à valider cliniquement et pose un problème de responsabilité en cas d'erreur.
Un biais algorithmique désigne une distorsion systématique des résultats d'une IA, souvent héritée d'un déséquilibre dans les données utilisées pour l'entraîner (sous-représentation de certaines populations par exemple), avec un risque d'inégalité de prise en charge.
Un assistant IA intégré à un outil métier de santé est généralement contraint à un périmètre de données défini et documenté, contrairement à une IA générative autonome utilisée sans cadre, dont le périmètre de réponse est potentiellement illimité.
Vérifier une réponse d'IA médicale suppose d'identifier la source citée, de la retrouver directement dans le document officiel correspondant (RCP, recommandation HAS), puis de comparer le contenu exact avant toute décision clinique.