Comment l'IA transforme l'autonomie clinique des medecins

Frances Mei Hardin, ancienne chirurgienne, ouvre un essai recent par une phrase frappante : "l'IA n'est pas la vilaine ici ; elle est un miroir." Son argument est qu'une grande partie des critiques adressees aux outils d'IA medicale visent la mauvaise cible.

Selon Hardin, le vrai probleme n'est pas l'intelligence artificielle elle-meme, mais la maniere dont le systeme de sante choisit de la deployer. Les outils d'aide a la decision clinique, affirme-t-elle, peuvent passer d'un role d'autonomisation des medecins a celui d'un mecanisme de controle qui oriente le jugement vers des voies algorithmiques predeterminees.

Cette inquietude n'est pas nouvelle. Depuis l'adoption massive des dossiers medicaux electroniques, les medecins sont confrontes a ce que les chercheurs appellent la fatigue d'alerte, un flux constant d'avertissements automatises qui, avec le temps, peut eroder la capacite des cliniciens a reperer les signaux qui comptent vraiment.

Les outils de diagnostic assistes par IA peuvent soit attenuer, soit approfondir cette dynamique. Bien utilises, ils peuvent servir de second regard qui detecte le cas rare qu'un clinicien pourrait manquer. Mal utilises, ils peuvent renforcer une tendance a accepter la suggestion d'un algorithme sans la remettre en question.

Les chercheurs designent ce schema sous le terme de biais d'automatisation : lorsqu'un systeme parait suffisamment fiable, les utilisateurs cessent progressivement d'evaluer ses resultats de maniere critique et se contentent d'entériner ses conclusions.

L'essai de Hardin suggere que cette dynamique presente un risque particulier pour les medecins encore en formation, l'intuition clinique se developpant par l'experience directe et l'apprentissage par l'erreur. Certains craignent que lorsque l'IA repond a chaque etape a l'avance, ce processus d'apprentissage risque d'etre interrompu.

Du point de vue des systemes de sante, la motivation principale derriere l'adoption des outils d'IA est souvent l'efficacite et la maitrise des couts, ce qui, selon certains critiques, signifie que les priorites administratives peuvent primer sur la preservation de l'autonomie clinique.

Les partisans retorquent que, deployee dans le bon cadre, l'IA peut liberer les medecins des taches routinieres et leur laisser plus de temps avec les patients. Le resultat, selon eux, depend largement de la mise en oeuvre plutot que de la technologie elle-meme.

La metaphore du miroir de Hardin deplace le debat de la technologie vers la prise de decision institutionnelle : l'IA reflete les priorites existantes d'un systeme de sante, qu'il s'agisse d'efficacite ou de jugement clinique, plutot que de les creer de toutes pieces.

Le debat maintient en vue une question de politique plus large a mesure que l'IA medicale se repand rapidement : comment preserver l'autonomie des medecins. Le consensus qui se degage n'est pas de rejeter la technologie, mais de la concevoir de maniere a soutenir le jugement clinique plutot qu'a le remplacer.