Les médecins et le NHS pourraient être poursuivis pour les erreurs commises par des outils d'IA

La Medical Protection Society (MPS), l'un des principaux organismes britanniques de protection de la responsabilité médicale, publie un nouveau rapport indiquant que les outils d'IA, de plus en plus utilisés en clinique, peuvent exposer médecins et services du NHS à un risque juridique. Selon le Guardian, le rapport alerte sur le fait que les cadres d'indemnisation actuels ne suivent pas la vitesse et l'ampleur du déploiement de l'IA.

Les outils cliniques d'IA couvrent un large spectre, des logiciels d'imagerie aux systèmes d'aide à la décision clinique, en passant par les outils de vérification de symptômes et les robots de triage. Des pilotes NHS sont en cours dans des dizaines de trusts, en particulier en radiologie et en médecine générale. La MPS estime que, lorsque ces systèmes se trompent, la question « qui est responsable ? » n'est aujourd'hui pas clairement tranchée.

Le rapport définit trois grands scénarios de responsabilité. Le premier concerne les cas où le clinicien accepte la recommandation de l'IA sans la remettre en cause ; le deuxième, ceux où il l'écarte et passe à côté d'une bonne réponse ; le troisième, les erreurs liées à un défaut interne du système d'IA. Assurance et contentieux fonctionnent différemment dans chacun.

Stephen Ledger, directeur général de la MPS, déclare au Guardian : « Les médecins sont aujourd'hui couverts pour les erreurs de jugement, mais dans les cas impliquant l'IA, il est difficile de distinguer ce qui relève de l'humain et ce qui relève de la machine. Cela crée une lacune importante dans les polices d'indemnisation existantes. »

La responsabilité des fabricants est également entourée d'incertitude. La plupart des éditeurs de logiciels d'IA stipulent dans leurs contrats que le système est « un outil de support, pas un décideur clinique ». Cette formule facilite, dans un contentieux, le transfert de la responsabilité vers le clinicien. Le Guardian rapporte que le rapport estime que cette construction contractuelle doit être révisée.

Le rapport considère aussi que les dirigeants du NHS sont exposés. Déployer un système d'IA dans des flux cliniques sans validation suffisante peut entraîner les directions de trust dans la chaîne de responsabilité. La MPS recommande que les processus d'achat exigent comme norme des étapes de validation clinique et d'évaluation des risques.

Côté réglementation, la MHRA (l'agence de régulation des médicaments et produits de santé) annonce qu'elle prépare un nouveau guide pour les logiciels médicaux à base d'IA. Le guide est attendu cette année et devrait clarifier les voies d'autorisation pour l'usage clinique. L'AI Act de l'Union européenne ajoute par ailleurs des obligations spécifiques aux systèmes d'IA médicale.

Les associations de patients ont souligné l'importance du rapport pour la sécurité des soins. Un porte-parole de Patient Safety Learning déclare : « Les patients veulent savoir qui peut être tenu responsable lorsque l'IA se trompe. L'incertitude mine la confiance et ralentit la capacité d'adaptation du système de santé. »

Des changements sont attendus dans la pratique quotidienne. La MPS recommande aux cliniciens de prendre l'habitude de documenter les raisons pour lesquelles ils acceptent ou refusent une recommandation d'IA. Enregistrer séparément la sortie d'IA et la motivation de la décision clinique sera essentiel, à l'avenir, tant pour la défense que pour la redevabilité.

Le Guardian indique que le rapport appelle à un nouveau « pacte de partage de responsabilité » entre le NHS, les éditeurs d'IA et les cliniciens. Des débats parallèles se mènent dans de nombreux pays, mais le rapport plaide pour que la réforme de l'assurance et de la responsabilité au Royaume-Uni avance au même rythme que la diffusion de l'IA clinique. Ceci ne constitue ni un avis médical ni un conseil juridique.