Médicos y NHS podrían ser demandados por errores cometidos por herramientas de IA

La Medical Protection Society (MPS), uno de los mayores organismos británicos de protección de la responsabilidad médica, ha publicado un nuevo informe que indica que las herramientas de IA, cada vez más utilizadas en la práctica clínica, podrían exponer a médicos y servicios del NHS a riesgos legales. Según The Guardian, el informe advierte que los marcos de indemnización actuales no siguen el ritmo y la amplitud del despliegue de la IA en la clínica.

Las herramientas clínicas de IA abarcan un amplio espectro, desde software de imagen y sistemas de apoyo a la decisión clínica hasta verificadores de síntomas y robots de triaje. Pilotos del NHS están en marcha en decenas de trusts, sobre todo en radiología y medicina general. La MPS sostiene que cuando estos sistemas se equivocan, la pregunta de 'quién es responsable' no está hoy bien definida.

El informe define tres grandes escenarios de responsabilidad. El primero, los casos en los que el clínico acepta la recomendación de la IA sin cuestionarla; el segundo, aquellos en los que el clínico la descarta y pasa por alto la respuesta correcta; el tercero, errores derivados de fallos internos del sistema de IA. El seguro y el litigio funcionan de forma distinta en cada uno.

El director ejecutivo de la MPS, Stephen Ledger, dijo a The Guardian: 'Hoy los médicos están protegidos frente a errores de juicio, pero en los casos que implican IA es difícil separar qué decisiones vinieron del humano y cuáles de la máquina. Eso crea una laguna significativa en las pólizas de indemnización existentes'.

También hay incertidumbre sobre la responsabilidad del fabricante. La mayoría de los proveedores de software de IA establece en sus contratos que el sistema es 'una herramienta de apoyo, no un decisor clínico'. Esa fórmula facilita, en un litigio, el traslado de la responsabilidad al clínico. Según The Guardian, el informe sostiene que esa construcción contractual debe revisarse.

El informe sugiere que los directivos del NHS también están expuestos. Desplegar un sistema de IA en flujos clínicos sin la validación suficiente puede arrastrar a los gestores del trust a la cadena de responsabilidad. La MPS recomienda que los procesos de compra exijan, como norma, pasos de validación clínica y evaluación de riesgos.

En el lado regulatorio, la MHRA (la agencia reguladora de medicamentos y productos sanitarios) anunció que está preparando una nueva guía para software médico basado en IA. Se espera que la guía esté terminada este año y aclare las vías de aprobación para uso clínico. La Ley de IA de la Unión Europea añade además obligaciones específicas para los sistemas de IA médica.

Las asociaciones de pacientes subrayaron la importancia del informe para la seguridad del paciente. Un portavoz de Patient Safety Learning dijo: 'Los pacientes quieren saber a quién pueden pedir cuentas cuando la IA falla. La incertidumbre erosiona la confianza y ralentiza la capacidad de adaptación del sistema sanitario'.

Se esperan cambios en la práctica clínica diaria. La MPS recomienda que los clínicos adopten el hábito de documentar las razones para aceptar o rechazar una recomendación de IA. Registrar por separado la salida de la IA y el razonamiento clínico será fundamental, en el futuro, tanto para la defensa como para la rendición de cuentas.

The Guardian escribe que el informe pide un nuevo 'pacto de reparto de responsabilidad' entre el NHS, los proveedores de IA y los clínicos. Mientras debates paralelos avanzan en muchos países, el informe insta a que la reforma del seguro y la responsabilidad en el Reino Unido vaya al mismo ritmo que la difusión de la IA clínica. Esto no constituye un consejo médico ni legal.