Hekimler ve NHS yapay zekâ araçlarındaki hatalardan dava edilebilir

İngiltere'nin en büyük tıbbi sorumluluk koruma kuruluşlarından biri olan Medical Protection Society (MPS), klinikte giderek daha fazla kullanılan yapay zekâ araçlarının hekimleri ve NHS hizmetlerini hukuki risk altında bırakabileceğini söylediği yeni bir rapor yayımladı. Guardian'a göre rapor, mevcut tazminat çerçevelerinin yapay zekânın hız ve kapsamına ayak uyduramadığı uyarısında bulunuyor.

Klinikte kullanılan yapay zekâ araçları, görüntüleme yazılımlarından klinik karar destek sistemlerine, semptom tarayıcılardan triyaj robotlarına kadar geniş bir yelpazeye yayılıyor. NHS'de pilot uygulamalar başta radyoloji ve aile hekimliği olmak üzere onlarca trustta sürüyor. MPS, bu sistemlerin verdiği önerilerin yanlış olması durumunda 'sorumluluğun kimde olduğu' sorusunun net olmadığını söylüyor.

Rapor üç ana sorumluluk senaryosu tanımlıyor. Birincisi, hekimin AI önerisini sorgulamadan kabul ettiği vakalar; ikincisi, hekimin AI'yı es geçtiği ve doğru yanıtı kaçırdığı vakalar; üçüncüsü, AI sisteminin kendi içsel hatasından kaynaklı yanlış sonuçlar. Her senaryoda sigorta ve hukuki süreç farklı işliyor.

MPS Genel Müdürü Stephen Ledger Guardian'a verdiği demeçte, 'Hekimler şu anda yargılama hatalarından koruma altında ama yapay zekânın olduğu durumlarda hangi kararın insan, hangi kararın makineden geldiğini ayırt etmek zor. Bu, mevcut tazminat poliçelerinde önemli bir boşluk yaratıyor' dedi.

Üretici sorumluluğu konusunda da belirsizlik var. AI yazılım üreticilerinin çoğu, sözleşmelerinde sistemin 'klinik karar verici değil destek sistemi' olduğunu açıkça yazıyor. Bu cümle yargısal süreçte sorumluluğun hekime kaydırılmasını kolaylaştırıyor. Guardian, rapora göre bu yapının yeniden değerlendirilmesi gerektiğini aktardı.

Rapor, NHS yöneticilerinin de risk altında olduğunu öne sürüyor. Bir trustun kullandığı AI sisteminin yeterince doğrulanmadan klinik akışa yerleştirilmesi, yöneticilerin sorumluluk paylaşımına dahil olmasına yol açabilir. MPS, satın alma süreçlerinde klinik validasyon ve risk değerlendirme adımlarının zorunlu kılınmasını öneriyor.

Düzenleyici tarafta MHRA (İlaç ve Sağlık Ürünleri Düzenleme Ajansı), yapay zekâ tabanlı tıbbi yazılımlar için yeni bir kılavuz hazırladığını duyurdu. Kılavuzun bu yıl içinde tamamlanması ve klinik kullanım için onay süreçlerini netleştirmesi bekleniyor. Avrupa Birliği'nin AI Yasası da medikal AI sistemleri için ek yükümlülükler getiriyor.

Hasta hakları kuruluşları, raporun hasta güvenliği açısından önemini vurguladı. Patient Safety Learning kuruluşu sözcüsü, 'Hastalar AI hata yaptığında kimi sorumlu tutabileceklerini bilmek istiyor. Belirsizlik, güveni ve sağlık sisteminin uyum hızını olumsuz etkiliyor' dedi.

Klinisyenlerin günlük pratiğinde değişimler bekleniyor. MPS, hekimlerin AI önerisini kabul ya da reddetme nedenlerini belgeleme alışkanlığı edinmelerini öneriyor. Hasta dosyalarında AI çıktısının ve klinik karar gerekçesinin ayrı kayıtlanması, ileride hem savunma hem hesap verebilirlik için kritik olacak.

Guardian, raporun NHS, üreticiler ve hekimler arasında yeni bir 'sorumluluk paylaşım sözleşmesi' çağrısı yaptığını yazdı. Pek çok ülkede paralel tartışmalar sürerken, İngiltere için sigorta ve sorumluluk reformunun klinik AI'nın yaygınlığıyla aynı hızda ilerlemesi öneriliyor. Bu içerik tıbbi tavsiye ya da hukuki danışmanlık yerine geçmez.