Yapay zekâ hekimlerin klinik özerkliğini nasıl değiştiriyor?

Bir zamanlar cerrah olarak çalışan Frances Mei Hardin, yakın zamanda kaleme aldığı bir yazıda çarpıcı bir cümle kuruyor: "Yapay zekâ burada kötü adam değil; bir ayna." Yazar, tıbbi yapay zekâ araçlarına yöneltilen eleştirilerin çoğu zaman yanlış hedefe yöneldiğini savunuyor.

Hardin'in argümanına göre asıl sorun, yapay zekânın kendisi değil, sağlık sisteminin onu nasıl konumlandırdığı. Klinik karar destek sistemleri, hekimleri güçlendirmek yerine, giderek onların yargısını önceden belirlenmiş algoritmik yollara yönlendiren bir denetim mekanizmasına dönüşebiliyor.

Bu endişe yeni değil; elektronik sağlık kayıtlarının yaygınlaşmasından bu yana hekimler, uyarı yorgunluğu adı verilen bir olguyla mücadele ediyor. Sistem tarafından üretilen sayısız otomatik uyarı, zamanla klinisyenlerin gerçekten kritik olan sinyalleri fark etme kapasitesini aşındırabiliyor.

Yapay zekâ destekli tanı araçları bu dinamiği hem hafifletebilir hem de derinleştirebilir. Bir yandan, doğru kullanıldığında nadir görüleni yakalayan bir ikinci göz görevi görebiliyor; öte yandan, hekimlerin algoritmanın önerisini sorgulamadan kabul etme eğilimini de güçlendirebiliyor.

Araştırmacılar bu eğilimi "otomasyon önyargısı" olarak adlandırıyor: bir sistem yeterince güvenilir göründüğünde, kullanıcılar onun çıkardığı sonuçları eleştirel biçimde değerlendirmeyi bıraktıkça kararları bir noktadan sonra sadece onaylamaya başlıyor.

Hardin'in yazısı, bu dinamiğin özellikle eğitim aşamasındaki hekimler için risk taşıdığını öne sürüyor; çünkü klinik sezginin gelişimi, doğrudan deneyim ve hata yoluyla öğrenmeyi gerektiriyor. Yapay zekâ her adımı önceden yanıtladığında, bu öğrenme sürecinin kesintiye uğrayabileceği tartışılıyor.

Sağlık sistemleri açısından bakıldığında, yapay zekâ araçlarının benimsenmesindeki temel motivasyon çoğu zaman verimlilik ve maliyet kontrolü; bu da bazı eleştirmenlere göre, klinik özerkliğin korunmasından önce idari önceliklerin devreye girdiği anlamına geliyor.

Buna karşın, savunucular yapay zekânın doğru çerçevede kullanıldığında hekimlerin rutin işlerden kurtularak hastayla daha fazla zaman geçirmesine olanak tanıyabileceğini savunuyor. Sonuç, büyük ölçüde uygulama biçimine bağlı.

Hardin'in "ayna" benzetmesi, tartışmayı teknolojiden kurumsal karar alma süreçlerine taşıyor: yapay zekâ, sağlık sisteminin önceliklerini -verimlilik mi, klinik yargı mı- olduğu gibi yansıtıyor, onları yaratmıyor.

Tartışma, tıbbi yapay zekânın hızla yaygınlaştığı bir dönemde, hekim özerkliğinin nasıl korunacağına dair daha geniş bir politika sorusunu gündemde tutuyor; çözüm, teknolojiyi reddetmek değil, onu klinik yargıyı destekleyecek şekilde tasarlamak gibi görülüyor.