DeepMind CEO'su, sınır ötesi yapay zekayı denetleyecek bağımsız bir kurum çağrısında bulundu

Google DeepMind'ın CEO'su Demis Hassabis, en gelişmiş yapay zeka modellerini denetleyecek bağımsız bir kurum kurulmasını önerdi. Hassabis, bu kurumun finans sektöründe faaliyet gösteren özdenetim kuruluşlarına benzer şekilde çalışmasını öngörüyor.

Bu tür kuruluşlara verilen örnek, ABD'de menkul kıymet aracı kurumlarını denetleyen bir özdenetim organizasyonu. Bu kurum, doğrudan devlet kurumu olmasa da, sektördeki firmaların uyması gereken kuralları belirliyor ve uyum denetimleri yapıyor.

Hassabis'in önerisine göre, benzer bir yapı yapay zeka alanında da kurulabilir. Bu kurum, “sınır ötesi” olarak tanımlanan, yani mevcut yeteneklerin en ucunda yer alan yapay zeka modellerini kamuya sunulmadan önce test edecek ve güvenlik standartlarına uygunluğunu değerlendirecek.

Öneri, yapay zeka şirketlerinin kendi kendini düzenlemesi ile hükûmetlerin doğrudan müdahalesi arasında bir orta yol arayışı olarak görülüyor. Hassabis, tamamen devlet kontrolündeki düzenlemelerin, hızla gelişen bir teknolojiye ayak uydurmakta zorlanabileceğini savunuyor.

Eleştirmenler ise sektörün kendi kendini denetlemesinin çıkar çatışması riski taşıdığını belirtiyor. Bir kuruluşun, finansmanının büyük bölümünü denetlediği şirketlerden alması durumunda, bağımsızlığının ne ölçüde korunabileceği sorgulanıyor.

Yapay zeka düzenlemesi konusunda küresel ölçekte farklı yaklaşımlar zaten mevcut. Avrupa Birliği, kapsamlı bir yasal çerçeve oluştururken, Amerika Birleşik Devletleri'nde düzenleme büyük ölçüde parçalı ve eyalet bazlı ilerliyor; Çin ise kendi merkezi denetim modelini uyguluyor.

Hassabis, önerdiği bağımsız kurumun bu farklı düzenleyici yaklaşımlar arasında bir köprü görevi görebileceğini, şirketlerin farklı ülkelerde farklı kurallara uymak yerine ortak bir standart etrafında birleşebileceğini savunuyor.

Önerinin hayata geçmesi için, büyük yapay zeka şirketlerinin bu tür bir kurumun yetkisini kabul etmesi gerekiyor. Şirketlerin gönüllü katılımı olmadan, kurumun pratikte bir yaptırım gücü olması mümkün görünmüyor.

Bazı sektör gözlemcileri, bu tür önerilerin geçmişte de dile getirildiğini ancak çoğu zaman somut bir yapıya dönüşmediğini hatırlatıyor. Yapay zeka şirketleri arasındaki rekabetin yoğunluğu, ortak bir denetim çerçevesi üzerinde anlaşmayı zorlaştırabiliyor.

Hassabis'in çağrısı, yapay zeka güvenliği konusundaki tartışmanın yalnızca hükûmetler ve sivil toplum kuruluşları arasında değil, sektörün en büyük oyuncularının kendi içinde de sürdüğünü gösteriyor. Önerinin somut bir kuruma dönüşüp dönüşmeyeceği ise belirsizliğini koruyor.