Hinton, Li ve Ng, güvenlik endişelerine rağmen açık yapay zeka modellerini neden savunuyor?

Yapay zeka endüstrisinin yüzeyinin altında yıllardır kaynayan bir tartışma, alanın en etkili üç araştırmacısının -Geoffrey Hinton, Fei-Fei Li ve Andrew Ng- teknoloji daha yetenekli hale gelirken güçlü yapay zeka modellerini açık şekilde erişilebilir kılmanın güvenlik çabalarını güçlendirip güçlendirmediği ya da zayıflatıp zayıflatmadığı konusunu tartıştığı, kimi noktalarda anlaşmazlığa düştüğü Ai4 konferansında açığa çıktı.

Sinir ağları üzerine yaptığı temel çalışma günümüzdeki yapay zeka dalgasını mümkün kılmaya yardımcı olan ve o zamandan beri varoluşsal risk konusunda uyaran alanın en tanınmış seslerinden biri haline gelen Hinton, genellikle en yetenekli sistemler üzerinde daha sıkı kontrol için savundu; yaygın olarak mevcut açık ağırlıklı modellerin daha kolay kötüye kullanılabileceği ya da güvenlik korkuluklarını çıkarmak için değiştirilebileceği endişesini dile getirdi.

Hem akademik yapay zeka araştırmalarını, büyük endüstri rollerini hem de girişim liderliğini kapsayan kariyerler inşa etmiş olan Ng ve Li, açık kaynak yapay zeka gelişimini daha tutarlı şekilde savundu; model ağırlıklarına geniş erişimin faydalı araştırmayı hızlandırdığını, küçük şirketler ve akademik laboratuvarlar için engelleri düşürdüğünü ve -kritik olarak- çok daha büyük bir araştırmacı topluluğunun, izole çalışan bir avuç kapalı laboratuvarın hiçbir zaman yapamayacağı şekilde güvenlik kusurlarını tespit edip düzeltmesine olanak tanıdığını savundu.

Panelin tartışması doğrudan jeopolitik rekabete değindi; özellikle Çinli yapay zeka laboratuvarları giderek daha yetenekli açık ağırlıklı modeller yayınlamaya devam ederken Amerika Birleşik Devletleri ve müttefiklerinin nasıl yanıt vermesi gerektiği sorusuna. Birkaç Çinli geliştirici, izinli lisanslarla son derece yetenekli modeller yayınlayarak önemli küresel benimseme kazandı; tartışmadaki bazı kişiler bunu, kısıtlama yerine açıklık yoluyla küresel yapay zeka ekosisteminin koşullarını belirlemeye yönelik kasıtlı bir çaba olarak çerçeveledi.

Batı'nın açıklığa devam etmesini savunanlar, açık model alanını tamamen Çinli geliştiricilere bırakmanın stratejik olarak kısa görüşlü olacağını, bu modellerin -ve içlerine gömülü normların, önyargıların ve bağımlılıkların- ABD ve Avrupa'nın şu anda sınırlı teknolojik etkiye sahip olduğu bölgeler dahil dünyanın büyük bölümlerinde yapay zeka gelişimi için varsayılan altyapı haline gelmesine potansiyel olarak izin verebileceğini savundu.

Tartışmanın güvenlik yönü, gerçek ve çözülmemiş bir teknik anlaşmazlığa dayanıyor: korunması gereken temel yapay zeka riski, küçük sayıda güçlü, merkezi laboratuvarın sistemleri sorumsuzca dağıtması mı, yoksa aksi halde bu tür sistemleri sıfırdan inşa etmek için kaynaklardan yoksun olacak kötü niyetli aktörler tarafından zararlı amaçlarla uyarlanan geniş çapta yayılmış yetenekli açık modeller mi?

Düzenleme tartışmada ağırlıklı bir yer tuttu; katılımcılar en yetenekli yapay zeka sistemleri için bir tür yönetişim çerçevesinin muhtemelen gerekli olduğu konusunda geniş ölçüde hemfikirken, düzenleyici çizginin nereye çizilmesi gerektiği konusunda -kısıtlamaların açık ya da kapalı olmasına bakılmaksızın az sayıda öncü ölçekli modele dar bir şekilde mi uygulanması gerektiği, yoksa açıklığın kendisinin kendi denetim katmanını gerektiren ek, ayrı bir risk faktörü olarak mı ele alınması gerektiği- keskin şekilde ayrıldı.

Bu boyutta üç araştırmacının -modern yapay zekaya yaptıkları temel katkılarla geniş çapta tanınan ve bu düzeyde ayrıntıda kamuoyu önünde nadiren anlaşmazlığa düşen isimlerin- bu tartışmayı bir endüstri izleyicisi önünde yapmayı seçmesi başlı başına dikkat çekici; bu da yapay zeka yetenekleri hızla ilerlemeye devam ederken açık-kapalı tartışmasının ne kadar çözümsüz ve sonuç doğurucu hale geldiğini yansıtıyor.

Sektörü izleyenler, bu tartışmanın pratik önemi hızla arttığını not ediyor; çünkü en gelişmiş kapalı modeller ile en iyi açık şekilde erişilebilir modeller arasındaki yetenek farkı son iki yılda önemli ölçüde daraldı; bu da açıklık kararlarının artık nispeten sınırlı erken nesil modeller yerine gerçekten güçlü sistemlere uygulandığı anlamına geliyor.

Panelden bir çözüm çıkmadı ve üç araştırmacıdan hiçbiri endüstri genelinde bir çözümün yakın olduğunu öne sürmedi. Görüş alışverişinin netleştirdiği şey, yapay zekanın en saygın zihinlerinden bazılarının, cevabın dünya çapındaki hükümetlerin, şirketlerin ve araştırmacıların teknolojinin bir sonraki aşamasına nasıl yaklaştığını giderek daha fazla şekillendirdiği bir anda, alanın en sonuç doğurucu çözülmemiş sorularından birinde gerçekten bölünmüş durumda kalmaya devam ettiği.