'Nudify' uygulamaları nedir ve Apple, Google neden kaldırmaya zorlanıyor?

"Nudify" (soyundurma) uygulamaları, yapay zeka kullanarak bir kişinin normal bir fotoğrafını alıp, o kişinin çıplak görünmesini sağlayan sahte bir görsele dönüştüren yazılımlar. Bu uygulamalar, rıza olmadan üretilen mahrem görüntüler oluşturmak için kullanılıyor ve çoğunlukla kadınları ve genç kızları hedef alıyor.

San Francisco Belediye Avukatı David Chiu, Apple ve Google'a gönderdiği resmi yazılarda, her iki şirketin de kendi uygulama mağazalarında eyalet yasalarını ihlal eden bu tür uygulamaları barındırdığının uzun süredir farkında olduğunu belirtti. Yazılar, şirketlerin bu uygulamaları mağazalarından kaldırmasını talep ediyor.

California eyaletinde, rıza dışı mahrem görüntülerin -gerçek olsun ya da yapay zekayla üretilmiş olsun- oluşturulması ve dağıtılması yasalarla açıkça yasaklanmış durumda. Chiu'nun yazıları, Apple ve Google'ın bu uygulamaları mağazalarında sunarak, kullanıcıların bu yasayı ihlal etmesine dolaylı olarak aracılık ettiğini öne sürüyor.

Bu tür uygulamaların uygulama mağazalarında var olabilmesi, ilk bakışta şaşırtıcı görünebilir çünkü hem Apple hem de Google, açık cinsel içerikli uygulamaları yasaklayan katı mağaza politikalarına sahip. Ancak birçok nudify uygulaması, mağazalara "fotoğraf düzenleme" veya "eğlence" kategorisinde başvuruyor ve gerçek işlevini inceleme sürecinde gizleyebiliyor.

Bu, ilk kez bir yerel yönetimin bu tür uygulamalara karşı harekete geçmesi değil. Geçtiğimiz yıllarda, hem ABD'de hem de başka ülkelerde, okullarda öğrencilerin bu uygulamalarla hedef alındığı, ardından oluşturulan görüntülerin sınıf arkadaşları arasında yayıldığı vakalar rapor edilmişti; bu olaylar, konunun kamuoyunda ve düzenleyiciler arasında görünürlüğünü artırdı.

Uzmanlar, bu tür uygulamaların özellikle reşit olmayan kızları etkileyen vakalarda ciddi psikolojik zarara yol açtığını belirtiyor. Görüntülerin sahte olduğu bilinse bile, yayılmaları mağdurlar için gerçek bir itibar ve güvenlik tehdidi oluşturabiliyor -bazı vakalarda okul disiplin süreçlerine ve hatta ceza soruşturmalarına kadar uzanan sonuçlar doğurmuş durumda.

Apple ve Google'ın mağaza denetim süreçleri, milyonlarca uygulamayı kapsıyor ve her ikisi de yapay zeka destekli görüntü işleme uygulamalarının hızla çoğaldığını, bunların kötüye kullanım potansiyelini önceden tespit etmenin giderek zorlaştığını kabul ediyor. Şirketler, ihlal bildirimleri geldiğinde uygulamaları kaldırdıklarını söylüyor, ancak eleştirmenler bu yaklaşımın reaktif kaldığını savunuyor.

ABD'de federal düzeyde de bu konuya yönelik yasal adımlar atılıyor; rıza dışı mahrem görüntülerin -yapay zeka ile üretilmiş olanlar dahil- dağıtımını suç sayan federal yasalar son yıllarda yürürlüğe girdi. San Francisco'nun bu girişimi, federal çerçeveyi yerel düzeyde uygulamaya yönelik bir adım olarak görülüyor.

Apple ve Google'ın bu yazılara nasıl yanıt vereceği henüz netleşmedi, ancak her iki şirket de geçmişte benzer kamuoyu baskısı sonrasında sorunlu uygulamaları mağazalarından kaldırmıştı. Chiu'nun ofisi, şirketlerin yanıt vermemesi durumunda ek yasal adımlar atabileceğini belirtiyor.

Bu gelişme, yapay zeka destekli görüntü üretim araçlarının hızla yaygınlaşmasıyla birlikte, uygulama mağazalarının denetim sorumluluğunun giderek daha fazla sorgulandığı daha geniş bir eğilimin parçası -ve düzenleyicilerin, teknoloji şirketlerini yalnızca şikayet üzerine değil, önleyici olarak harekete geçmeye zorlamaya çalıştığını gösteriyor.