San Francisco, Apple ve Google'a 'nudify' uygulamalarını mağazalardan kaldırma emri verdi

San Francisco şehir yönetimi, kullanıcıların yükledikleri sıradan fotoğrafları yapay zeka yardımıyla açık içerikli, rıza dışı görsellere dönüştüren mobil uygulamalara karşı Apple ve Google'a dava açtı. Şehrin başsavcılığına göre iki şirket, bu uygulamaları mağazalarında barındırmaya devam ederek yalnızca içeriğe göz yummuyor, aynı zamanda satın alma komisyonları ve abonelik ücretleri üzerinden doğrudan gelir de elde ediyor.

'Nudify' olarak bilinen bu uygulamalar, üretken yapay zeka modellerini kullanarak bir kişinin normal bir fotoğrafını, o kişinin rızası olmadan çıplak ya da açık içerikli bir görüntüye dönüştürüyor. Teknoloji, özellikle gençler arasında zorbalık ve tehdit amacıyla kötüye kullanılan bir araç haline geldi; kurbanlar arasında yetişkinler kadar reşit olmayan kişiler de bulunuyor.

Dava, Apple ve Google'ın uygulama mağazası politikalarının bu tür içerikleri açıkça yasakladığını, ancak uygulamanın pratikte tutarsız olduğunu iddia ediyor. Şehir yetkilileri, benzer uygulamaların defalarca kaldırılıp farklı isimlerle yeniden yayınlandığını, bu döngünün platformların denetim sistemlerindeki bir boşluğa işaret ettiğini savunuyor.

Hukuki iddianın merkezinde, platformların yalnızca pasif bir aracı olmadığı, uygulama mağazası komisyonları yoluyla bu içerikten aktif olarak kâr ettiği argümanı yer alıyor. Bu çerçeve, davayı yalnızca içerik denetimi meselesinden çıkarıp, şirketlerin finansal sorumluluğu meselesine dönüştürüyor.

Apple ve Google, geçmişte benzer eleştirilere yanıt olarak politikalarını sıkılaştırdıklarını ve ihlal eden uygulamaları kaldırdıklarını belirtmişti. Ancak eleştirmenler, milyonlarca uygulamanın gözden geçirildiği bir ortamda, kötü niyetli geliştiricilerin isim ve açıklama değiştirerek denetimi kolayca atlatabildiğini söylüyor.

Bu dava, yapay zeka araçlarının kötüye kullanımını düzenlemeye çalışan yerel ve eyalet düzeyindeki daha geniş bir hukuki hareketin parçası. ABD'de birçok eyalet, son yıllarda rıza dışı sentetik açık içerik üretimini suç haline getiren yasalar çıkardı, ancak bu yasaların uygulama mağazalarına doğrudan sorumluluk yüklemesi nispeten yeni bir strateji.

Dijital hak grupları, davanın sonucunun platformların içerik denetimine yaklaşımını nasıl değiştireceği konusunda dikkatle izleniyor. Eğer mahkeme, mağazaların yalnızca uygulamayı listelemekten değil, o uygulamadan elde ettiği gelirden de sorumlu tutulabileceğine karar verirse, bu durum çok daha geniş bir uygulama kategorisi için emsal oluşturabilir.

Eleştirmenler, yapay zeka görüntü üretim teknolojisinin hızla ucuzlaması ve erişilebilir hale gelmesinin, bu tür kötüye kullanımı tespit etmeyi giderek zorlaştırdığını belirtiyor. Bir uygulamanın 'nudify' işlevini gizlemesi ya da başka bir amaç için pazarlanmış gibi görünmesi, otomatik denetim sistemlerini yanıltmayı kolaylaştırıyor.

Mağdur savunuculuk grupları, davayı bir dönüm noktası olarak nitelendiriyor; çünkü bugüne kadar sorumluluk çoğunlukla uygulamayı geliştiren kişiye yüklenirken, bu dava büyük platformların da hesap verebilirliğini gündeme getiriyor.

Davanın sonucu ne olursa olsun, gelişme, yapay zeka araçlarının kötüye kullanımı konusunda büyük teknoloji şirketlerinin karşı karşıya kaldığı hukuki baskının arttığının bir işareti — ve bu baskının, yalnızca içerik üreticilerini değil, o içeriğin dağıtım kanallarını da hedef almaya başladığının bir göstergesi.