Artık Google Gemini'nin görünür yapay zeka filigranlarını kapatabilirsiniz: bunun gerçekte ne değiştirdiği

Google, Gemini uygulamasına ve Flow video üreticisine, kullanıcıların yapay zeka tarafından üretilen görsellerde, videolarda ve müziklerde damgalanan küçük görünür filigranı kaldırmasına izin veren yeni bir açma/kapama seçeneğini sessizce ekledi. Şirket tarafından doğrulanan değişiklik, dünyanın en büyük yapay zeka geliştiricilerinden birinin, sentetik medyayı etiketleme konusundaki giderek tartışmalı hale gelen soruya nasıl yaklaştığında bir değişimi işaret ediyor ve düzenleyicilerin ve platformların ters yönde hareket ettiği, yapay zeka tarafından üretilen içerik etrafında daha az değil daha fazla şeffaflık için baskı yaptığı bir anda geliyor.

Söz konusu görünür filigran, Google'ın Nano Banana görsel modelinin ve Omni video ile müzik modelinin lansmandan bu yana çıktılarının köşesine damgaladığı küçük, yarı saydam bir "parıltı" simgesi. Diğer yapay zeka görsel üreticiler tarafından uzun süredir kullanılan filigranlara benzer şekilde işlev görüyor: içeriğe bakan herkese, daha fazla araştırmaya gerek kalmadan, bunun geleneksel olarak yakalanmış ya da oluşturulmuş yerine bir yapay zeka sistemi tarafından üretildiğini söyleyen hızlı bir görsel ipucu. Yeni ayarla, kullanıcılar bu görünür işareti kapatabilir ve ilk bakışta işaretsiz, geleneksel olarak oluşturulmuş içerikle aynı görünen çıktılar üretebilir.

Kritik olarak, görünür filigranı devre dışı bırakmak, Google'ın SynthID adlı diğer izleme mekanizmasını kaldırmıyor. Görünür parıltı simgesinin aksine, SynthID, yapay zeka tarafından üretilen içeriğin piksel ya da ses verisine doğrudan algılanamayan bir dijital örüntü gömüyor; bu, kırpma, sıkıştırma ve format dönüştürme gibi yaygın düzenleme işlemlerinden, tek başına meta verinin tipik olarak yapabildiğinden çok daha iyi hayatta kalan bir sinyal. Google, giderek artan sayıda yapay zeka şirketiyle birlikte, SynthID'yi görünür işaretlerden arındırıldıktan ya da meta veriyi atan platformlarda paylaşıldıktan sonra bile yapay zeka tarafından üretilen içeriğin doğrulanmasına izin veren bir yol olarak konumlandırdı.

SynthID'nin yanı sıra, Google, ürettiği içeriğe C2PA meta verisini gömüyor - büyük teknoloji ve medya şirketlerinden oluşan bir koalisyon tarafından desteklenen, bir dijital içerik parçasının nasıl oluşturulduğu ve düzenlendiği hakkında bilgi kaydeden teknik bir standart. SynthID'nin gömülü sinyalinin aksine, C2PA meta verisi, onu korumayan platformlar aracılığıyla yeniden kodlanarak ya da yeniden yüklenerek görece kolayca kaldırılabilir; bu da onun, medyanın kendisine doğrudan gömülü filigrana kıyasla daha zayıf kalıcılık garantileri sunduğu anlamına geliyor.

Google'ın kullanıcıların görünür işareti devre dışı bırakmasına izin verme gerekçesi, şirkete göre, görünür bir filigranın bitmiş bir ürünü bozduğu meşru yaratıcı kullanım durumlarına odaklanıyor - örneğin, yapay zeka tarafından üretilen b-roll görüntüsünü daha geniş bir projeye dahil eden bir film yapımcısı ya da görünür bir parıltı simgesinin dikkat dağıtıcı bir artefakt olacağı daha büyük bir kompozit görsel içinde yapay zeka tarafından üretilen öğeleri kullanan bir tasarımcı. Şirket, görünmez SynthID katmanını hesap verebilirlik için birincil mekanizma olarak çerçeveledi; kozmetik bir görsel işareti kaldırmanın, gerektiğinde yapay zeka kökenini doğrulama yeteneğini anlamlı ölçüde zayıflatmadığını savunuyor.

Değişikliğin eleştirmenleri, ikisi de teknik olarak mevcut olsa bile, görünür filigranların ve görünmez köken sinyallerinin temelde farklı toplumsal işlevlere hizmet ettiğini savunuyor. Görünür bir filigran, herhangi bir izleyiciye, içeriğin yapay zeka tarafından üretildiğini fark etmek için özel araç ya da teknik bilgi gerektirmeyen, anında ve evrensel bir sinyal sağlıyor. Buna karşılık SynthID gibi görünmez bir sinyal, bir izleyicinin yapay zeka kökenini doğrulamak için aktif olarak algılama yazılımı çalıştırmasını ya da belirli bir doğrulama aracı kullanmasını gerektiriyor - sosyal medyada dolaşan bir görsel ya da videonun neredeyse hiçbir sıradan izleyicisinin asla atmayacağı bir adım. Pratikte, görünür işareti devre dışı bırakmak, içerikle karşılaşan insanların büyük çoğunluğunun onu geleneksel olarak oluşturulmuş medyadan ayıran hiçbir şey görmeyeceği anlamına geliyor.

Zamanlama, daha geniş düzenleyici eğilim göz önüne alındığında özellikle dikkat çekti. Avrupa Birliği'nin Yapay Zeka Yasası, yapay zeka tarafından üretilen içeriği etiketlemeye yönelik şeffaflık gereklilikleri içeriyor ve özellikle yapay zeka tarafından üretilen yanlış bilgi, derin sahtekarlıklar ve görsel-işitsel medyaya duyulan güvenin genel aşınması konusundaki endişe arttıkça, birçok başka yargı alanı benzer açıklama gereklilikleri getirdi ya da getirmeyi düşünüyor. Politika analistleri, belirli bir yargı alanının özel kurallarına teknik olarak uyulsa bile, yalnızca görünmez etiketlemeye doğru bir varsayılan eğilimin, şeffaflık odaklı yapay zeka düzenlemesinin daha geniş ruhuna bir ölçüde ters düştüğünü belirtiyor.

Google, yaratıcı esneklik ile içerik şeffaflığı arasındaki bu gerilimle karşı karşıya kalan ilk büyük yapay zeka şirketi değil. Birkaç rakip yapay zeka görsel ve video üreticisi, bir tür gömülü meta veriyi korurken görünür filigranları devre dışı bırakmak için benzer seçenekler sundu; bu, temiz, profesyonel görünümlü çıktılara yönelik kullanıcı talebi ile net yapay zeka içerik etiketlemesi için artan toplumsal baskı arasında denge kurma konusunda sektör çapında bir mücadeleyi yansıtıyor. Tartışma, dijital medyada meta veri kaldırma ve içerik kökeni etrafındaki daha önceki gerilimleri daha genel olarak yansıtıyor ve şimdi özellikle üretken yapay zeka bağlamında yaşanıyor.

Sıradan kullanıcılar için pratik çıkarım basit ama gözden kaçırılması kolay: bir görsel, video ya da müzik parçasında görünür bir filigranın yokluğu, artık -eğer güvenilir biçimde hiç öyleymiş gibi görünmüşse- yapay zeka katılımının yokluğunu göstermiyor. Bundan böyle yapay zeka tarafından üretilen içeriği tespit etmek, giderek ya SynthID gibi görünmez filigranları okuyabilen özel doğrulama araçlarını ya da herhangi bir dijital medyanın açık bir onay olmadan düzenlenmemiş ya da geleneksel olarak oluşturulmuş olduğunu varsaymaya karşı daha geniş bir şüpheciliği gerektiriyor; bu değişim, tek bir Google ürün kararından çok, artık ölçekte inandırıcı derecede gerçekçi sentetik medya üretebilen bütün bir teknolojinin gidişatını yansıtıyor.