Yapay zeka benzerlik tespiti nasıl çalışır ve platformlar neden bu yarışa girdi?

Yapay zeka ile üretilen sahte görüntüler ve videolar internette hızla yaygınlaşırken, sosyal medya platformları artık kullanıcıların kendi yüzlerinin izinsiz kullanılıp kullanılmadığını tespit etmelerine yardımcı olacak araçlar geliştirmeye başladı. TikTok, bu yönde attığı en son adımda, kullanıcıların kendi "yapay zeka benzerlerini" (AI likeness) tarayabileceği isteğe bağlı bir araç test etmeye başladı.

Sosyal medya danışmanı Matt Navarra tarafından fark edilen bu özellik, şu anda ABD'deki "bazı" içerik üreticileriyle sınırlı bir test aşamasında. TikTok'un ABD sözcüsü Zachary Kizer, aracın platformda dolaşan içerikleri tarayarak kullanıcının yüzünü izinsiz kullanan yapay zeka üretimi görüntüleri tespit etmeyi amaçladığını doğruladı.

Aracın nasıl çalıştığına dair önemli bir detay, kullanıcıların önce kimliklerini doğrulamak zorunda olması. Testin bir parçası olmak isteyen içerik üreticileri, Jumio adlı bir şirket aracılığıyla gerçek zamanlı bir selfie taraması ve kimlik belgesi kontrolünden geçmek zorunda kalıyor -bu, aracın gerçekten o kişiye ait olduğunu doğrulamak için tasarlanmış bir güvenlik katmanı.

Kizer, TikTok'un kimlik belgelerini veya yüz verilerini saklamadığını belirtti; doğrulama sürecinin ardından bu bilgilerin silindiği ifade ediliyor. Bu tür gizlilik güvenceleri, kullanıcıların hassas biyometrik verilerini paylaşmaya ikna edilmesi açısından kritik önem taşıyor, çünkü yüz tanıma verilerinin kötüye kullanılması riski, aracın kendisinin çözmeye çalıştığı sorunla aynı kategoriye giriyor.

Bu adım TikTok'a özgü değil. YouTube da benzer bir araç üzerinde çalışıyor ve bu özelliği yakın zamanda tüm yetişkin kullanıcılarına açtı. İki platformun da neredeyse aynı zaman diliminde benzer araçlar geliştirmesi, yapay zeka ile üretilen sahte içeriklerin artık büyük platformlar için ortak ve acil bir sorun haline geldiğini gösteriyor.

Bu tür araçların ortaya çıkışının arkasındaki itici güç, "deepfake" teknolojisinin son birkaç yılda hem daha erişilebilir hem de daha inandırıcı hale gelmesi. Bir zamanlar yalnızca teknik bilgiye sahip kişilerin üretebileceği sahte videolar, artık tüketici düzeyindeki uygulamalarla dakikalar içinde oluşturulabiliyor -bu da ünlüler, siyasetçiler ve sıradan kullanıcılar için giderek büyüyen bir risk oluşturuyor.

Ancak uzmanlar, bu tür tespit araçlarının sınırlarını da hatırlatıyor. Bir "yapay zeka benzerliği" tarama sistemi, yalnızca platformun kendi sunucularında barındırılan içeriği tarayabiliyor; kullanıcının yüzü başka bir platformda veya kapalı mesajlaşma uygulamalarında kötüye kullanılıyorsa, bu araçların bunu tespit etme kabiliyeti yok.

Buna rağmen, içerik üreticileri arasında bu tür özelliklere yönelik talep yüksek. Özellikle geniş takipçi kitlesine sahip kişiler, yüzlerinin izinsiz kullanılarak sahte onaylar, dolandırıcılık reklamları veya itibarlarını zedeleyecek içerikler üretmek için kullanılmasından endişe ediyor.

Bu tür araçların yaygınlaşması, platformların yapay zeka kaynaklı içerik sorunlarına karşı artık yalnızca reaktif şikayet sistemlerine değil, kullanıcıların kendi kendine izleme yapabileceği proaktif sistemlere de yatırım yaptığını gösteriyor. Bu, düzenleyicilerin ve kamuoyunun platformlar üzerindeki baskısının arttığı bir dönemde geliyor.

TikTok'un aracı hâlâ sınırlı bir test aşamasında ve daha geniş bir kullanıcı kitlesine ne zaman açılacağı belli değil, ancak YouTube'un kendi aracını tüm yetişkin kullanıcılara sunmuş olması, TikTok'un da benzer bir yol izleyebileceğine işaret ediyor.