Google, sahte görüntü tepkisinin ardından yeni Google Earth yapay zeka aracını lansmandan bir gün sonra kaldırdı

Google'ın en yeni Earth özelliğiyle geçirdiği süre, ürünün tarihindeki en kısa dönemlerden biri oldu: Google Earth'e entegre edilmiş bir yapay zeka görüntü oluşturma aracı, özelliğin gerçek, tanımlanabilir konumların üzerine bindirilmiş ikna edici sahte görüntüler oluşturmayı önemsiz derecede kolaylaştırdığı yönündeki bir eleştiri dalgasının ardından, lansmandan yalnızca bir gün sonra kaldırıldı.

Özellik, kullanıcıların bir sahneyi tanımlayan metinsel bir istem yazmasına, ardından yapay zeka görüntüsü oluşturup bunu doğrudan Google Earth'ün harita arayüzündeki gerçek uydu ve sokak seviyesi görüntülerinin üzerine katman olarak eklemesine izin veriyordu. İlke olarak araç, kullanıcıların gerçek konumlarda varsayımsal senaryoları görselleştirmesine olanak tanıyan yaratıcı ya da açıklayıcı bir özellik olarak sunulmuştu. Pratikte ise eleştirmenler, bunun belirli, gerçek adreslerde yangın, sel, protesto, askeri faaliyet ya da diğer dramatik olayları tasvir eden, o tam yere bağlı gerçek bir fotoğraftan ilk bakışta ayırt edilemeyecek görüntüler oluşturmak için ne kadar kolay kullanılabileceğini hızla gösterdi.

Aracı özellikle hassas kılan şey, Google Earth'ün kendi otorite ve doğrulanabilirlik itibarıydı. Kullanıcılar ve gazeteciler, Google Earth ve Google Maps görüntülerini, oluşturulmuş içerik yerine gerçek uydu ve sokak görünümü verilerini yansıttığı anlaşıldığı için rutin olarak güvenilir bir referans noktası olarak ele alıyor. Yapay zeka tarafından oluşturulan görüntüleri, amaçlanan yaratıcı bir amaç olsa bile aynı arayüzün içine yerleştirmek, platformun kullanışlılığının uzun süredir dayandığı bir ayrımı -bir yerin gerçekte nasıl göründüğü ile birinin nasıl görünebileceğini hayal ettiği arasındaki farkı- bulanıklaştırma riski taşıyordu.

Eleştirmenler lansmandan hemen sonra belirli riskleri işaret etti: gerçek bir adreste bir doğal afeti gösterdiği iddia edilen sahte görüntülerin, gerçek bir acil durumda akrabalarını kontrol eden insanları potansiyel olarak kandırabileceği; hükümet binaları ya da elçiliklerde sahte protesto ya da huzursuzluk sahnelerinin, gerçek siyasi gerginlik dönemlerinde dolaşabileceği; ve barajlar, elektrik santralleri ya da askeri tesisler gibi altyapının değiştirilmiş tasvirlerinin, güvenlik araştırmacılarının uydu tarzı görüntülerin varsayılan özgünlüğüne dayanan açık kaynak istihbarat çalışmalarını karmaşıklaştırabileceğini belirtti.

Google'ın özelliği lansmandan yalnızca yirmi dört saat sonra kaldırma kararı, şirketin ve daha geniş anlamda teknoloji sektörünün geçmişte yapay zeka özelliklerine yönelik eleştirileri genellikle nasıl ele aldığına kıyasla hızıyla dikkat çekiyor. Tartışmalı yapay zeka araçları, bir şirket veri toplarken, özelliğin güvenlik önlemlerini savunan kamuoyu açıklamaları yaparken ya da tam bir geri çekme yerine kademeli kısıtlamalar getirirken genellikle haftalarca ya da aylarca yayında kalıyor. Neredeyse anlık geri dönüş, Google'ın kendi iç risk değerlendirmesinin, eleştirinin nasıl geliştiğini görmeyi beklemek yerine, yanlış bilgilendirme potansiyelinin özelliğin yaratıcı avantajından daha ağır bastığı sonucuna hızla vardığını gösteriyor.

Bu olay, yapay zeka sektöründe son yıllarda daha geniş, tekrarlayan bir örüntüye uyuyor: gerçek yaratıcı ya da üretkenlik değeri taşıyan ama yine de ikna edici sahte içerik uydurmak için bariz ikincil bir kullanıma sahip üretken araçlar; bu gerilim, yapay zeka görüntü ve video oluşturma araçları daha keskinleştikçe ve daha yaygın erişilebilir hale geldikçe tekrar tekrar yüzeye çıkıyor. Oluşturulan içeriğin gerçekçiliğinin, ortalama bir izleyicinin uydurmayı tespit etmesini zorlaştıracak bir eşiği aştığı durumlarda, benzer endişeler diğer büyük platformlardaki yapay zeka özelliklerinin kısıtlanmasını ya da geri çekilmesini şekillendirdi.

Google, aracın ek güvenlik önlemleriyle -yapay zeka tarafından oluşturulan katmanların görünür filigranı, hangi konumların temel görüntü olarak kullanılabileceğine dair kısıtlamalar ya da kullanıcıların oluşturabileceği sahne türlerine sınırlar gibi- değiştirilmiş bir versiyonunu yeniden lanse etmeyi planlayıp planlamadığını ayrıntılandırmadı. Benzer durumlardaki şirketler bazen aylar sonra, teknik olarak benzer ama görünür biçimde etiketlenmiş, duraklatılmış bir özelliğin bir versiyonuyla geri dönüyor; etiketlemenin kendisini, altta yatan oluşturma yeteneğini kısıtlamak yerine temel çözüm olarak ele alıyorlar.

Olay, yapay zeka sektöründeki, kötüye kullanım sorumluluğunun nerede durması gerektiğine dair süregelen bir tartışmayı besliyor: üretken yeteneği inşa edip yayınlayan platformda mı, yanıltıcı bir görüntü oluşturmayı ve paylaşmayı seçen kullanıcıda mı yoksa uydurma bir görüntünün özgün harita bağlamı olmadan sonunda dolaşabileceği platformlarda mı. Google Earth'ün neredeyse anlık geri dönüşü, şirketin bu özel durumda, gerçek koordinatlara bağlı ikna edici bir sahtenin riskinin, aşağı akış moderasyonuna bırakılamayacak kadar acil ve kolayca öngörülebilir olduğuna karar verdiğini gösteriyor.

Google için bu olay aynı zamanda, on yıllar boyunca birikmiş güven üzerine inşa edilmiş ürünlere bağlı itibar riskinin bir hatırlatıcısı da. Google Earth ve Google Maps, milyonlarca insanın fiziksel dünya hakkındaki iddiaları doğrulama biçiminde varsayılan, arka planda bir rol oynuyor; bu konum, bu belirli özelliğin yanlış bilgilendirme riskini, daha az güvenilen ya da daha az yaygın kullanılan bir üründe yerleşik benzer bir aracın olabileceğinden daha sonuçlu kılıyor.

Google özelliği yeniden ele alsın ya da almasın, olay şimdiden üretken yapay zeka ve haritalama araçları hakkındaki daha geniş konuşmalarda bir referans noktası haline geldi: bütün değer önerisi gerçek yerleri doğru biçimde tasvir etmeye dayanan bir platforma yapay zeka görüntü oluşturmayı eklemenin, genel amaçlı bir yaratıcı uygulamaya aynı yeteneği eklemekten farklı ve muhtemelen daha yüksek bir risk profili taşıdığının bir hatırlatıcısı.