Ajan sürüleri açıklandı: aynı anda birçok yapay zeka modelini çalıştırmak maliyet ekonomisini nasıl yeniden şekillendiriyor

Yapay zeka kodlama asistanı patlamasının ilk birkaç yılında, temel etkileşim modeli kabaca aynı kaldı: bir geliştirici tek bir yapay zeka modeline istem verir, model bir yanıt ya da kod değişikliği üretir ve geliştirici bunu inceler. 'Ajan sürüleri' terimi altında giderek daha fazla tartışılan daha yeni bir yaklaşım, aynı sorunun varyasyonları üzerinde eşzamanlı olarak çalışması için birçok yapay zeka ajanı göndererek, ardından en iyi sonuçları seçerek ya da birleştirerek bu örüntüyü kırıyor.

Temel mekanizma, arkasındaki ekonomi öyle olmasa da basit. Tek bir model örneğine tek bir istem gönderip tek bir yanıt beklemek yerine, sürü tabanlı bir sistem, her biri aynı kodlama görevini bağımsız olarak, bazen biraz farklı stratejilerle, başlangıç koşullarıyla ya da hatta tamamen farklı altta yatan modellerle deneyen on, yirmi ya da daha fazla paralel ajan örneği başlatabilir.

Bu yaklaşımın cazibesi, geleneksel makine öğreniminde topluluk yöntemlerinin arkasındaki mantığa benziyor: önemsiz olmayan bir kodlama görevine yönelik herhangi bir tek yapay zeka denemesi, hatalı ya da optimal olmayan bir çözüm üretme gerçek bir riski taşır; ancak birçok denemeyi paralel olarak çalıştırıp otomatik test, bir puanlama modeli ya da insan incelemesi yoluyla en iyisini seçmek, en azından bir çıktının gerçekten iyi olma olasılığını anlamlı şekilde artırır.

Bu yaklaşımı yalnızca teorik değil, yeni bir şekilde pratik hale getiren şey, son birkaç yılda yapay zeka sektöründeki çıkarım maliyetlerindeki keskin düşüş. Token başına API maliyetleri çok daha yüksekken aynı görev üzerinde yirmi paralel ajan çalıştırmak aşırı derecede pahalıydı. Maliyetler düştükçe ve model sağlayıcıları arasındaki rekabet yoğunlaştıkça, bir sorunu birçok paralel denemeyle kaba kuvvetle çözmenin ekonomisi çok daha geniş bir kullanım alanı yelpazesi için uygulanabilir hale geldi.

Bu değişim, yapay zeka kodlama araçlarının nasıl fiyatlandırıldığı ve kullanıldığı konusunda gerçek etkiler taşıyor. Bazı iş akışları artık, üst düzey bir modele tek, dikkatle hazırlanmış bir istem için ödeme yapmak yerine, aynı bütçeyi paralel çalışan birçok daha ucuz ve daha hızlı model çağrısına yaymayı tercih ediyor; en azından belirli görev kategorileri için, miktarın iyi bir seçim mekanizmasıyla birleştiğinde tek bir pahalı denemeden daha iyi performans gösterebileceği teorisiyle.

Yaklaşım ödünleşmelerden yoksun değil. Birçok paralel ajan çalıştırmak, her bir çağrı ucuz olsa bile toplam hesaplama maliyetlerini tek bir çağrıya kıyasla çarpıyor ve karmaşık, uzun süren görevler için toplam maliyet hâlâ önemli olabilir. Bu aynı zamanda, birçok farklılaşan çıktı arasında güvenilir şekilde nasıl puanlama yapılacağı, birleştirileceği ya da seçim yapılacağı konusunda yeni mühendislik zorlukları da getiriyor; bu, özellikle doğruluğun kodun yüzeysel bir okumasından her zaman hemen belli olmadığı kodlama görevleri için başlı başına önemsiz olmayan bir sorun.

Savunucular, ajan sürülerinin, belirli bir test paketini geçmesi gereken kod gibi net, otomatikleştirilebilir bir başarı ölçütü olan görevlere özellikle uygun olduğunu savunuyor; çünkü otomatik doğrulama, rakip çıktılar arasında seçim yapma zorluğunun çoğunu ortadan kaldırıyor. Daha geniş mimari kararlar gibi daha öznel ya da yargıya bağlı görevler, bu yaklaşımı kullanarak etkili şekilde paralelleştirmesi hâlâ daha zor.

Sürü yaklaşımının eleştirmenleri, stratejinin, altta yatan model zayıflıklarını çözmek yerine maskeleyebileceği konusunda uyarıyor; çünkü bir modelin temelde zorlandığı bir soruna daha fazla paralel deneme yöneltmek, modelin gerçek yeteneğini ya da akıl yürütmesini anlamlı şekilde geliştirmeden, sadece hacim yoluyla sonunda kabul edilebilir bir yanıt üretebilir. Bazı mühendisler bunun, hesaplama harcamasını model kalitesindeki gerçek iyileştirmelerin yerine koyan bir kaba kuvvet zihniyetini teşvik etme riski taşıdığını savunuyor.

Daha geniş eğilim, yapay zeka şirketlerinin ve geliştiricilerin rekabet birimini nasıl düşündüğündeki bir değişimi yansıtıyor. Tek bir model çağrısının zekası ya da doğruluğu için salt optimizasyon yapmak yerine, ajan sürüsü yaklaşımları, bireysel model çağrılarını değerli, dikkatle tayınlanan bir kaynak yerine toplu olarak dağıtılacak ucuz, tek kullanımlık bir kaynak olarak ele alarak tüm bir hattın ekonomisi için optimizasyon yapıyor.

Çıkarım maliyetleri düşmeye ve kodlama araçları hem hız hem de fiyat konusunda daha agresif şekilde rekabet etmeye devam ettikçe, ajan sürüleri, herhangi bir bireysel ajanın dramatik şekilde daha akıllı hale gelmesinden çok, düzinelerce tanesini paralel çalıştırmanın yapmaya değer olacak kadar ucuzlaşmasından dolayı, yapay zeka araç ekosisteminde daha yaygın bir mimari örüntü haline gelmesi muhtemel.