OpenAI ve Broadcom, büyük ölçekli yapay zekâ çıkarımı için özel bir çip tanıttı

Ars Technica'ya göre OpenAI ve Broadcom, büyük dil modellerini ölçekli biçimde çalıştırmak için özel olarak tasarlanmış bir çip duyurdu; bu, bir yapay zekâ geliştiricisinin kendi silikonunu inşa etmek için attığı en önemli adımlardan biri. İş birliği, OpenAI'nin modellerinin nasıl davrandığına dair bilgisini Broadcom'un üst düzey yarı iletken tasarlama ve üretme deneyimiyle eşleştiriyor.

Çip doğrudan çıkarımı hedefliyor; bir modelin bir kullanıcıya yanıt ürettiğinde yaptığı işin adı, modeli baştan inşa etmenin kaynak yoğun süreci olan eğitimin aksine. Yapay zekâ hizmetleri yüz milyonlarca kullanıcıya ulaşırken çıkarım baskın süregelen maliyet hâline geldi ve her sorguya hizmet etmenin ekonomisi artık tüm işi şekillendiriyor.

Bu ayrım stratejiyi açıklıyor. Yalnızca çıkarım için optimize edilmiş bir çip, eğitim için gereken özellikleri çıkarıp transistörleri bir modeli çalıştırmanın gerektirdiği belirli işlemlere yoğunlaştırabilir. İlke olarak bu odak, aynı işi yapan genel amaçlı bir işlemciden watt ve dolar başına daha fazla performans sağlayabilir.

Adım ayrıca sektörün, grafik işlemcileri yapay zekâ patlamasının büyük bölümüne güç veren Nvidia'ya bağımlılığına da işaret ediyor. Bu bağımlılık, büyük yapay zekâ şirketlerini tedarik kısıtlamalarına ve yüksek fiyatlara açık bıraktı; birçoğu en önemli girdileri üzerinde kaldıraç ve öngörülebilirlik kazanmak için kendi hızlandırıcılarını tasarlayarak yanıt verdi.

Broadcom'un rolü merkezi. Şirket tüketici teknolojisinde herkesçe bilinen bir isim değil ama özel çip tasarımında bir güç merkezi; büyük müşterilerin gereksinimlerini çalışan silikona dönüştürmesine yardımcı oluyor. Broadcom ile ortaklık, OpenAI'nin sıfırdan bir yarı iletken operasyonu kurmadan ısmarlama donanım peşinde koşmasını sağlıyor.

Bir çip tasarlamak zorluğun yalnızca bir parçası. Özel silikon, modellerin üzerinde gerçekten verimli çalışmasını sağlayan bir yazılım yığını gerektirir ve sektörün araçlarının çoğu Nvidia'nın ekosistemi etrafında büyüdü. Şirket içi bir çipi rekabetçi kılmak, yapay zekâ iş yüklerini yeni donanıma çeviren derleyicilere ve kütüphanelere yoğun yatırım yapmak demek.

Olası getiri büyük. OpenAI modellerini tam ihtiyaçlarına göre uyarlanmış çiplerde çalıştırabilirse, her etkileşimin maliyetini düşürebilir, tek bir tedarikçiye bağımlılığını hafifletebilir ve donanım ile modelleri birlikte optimize etme özgürlüğü kazanabilir. Bu avantajlar OpenAI'nin artık faaliyet gösterdiği ölçekte katlanarak büyür.

Riskler de var. Son teknoloji çip projeleri pahalı ve yavaştır ve alan, bir tasarım hacimli olarak piyasaya çıkmadan geçilebilecek kadar hızlı ilerliyor. Özel silikon ayrıca modellerin nasıl çalıştığına dair belirli varsayımları sabitler; altta yatan teknoloji değişirse bu bir kısıt hâline gelebilir.

Duyuru, birçoğu hazır parçalara tamamen güvenmek yerine kendi yapay zekâ hızlandırıcılarını inşa eden büyük teknoloji firmaları genelindeki daha geniş bir örüntüye uyuyor. Eğilim, yeterli ölçekte donanımı kontrol etmenin modellerin kendisi kadar stratejik biçimde önemli hâle geldiğinin kabulünü yansıtıyor.

Daha geniş pazar için, Ars Technica raporunun öne sürdüğü gibi, önem herhangi bir tek özellikten çok yönelimde yatıyor. Çıkarım maliyetleri yapay zekânın ekonomisine egemen oldukça, en büyük hizmetleri çalıştıran şirketler bu hizmetlerin dayandığı çipleri tasarlamaya giderek daha kararlı hâle geliyor ve yarı iletken sektöründeki güç dengesini yeniden şekillendiriyor.