Teknoloji

Google neden kendi yapay zeka çipini üretiyor ve bu Gemini için ne anlama gelir

TechCrunch6 sa önce
Bir devre kartındaki bilgisayar işlemci çipinin yakın çekimi
Bir devre kartındaki bilgisayar işlemci çipinin yakın çekimiPhoto: Jakub Pabis / Pexels

Google'ın ana şirketi Alphabet'in, çalışmaya aşina kişilere göre, Gemini yapay zeka modellerinin daha verimli çalışmasını özel olarak sağlamak için tasarlanmış yeni bir çip üzerinde çalıştığı bildiriliyor. Şirket projeyi resmi olarak ayrıntılandırmamış olsa da rapor, her büyük yapay zeka laboratuvarının rekabet stratejisinin giderek merkezinde yer alan bir örüntüye uyuyor: modellerinizi çalıştıran altta yatan donanım üzerindeki kontrol.

Bunun neden önemli olduğunu anlamak için, bir çipin bir yapay zeka sistemi için yapabileceği iki farklı işi ayırmak yararlı olur. Büyük bir dil modelini eğitmek, yani onu örüntüleri öğrenmesi için devasa miktarda veriyle beslemek süreci, son derece hesaplama yoğunludur ve geleneksel olarak, büyük çoğunluğu Nvidia tarafından üretilen özel grafik işleme birimleri ya da GPU'ların alanı olmuştur. Eğitilmiş bir modeli bir kullanıcının sorusuna cevap vermek için çalıştırmak, çıkarım olarak bilinir ve yapay zeka ürünleri yüz milyonlarca kullanıcıya ölçeklendikçe ayrı ve giderek baskın hale gelen bir maliyettir.

Çıkarım, geliştirildiği bildirilen çip gibi verimlilik çiplerinin en çok önem taşıdığı yerdir. Birisi Gemini'ye bir soru sorduğunda, modeli çalıştıran şirket bu cevabı üretmek için gereken hesaplama gücü, elektrik ve soğutmanın bedelini öder. Google'ın ölçeğinde, sorgu başına küçük verimlilik kazanımları bile milyarlarca günlük etkileşimle çarpıldığında devasa tasarruflara dönüşür; bu nedenle özellikle çıkarım için optimize edilmiş donanım tüm sektörde bir öncelik haline geldi.

Google bu alanda yeni değil. Şirket, Tensor İşleme Birimleri ya da TPU'lar olarak adlandırılan kendi yapay zeka çiplerini yaklaşık on yıldır geliştiriyor; başlangıçta iç kullanım için, daha sonra da bulut bilişim bölümü aracılığıyla dış müşterilere sunuldu. TPU'lar, Google'a diğer yapay zeka laboratuvarlarının çoğunun büyük ölçüde Nvidia GPU'ları satın almaya bel bağladığı bir dönemde, çok az yapay zeka rakibinin eşleştirebileceği bir donanım bağımsızlığı derecesi kazandırdı; talebin arzı büyük ölçüde aştığı ve fiyatların buna göre yükseldiği bir pazar.

Özellikle Gemini için optimize edildiği bildirilen yeni bir çip, bu stratejiyi daha da genişletiyor; donanımı yalnızca genel olarak yapay zeka iş yüklerine değil, Google'ın kendi modellerinin belirli mimarisine ve hesaplama örüntülerine göre uyarlıyor. Bazen ortak tasarım olarak adlandırılan model tasarımı ve çip tasarımı arasındaki bu sıkı entegrasyon, donanım modelin gerçekte en sık gerçekleştirdiği tam işlemler etrafında inşa edildiği için, genel amaçlı bir çipin eşleştiremeyeceği verimlilik kazanımlarının kilidini açabilir.

Stratejik mantık maliyet tasarrufunun ötesine uzanıyor. Küresel yapay zeka talebindeki artış nedeniyle kıt kalmaya devam eden Nvidia GPU'larına bağımlılığı azaltmak, Google'a başka bir şirketin üretim programı ya da fiyatlandırma kararlarıyla sınırlandırılmadan Gemini'nin kapasitesini ne kadar hızlı ölçeklendirebileceği konusunda daha fazla kontrol sağlıyor. Bu aynı zamanda, GPU erişiminin hem daha küçük yapay zeka laboratuvarları hem de bulut müşterileri için gerçek bir darboğaz haline geldiği bir sektörde Google'ın müzakere pozisyonunu güçlendiriyor.

Diğer büyük yapay zeka oyuncuları da benzer stratejiler izledi. Amazon, bulut bölümü için kendi Trainium ve Inferentia çiplerini geliştirdi, Microsoft'un Maia çip çabası var ve OpenAI'nin bile özel yonga ortaklıklarını araştırdığı bildiriliyor; bu da Nvidia geniş bir farkla GPU pazarının genelinde baskınlığını sürdürmeye devam etse bile, çip bağımsızlığının sektördeki en büyük oyuncular için ne kadar merkezi hale geldiğini vurguluyor.

Günlük kullanıcılar için daha verimli bir çipin doğrudan etkisinin dramatik bir şekilde görünür olması pek olası değil; kazanımlar tipik olarak daha hızlı yanıt süreleri, şirketlerin müşterilere yansıtabileceği ya da yansıtmayabileceği daha düşük işletme maliyetleri ve orantısız şekilde daha yüksek enerji maliyetleri olmadan daha yetenekli modelleri çalıştırma kabiliyeti olarak ortaya çıkıyor. Verimlilik kazanımları ayrıca, aramadan iş yeri araçlarına ve Android'e kadar Google'ın ürün yelpazesine Gemini'yi yerleştirme yönündeki daha geniş çabası için de önemli; burada yapay zeka özelliklerini devasa ölçekte ucuza çalıştırmak, bunları uygulanabilir kılmak için gerekli.

Enerji tüketimi, verimlilik kazanımlarının bilanço ötesinde ağırlık taşıdığı bir başka boyut. Yapay zeka iş yüklerini çalıştıran veri merkezleri, elektrik ve su kullanımları nedeniyle artan bir denetime maruz kaldı; birim güç başına daha fazla hesaplama sunan çipler, Google'ın işlettiği ölçekte Gemini gibi modelleri çalıştırmanın çevresel ayak izini doğrudan azaltıyor.

Google, bildirilen çip için bir zaman çizelgesini doğrulamadı ya da mevcut TPU nesillerinden teknik olarak nasıl farklılaştığını ayrıntılandırmadı ve büyük teknoloji şirketlerindeki erken aşama donanım projelerini tarif eden raporlar her zaman başlangıçta önerilen zaman çizelgesinde piyasaya sürülen ürünlere dönüşmez. Yine de bu çaba daha geniş bir sektör gerçeğini yansıtıyor: yapay zeka, hangi şirketin en akıllı modele sahip olduğuna dair bir yarıştan, hangi şirketin bu modeli en ucuza ve en büyük ölçekte çalıştırabileceğine dair bir yarışa dönüştükçe, altındaki çip de üstündeki yazılım kadar stratejik açıdan önemli hale geldi.

Bu yazı, TechCrunchkaynağına dayanılarak Vesper'ın yapay zeka editörü tarafından hazırlanmıştır. Görsel, Pexels'tan Jakub Pabis tarafından çekilmiş bir stok fotoğraftır.

Bunları da okuyun

Bir veri merkezinde aydınlatılmış sunucu raflarının sıraları
Teknoloji dosyası

Ajan sürüleri açıklandı: aynı anda birçok yapay zeka modelini çalıştırmak maliyet ekonomisini nasıl yeniden şekillendiriyor

Giderek daha fazla yapay zeka kodlama aracı, artık bir görev üzerinde tek bir modele güvenmek yerine paralel olarak çalışması için düzinelerce yapay zeka ajanı gönderiyor. İşte bir 'ajan sürüsünün' gerçekte ne olduğu, yapay zeka ile yazılım geliştirmenin maliyet hesabını neden değiştirdiği ve beraberinde getirdiği ödünleşmeler.

Hacker News
Hukuk kitaplarının üzerinde duran bir yargıç tokmağı
Teknoloji

Anthropic'in çığır açan 1,5 milyar dolarlık telif hakkı anlaşması nihai onay aldı

Bir ABD mahkemesi, Anthropic'in yapay zeka modellerini eğitmek için telif hakkıyla korunan kitapları kullanmasına ilişkin 1,5 milyar dolarlık anlaşmasına nihai onayı verdi ve yapay zeka sektöründeki en yakından izlenen hukuki davalardan birini sonuçlandırdı. Anlaşma bu belirli uyuşmazlığı çözüyor, ancak yapay zeka eğitimi ve telif hakkına ilişkin daha geniş soruyu askıda bırakıyor.

TechCrunch6 sa önce