Tech

Pourquoi Google conçoit sa propre puce IA, et ce que cela signifierait pour Gemini

TechCrunchil y a 6 h
Gros plan sur une puce de processeur informatique sur un circuit imprimé
Gros plan sur une puce de processeur informatique sur un circuit impriméPhoto: Jakub Pabis / Pexels

La maison mère de Google, Alphabet, travaillerait, selon des personnes proches du dossier, sur une nouvelle puce spécifiquement conçue pour rendre ses modèles d'IA Gemini plus efficaces. Bien que l'entreprise n'ait pas officiellement détaillé ce projet, cette information s'inscrit dans une tendance devenue de plus en plus centrale dans la stratégie concurrentielle de chaque grand laboratoire d'IA : la maîtrise du matériel qui fait fonctionner ses modèles.

Pour comprendre pourquoi cela compte, il est utile de distinguer deux tâches différentes qu'une puce peut accomplir pour un système d'IA. Entraîner un grand modèle de langage, c'est-à-dire le processus consistant à lui fournir d'énormes quantités de données pour qu'il en apprenne les schémas, est extrêmement gourmand en calcul et relève traditionnellement du domaine des processeurs graphiques spécialisés, ou GPU, dont l'écrasante majorité est produite par Nvidia. Faire fonctionner un modèle déjà entraîné pour répondre à la question d'un utilisateur, appelé inférence, constitue un coût distinct et de plus en plus dominant à mesure que les produits d'IA s'étendent à des centaines de millions d'utilisateurs.

C'est là que les puces d'efficacité, comme celle qui serait en développement, comptent le plus. Chaque fois qu'une personne pose une question à Gemini, l'entreprise qui exploite le modèle paie la puissance de calcul, l'électricité et le refroidissement nécessaires pour générer cette réponse. À l'échelle de Google, même de faibles gains d'efficacité par requête se traduisent par des économies considérables une fois multipliés par des milliards d'interactions quotidiennes, ce qui explique pourquoi du matériel spécifiquement optimisé pour l'inférence est devenu une priorité dans tout le secteur.

Google n'est pas nouveau dans ce domaine. L'entreprise développe depuis près d'une décennie ses propres puces d'IA, appelées Tensor Processing Units, ou TPU, initialement pour un usage interne, puis proposées à des clients externes via sa division de cloud computing. Les TPU ont donné à Google un degré d'indépendance matérielle que peu de ses concurrents en IA peuvent égaler, la plupart des autres laboratoires dépendant fortement de l'achat de GPU Nvidia, un marché où la demande a largement dépassé l'offre et où les prix ont augmenté en conséquence.

Une nouvelle puce, dont on dit qu'elle serait spécifiquement optimisée pour Gemini, prolongerait cette stratégie en adaptant le matériel non seulement aux charges de travail d'IA en général, mais à l'architecture précise et aux schémas de calcul propres aux modèles de Google. Ce type d'intégration étroite entre la conception du modèle et celle de la puce, parfois appelée co-conception, peut libérer des gains d'efficacité qu'une puce généraliste ne peut égaler, le matériel étant construit autour des opérations exactes que le modèle exécute le plus souvent.

La logique stratégique dépasse la simple réduction des coûts. Diminuer sa dépendance aux GPU Nvidia, dont l'offre reste tendue face à une demande mondiale d'IA en forte hausse, donne à Google davantage de contrôle sur la rapidité avec laquelle il peut développer la capacité de Gemini, sans être limité par le calendrier de production ou les décisions de tarification d'une autre entreprise. Cela renforce également la position de négociation de Google dans un secteur où l'accès aux GPU est devenu un véritable goulot d'étranglement, tant pour les petits laboratoires d'IA que pour les clients du cloud.

D'autres grands acteurs de l'IA ont adopté des stratégies similaires. Amazon a développé ses propres puces Trainium et Inferentia pour sa division cloud, Microsoft mène son propre projet de puce Maia, et même OpenAI aurait exploré des partenariats sur des puces sur mesure, soulignant à quel point l'indépendance en matière de puces est devenue centrale pour les plus grands acteurs du secteur, même si Nvidia continue de dominer largement le marché plus large des GPU.

Pour les utilisateurs ordinaires, l'effet direct d'une puce plus efficace ne devrait pas être visible de façon spectaculaire ; les gains se traduisent généralement par des temps de réponse plus rapides, des coûts d'exploitation réduits que les entreprises répercutent ou non sur les clients, et la capacité à faire fonctionner des modèles plus performants sans coûts énergétiques proportionnellement plus élevés. Ces gains d'efficacité comptent également pour l'ambition plus large de Google d'intégrer Gemini dans toute sa gamme de produits, de la recherche aux outils professionnels en passant par Android, où faire fonctionner des fonctionnalités d'IA à moindre coût et à très grande échelle est essentiel pour les rendre viables.

La consommation d'énergie est une autre dimension où les gains d'efficacité pèsent au-delà du bilan comptable. Les centres de données exécutant des charges de travail d'IA font l'objet d'un examen croissant concernant leur consommation d'électricité et d'eau, et des puces offrant davantage de calcul par watt réduisent directement l'empreinte environnementale de l'exploitation de modèles comme Gemini à l'échelle où Google opère.

Google n'a confirmé aucun calendrier pour cette puce évoquée ni précisé en quoi elle diffère techniquement des générations actuelles de TPU, et les informations décrivant des projets matériels à un stade précoce dans les grandes entreprises technologiques ne se traduisent pas toujours par des produits livrés dans les délais initialement suggérés. Cet effort reflète néanmoins une réalité plus large du secteur : à mesure que l'IA passe d'une course visant à déterminer quelle entreprise possède le modèle le plus intelligent à une course visant à déterminer quelle entreprise peut faire tourner ce modèle le moins cher et à la plus grande échelle, la puce qui se trouve en dessous est devenue tout aussi stratégiquement importante que le logiciel qui se trouve au-dessus.

Cet article est un résumé éditorial assisté par IA basé sur TechCrunch. L'image est une photo d'archive de Jakub Pabis sur Pexels.

À lire ensuite

Rangées de baies de serveurs illuminées dans un centre de données
Plus dans Tech

Les essaims d'agents expliqués : comment l'exécution simultanée de nombreux modèles d'IA transforme l'économie des coûts

Un nombre croissant d'outils de codage par IA déploient désormais des dizaines d'agents IA travaillant en parallèle sur une tâche, plutôt que de s'appuyer sur un seul modèle. Voici ce qu'est réellement un « essaim d'agents », pourquoi cela change le calcul des coûts liés au développement logiciel assisté par IA, et quels compromis il introduit.

Hacker News
Des rangées de colis en carton empilés dans un entrepôt d'expédition
Tech

AliExpress écope d'une amende record de 625 millions de dollars de l'UE pour des jouets et cosmétiques dangereux

L'Union européenne a infligé à AliExpress une amende record de 625 millions de dollars en vertu de son règlement sur les services numériques, après que la place de marché en ligne n'a pas retiré des annonces de jouets dangereux et de cosmétiques nocifs malgré des avertissements répétés. L'entreprise dit être choquée par l'ampleur de la sanction.

Ars Technicail y a 6 h
Un afficheur numérique de cours boursiers montrant des chiffres en hausse et en baisse
Tech

SpaceX dans votre fonds indiciel, expliqué

Les fonds indiciels sont présentés comme l'un des moyens d'investissement les plus sûrs et les plus passifs, répartissant le risque sur l'ensemble du marché plutôt que de miser sur des entreprises individuelles. Alors que SpaceX se dirige vers une introduction en bourse à une valorisation d'environ 1 770 milliards de dollars, les investisseurs ordinaires en fonds indiciels pourraient finir par en détenir une part, qu'ils l'aient voulu ou non.

The Vergeil y a 6 h
Un marteau de juge posé sur une pile de livres de droit
Tech

L'accord historique de 1,5 milliard de dollars d'Anthropic sur le droit d'auteur reçoit son approbation finale

Un tribunal américain a accordé son approbation définitive à l'accord de 1,5 milliard de dollars conclu par Anthropic concernant l'utilisation de livres protégés par le droit d'auteur pour entraîner ses modèles d'IA, clôturant l'une des affaires juridiques les plus suivies du secteur. Cet accord règle ce litige précis, mais laisse en suspens la question plus large de la formation des IA et du droit d'auteur.

TechCrunchil y a 6 h