Breaking
Tech

Qu'est-ce qu'un modèle d'IA à poids ouverts, et pourquoi Inkling de Thinking Machines compte

TechCrunchil y a 3 h
Des rangées de serveurs dans un centre de données exécutant des charges de travail d'IA
Des rangées de serveurs dans un centre de données exécutant des charges de travail d'IAPhoto: panumas nikhomkhai / Pexels

Pendant un an et demi, Thinking Machines a fonctionné avec le genre de discrétion habituellement réservée aux start-ups de matériel en mode furtif plutôt qu'aux laboratoires d'IA, qui ont tendance à rechercher l'attention dès leur fondation. Cela a changé cette semaine avec la sortie d'Inkling, le premier modèle de l'entreprise accessible au public et son premier véritable point de preuve après des mois de travail d'infrastructure sur lesquels les observateurs extérieurs n'avaient presque aucune visibilité.

Inkling est ce qu'on appelle un modèle à poids ouverts, un terme qu'il vaut la peine de décortiquer car il est souvent confondu avec une IA entièrement « open source », et la distinction compte. Une sortie à poids ouverts signifie que les paramètres entraînés, les valeurs numériques qui encodent tout ce que le modèle a appris pendant l'entraînement, sont publiés pour que quiconque puisse les télécharger et les exécuter sur son propre matériel. Ce qui n'est généralement pas publié en même temps qu'une sortie à poids ouverts, ce sont les données d'entraînement elles-mêmes ou le pipeline complet utilisé pour les produire, raison pour laquelle « poids ouverts » est une étiquette plus exacte qu'« open source » pour la plupart des sorties de cette catégorie, Inkling y compris.

La différence pratique entre un modèle à poids ouverts et les modèles fermés, accessibles uniquement via une API, proposés par les plus grands laboratoires d'IA, est significative pour une frange spécifique du marché : les développeurs et entreprises qui veulent exécuter un modèle sur leur propre infrastructure, l'affiner sur des données propriétaires sans envoyer ces données à un tiers, ou éviter de dépendre des décisions de tarification et de disponibilité d'un seul fournisseur. Un modèle fermé, accessible uniquement via une API, est, à bien des égards, effectivement une boîte noire qui peut changer de comportement, de prix ou de disponibilité sans grand préavis. Un modèle à poids ouverts, une fois téléchargé, continue de fonctionner exactement comme le jour de sa sortie, indéfiniment.

Ce qui rend Inkling notable dans ce paysage, ce n'est pas d'être simplement un nouvel entrant dans l'IA à poids ouverts, une catégorie qui compte déjà des offres de plusieurs laboratoires plus importants, mais le pari spécifique que fait Thinking Machines sur la manière dont de tels modèles devraient être construits et utilisés. L'entreprise s'est positionnée explicitement contre ce qu'elle décrit comme l'approche dominante « taille unique » de l'industrie, dans laquelle un unique modèle généraliste et gigantesque est censé traiter raisonnablement bien toutes les tâches possibles, de la conversation informelle au codage spécialisé ou au raisonnement scientifique.

La philosophie alternative sur laquelle mise Thinking Machines privilégie des modèles pouvant être plus profondément personnalisés et spécialisés pour des cas d'usage particuliers, plutôt qu'un unique modèle géant étiré trop mince sur tous les domaines. C'est un pari aux implications techniques et commerciales bien réelles : les modèles généralistes de pointe nécessitent d'énormes budgets de calcul pour être entraînés et sont optimisés pour être largement compétents, ce qui peut signifier qu'ils ne sont optimaux pour aucune tâche étroite en particulier, comparés à quelque chose conçu sur mesure et suffisamment ouvert pour être adapté.

L'identité des personnes derrière Thinking Machines a attiré une attention disproportionnée par rapport à l'ampleur de son bilan public jusqu'à présent. L'entreprise a été fondée par Mira Murati, qui a occupé le poste de directrice technique chez OpenAI avant de quitter l'entreprise pour lancer sa propre aventure, et a attiré une équipe possédant une expérience approfondie issue de certains des laboratoires les plus en vue du secteur. Ce pedigree a offert à l'entreprise un an et demi de construction d'infrastructure relativement discrète, sans l'impatience du marché qui aurait pu autrement se diriger vers une start-up moins bien connectée ne publiant rien pendant aussi longtemps.

Pour les développeurs qui évaluent si Inkling est utile pour un projet spécifique, la nature à poids ouverts de la sortie rend le test pratique simple et peu risqué : le modèle peut être téléchargé et exécuté sur une infrastructure locale ou cloud sans relation avec un fournisseur, et ses performances réelles sur une tâche donnée peuvent être évaluées directement plutôt que prises pour argent comptant à partir d'arguments marketing. C'est précisément le type d'évaluation que les sorties à poids ouverts sont conçues pour permettre, et cela déterminera probablement, plus que n'importe quel chiffre de référence publié par Thinking Machines elle-même, si Inkling trouve un véritable ancrage face aux géants laboratoires fermés et au champ grandissant de concurrents à poids ouverts déjà bien établis avant lui.

L'arrivée d'Inkling survient aussi à un moment où l'écosystème des poids ouverts s'est lui-même densifié, avec des acteurs allant de laboratoires bien financés à des projets portés par la communauté, tous en concurrence sur des axes similaires : efficacité des paramètres, conditions de licence, et facilité avec laquelle un modèle peut être affiné pour un domaine restreint sans coûts de calcul prohibitifs. La place qu'occupera finalement Inkling dans ce spectre, celle d'une architecture véritablement différenciée ou simplement d'une nouvelle option crédible parmi tant d'autres, ne deviendra probablement plus claire qu'une fois que des développeurs indépendants auront eu des mois, et non des jours, pour le tester sur des charges de travail réelles.

Cet article est un résumé éditorial assisté par IA basé sur TechCrunch. L'image est une photo d'archive de panumas nikhomkhai sur Pexels.

À lire ensuite

Une salle de cinéma vide avec un écran de projection éclairé
Tech

Les films IA « slop » expliqués : le film direct-to-video réinventé

Alors que l'adaptation à gros budget de L'Odyssée par Christopher Nolan attire les foules dans les salles, un petit studio se dépêche de sortir sa propre version de la même histoire générée par IA. C'est le dernier exemple en date d'une catégorie grandissante que les critiques appellent les films IA « slop » : des films fabriqués à moindre coût, assistés par algorithme, profitant du sillage de sorties plus importantes.

The Vergeil y a 3 h
Des lignes de code affichées sur un écran d'ordinateur dans une pièce faiblement éclairée
Tech

Qu'est-ce qu'une faille zero-day, et pourquoi continuent-elles d'échapper au Patch Tuesday

Une vulnérabilité Windows nouvellement révélée, baptisée HiveLegacy, a émergé le jour même où Microsoft publiait un nombre record de correctifs de sécurité, une coïncidence qui met en lumière la manière dont les failles zero-day interagissent avec le cycle de correctifs habituel. Voici ce qu'est réellement une faille zero-day, et pourquoi le Patch Tuesday n'a pas résolu le problème.

Ars Technicail y a 3 h
Une forme d'onde audio numérique affichée sur un écran dans un studio d'enregistrement
Tech

Comment les générateurs de musique par IA trouvent leurs données d'entraînement, et pourquoi cela finit toujours en polémique

Un piratage ayant exposé le code source interne du générateur de musique par IA Suno semble révéler que l'entreprise a aspiré des décennies d'audio issues de YouTube pour entraîner ses modèles, ravivant une querelle familière sur la manière dont les entreprises d'IA générative se procurent les données sur lesquelles elles s'entraînent. Voici le schéma sous-jacent à ces litiges récurrents.

TechCrunchil y a 3 h