Pourquoi les meilleures start-up de l'IA publient-elles de moins en moins de recherches ?

Les premières années du domaine de l'IA, en gros du début des années 2010 au début de cette décennie, étaient connues pour leur culture d'ouverture. Les grands laboratoires publiaient leurs méthodes sous forme d'articles, partageaient leur code et s'appuyaient sur les travaux des autres. Cette ouverture était largement créditée comme l'une des raisons expliquant la rapidité des progrès du domaine.

Aujourd'hui, le tableau a changé. Les start-up phares du secteur partagent de moins en moins ce qu'elles considèrent comme leurs découvertes les plus marquantes. Des recherches qui autrefois figuraient dans des conférences académiques et des revues à comité de lecture restent désormais principalement internes — soit jamais publiées, soit partagées uniquement sous forme d'un billet de blog à visée marketing, dépourvu de détails techniques.

Le moteur le plus évident de ce basculement est la concurrence commerciale. Un laboratoire ayant investi des mois de recherche et une puissance de calcul considérable pour prendre de l'avance n'a guère envie d'offrir cet avantage à ses concurrents via un article public. La publication, autrefois un chemin vers le prestige scientifique, est désormais de plus en plus perçue comme le fait d'offrir une feuille de route gratuite.

À cela s'ajoute le fait que certaines entreprises justifient leur choix de ne pas publier par des raisons de sécurité : elles avancent que rendre publics les détails de l'entraînement des modèles les plus puissants pourrait accroître le risque de détournement. Cet argument est contesté — des critiques estiment que les préoccupations de sécurité servent parfois de prétexte commode pour protéger des secrets commerciaux.

Les dynamiques de sécurité nationale compliquent encore le tableau. L'IA n'est plus perçue uniquement comme une technologie commerciale, mais comme un terrain de compétition géopolitique, ce qui pousse certaines entreprises — et même certains gouvernements — à faire preuve d'une prudence accrue quant au partage de recherches jugées stratégiquement précieuses.

Cette fermeture a des conséquences concrètes pour la communauté scientifique. Les chercheurs universitaires, privés d'accès aux dernières découvertes des laboratoires de pointe, perdent la possibilité de les vérifier de manière indépendante ou de s'appuyer dessus. Cela ralentit la progression cumulative des connaissances — le mécanisme même par lequel fonctionne la science.

Le problème est encore plus aigu pour les chercheurs en sécurité de l'IA. Pouvoir examiner de manière indépendante le comportement d'un modèle et les risques susceptibles d'en découler dépend de la transparence. Lorsque les entreprises réalisent leurs propres évaluations de sécurité en vase clos, aucune partie extérieure ne peut confirmer leur exactitude.

Toutes les entreprises ne suivent cependant pas la même direction. Certaines organisations de recherche à but non lucratif et partenariats académiques continuent de publier en particulier des résultats axés sur la sécurité, et certaines entreprises maintiennent une ouverture dans des domaines de recherche spécifiques, non sensibles sur le plan commercial.

Pour les décideurs politiques, cette tendance crée un nouveau défi : la réglementation dépend généralement de la transparence — évaluer les risques d'une technologie suppose d'abord d'en comprendre le fonctionnement. À mesure que les entreprises gardent leur recherche fondamentale de plus en plus confidentielle, il devient plus difficile pour les régulateurs de prendre des décisions éclairées.

Les chercheurs ne s'attendent pas à ce que le domaine revienne pleinement à sa culture de science ouverte, mais certains plaident au moins pour des normes sectorielles communes concernant le partage des résultats pertinents pour la sécurité. Ce débat continuera de façonner la manière dont l'IA se développe, à la fois comme science et comme activité commerciale.