Pourquoi les pionniers de l'IA Hinton, Li et Ng défendent les modèles ouverts malgré les craintes sur la sécurité

Un débat qui couvait sous la surface de l'industrie de l'intelligence artificielle depuis des années a éclaté au grand jour lors de la conférence Ai4, où trois des chercheurs les plus influents du domaine — Geoffrey Hinton, Fei-Fei Li et Andrew Ng — ont discuté, et à certains moments été en désaccord, sur la question de savoir si le fait de rendre les modèles d'IA puissants librement accessibles renforce ou fragilise les efforts de sécurité à mesure que la technologie devient plus capable.

Hinton, dont les travaux fondateurs sur les réseaux de neurones ont contribué à rendre possible la vague actuelle de l'IA et qui est depuis devenu l'une des voix les plus en vue du domaine pour alerter sur le risque existentiel, a généralement plaidé en faveur d'un contrôle plus strict des systèmes les plus performants, exprimant la crainte que des modèles à poids ouverts largement disponibles puissent être plus facilement détournés ou modifiés pour en retirer les garde-fous de sécurité.

Ng et Li, qui ont tous deux construit des carrières mêlant recherche académique en IA, postes de direction dans l'industrie et création de start-ups, se sont montrés des défenseurs plus constants du développement de l'IA en open source, faisant valoir qu'un accès large aux poids des modèles accélère la recherche bénéfique, abaisse les barrières pour les petites entreprises et les laboratoires académiques et — élément crucial — permet à une communauté de chercheurs bien plus vaste d'identifier et de corriger les failles de sécurité, ce qu'une poignée de laboratoires fermés travaillant isolément ne pourrait jamais accomplir seule.

La discussion du panel a directement abordé la compétition géopolitique, en particulier la question de savoir comment les États-Unis et leurs alliés devraient réagir alors que les laboratoires d'IA chinois continuent de publier des modèles à poids ouverts toujours plus performants. Plusieurs développeurs chinois ont gagné une adoption mondiale significative en publiant des modèles très performants sous licences permissives, une stratégie que certains participants au débat ont qualifiée d'effort délibéré pour fixer les règles de l'écosystème mondial de l'IA par l'ouverture plutôt que par la restriction.

Les partisans du maintien de l'ouverture occidentale ont fait valoir que céder entièrement l'espace des modèles ouverts aux développeurs chinois serait stratégiquement à courte vue, risquant de laisser ces modèles — et les normes, biais et dépendances qui y sont intégrés — devenir l'infrastructure par défaut du développement de l'IA dans de larges régions du monde, y compris des zones où les États-Unis et l'Europe exercent actuellement une influence technologique limitée.

Le volet sécurité de l'argumentation repose sur un désaccord technique réel et non résolu : le principal risque lié à l'IA dont il faut se prémunir est-il un petit nombre de laboratoires centralisés et puissants déployant des systèmes de manière irresponsable, ou bien un ensemble largement diffusé de modèles ouverts performants adaptés à des fins malveillantes par des acteurs qui, autrement, n'auraient pas les ressources nécessaires pour construire de tels systèmes à partir de zéro.

La réglementation a occupé une place importante dans la discussion, les participants s'accordant largement sur la nécessité probable d'un cadre de gouvernance pour les systèmes d'IA les plus performants, tout en étant en net désaccord sur l'endroit où placer cette ligne réglementaire — les restrictions devraient-elles s'appliquer étroitement à un petit nombre de modèles de pointe, qu'ils soient ouverts ou fermés, ou l'ouverture elle-même devrait-elle être traitée comme un facteur de risque supplémentaire et distinct nécessitant sa propre couche de surveillance.

Le fait que trois chercheurs de cette envergure — des figures largement créditées de contributions fondatrices à l'IA moderne et rarement vues en désaccord public à ce niveau de détail — aient choisi de tenir cette discussion devant un public professionnel est en soi remarquable, reflétant à quel point le débat entre ouverture et fermeture demeure non résolu et lourd de conséquences alors que les capacités de l'IA continuent de progresser rapidement.

Les observateurs du secteur notent que les enjeux pratiques de ce débat augmentent rapidement, l'écart de performance entre les modèles fermés les plus avancés et les meilleurs modèles librement accessibles s'étant considérablement réduit au cours des deux dernières années, ce qui signifie que les décisions concernant l'ouverture s'appliquent désormais à des systèmes réellement puissants plutôt qu'à des modèles de génération antérieure relativement limités.

Aucune résolution n'a émergé de ce panel, et aucun des trois chercheurs n'a laissé entendre qu'une réponse consensuelle était imminente à l'échelle de l'industrie. Ce que cet échange a en revanche clairement montré, c'est que certains des esprits les plus respectés de l'IA restent réellement divisés sur l'une des questions non résolues les plus lourdes de conséquences du domaine, à un moment où la réponse façonne de plus en plus la manière dont gouvernements, entreprises et chercheurs du monde entier abordent la prochaine phase de cette technologie.