Qu'est-ce que l'optimisation convexe, et une IA a-t-elle vraiment comblé un écart vieux de 30 ans ?

Une discussion qui s'est rapidement propagée sur les forums de mathématiques la semaine dernière portait sur une affirmation selon laquelle GPT-5.6, à la suite de l'annonce d'une preuve par OpenAI, aurait contribué à résoudre une question d'optimisation convexe restée sans réponse pendant des décennies. Alors que cette affirmation attend encore d'être vérifiée, le sujet sous-jacent — ce qu'est réellement l'optimisation convexe et pourquoi elle importe — est devenu un nouveau sujet de curiosité pour de nombreuses personnes qui le découvraient pour la première fois.

L'optimisation convexe est l'une des branches les plus concrètes des mathématiques et de l'informatique. En termes simples, elle vise à trouver la meilleure valeur (la plus petite ou la plus grande) d'une fonction sous certaines contraintes — mais spécifiquement dans les cas où cette fonction est « convexe », c'est-à-dire dont le graphe a la forme d'un bol. Cette forme garantit aux mathématiciens qu'une solution existe et possède un unique point optimal, ce qui est précisément ce qui rend le problème traitable.

Bien que ce domaine paraisse abstrait, il intervient dans presque tous les aspects de la vie quotidienne. Entraîner un modèle d'IA, planifier une trajectoire de vol, équilibrer un portefeuille d'investissement, gérer un réseau électrique — tout cela peut, au fond, se ramener à un problème d'optimisation convexe. L'efficacité avec laquelle de tels problèmes peuvent être résolus détermine directement la performance de ces systèmes.

Mais certains pans de l'optimisation convexe demeurent véritablement ouverts. Pour certaines classes de problèmes, la vitesse théorique maximale à laquelle une solution peut être atteinte occupe les mathématiciens depuis des décennies. L'affirmation qui circule sur les réseaux sociaux concerne précisément ce type de borne — une limite supérieure ou inférieure qui avait résisté à toute démonstration pendant des années, et qui aurait été résolue grâce à une ébauche de preuve générée avec l'aide d'un modèle d'IA.

Les mathématiciens ont tendance à aborder ce type d'annonce avec prudence, car une ébauche de preuve générée par IA reste une simple affirmation tant qu'elle n'a pas été formellement vérifiée. Par le passé, des preuves générées automatiquement, convaincantes à première vue, se sont révélées, après examen plus approfondi, contenir de subtiles erreurs logiques.

Néanmoins, cet épisode illustre à lui seul l'évolution du rôle des modèles d'IA dans la recherche mathématique. Il y a quelques années, ces modèles pouvaient surtout reproduire des théorèmes connus ou effectuer des calculs simples ; aujourd'hui, les chercheurs les utilisent de plus en plus comme une sorte de collaborateur de recherche, capable de proposer des ébauches de preuve ou des stratégies pour des problèmes véritablement non résolus.

Cette évolution repose sur une amélioration de la capacité des modèles à suivre de manière plus cohérente de longues chaînes de raisonnement logique en plusieurs étapes. Les mathématiciens soulignent que ce qui compte n'est pas de savoir si un modèle « connaît » la bonne réponse, mais s'il peut générer, étape par étape, la chaîne logique qui y mène réellement.

Une partie de la communauté mathématique estime que de tels outils pourraient profondément transformer la façon d'aborder les problèmes ouverts à l'avenir — un avenir où une IA pourrait suggérer une voie de démonstration qu'un chercheur humain aurait négligée. D'autres rétorquent que la vérification formelle doit rester fermement entre les mains des mathématiciens humains, car il existe un écart significatif entre une preuve qui « semble correcte » et une preuve qui l'est réellement.

Savoir si l'affirmation se vérifiera deviendra plus clair dans les semaines à venir, à mesure que des experts du domaine examineront l'ébauche de preuve ligne par ligne. En mathématiques, ce processus peut souvent prendre des mois, parfois des années.

Quelle que soit l'issue, cet épisode a rappelé à un large public à quel point un domaine en apparence abstrait comme l'optimisation convexe est en réalité central — et à quelle vitesse le rôle de l'IA dans la recherche mathématique est en train de changer.