Les mathématiciens mettent en garde contre les menaces de l'IA sur leur profession
L'Union Mathématique Internationale (IMU) a publié une déclaration d'avertissement complète concernant l'impact croissant du secteur de l'IA sur la recherche mathématique académique. Selon Ars Technica, la déclaration demande à la communauté mathématique de reconsidérer le changement structurel que les entreprises d'IA créent à travers le financement, l'accès aux données et l'orientation de la recherche.
La présidente de l'IMU, le professeur Hélène Esnault de l'Université de Lyon, a exprimé les réserves de l'organisation lors de la signature de la déclaration comme suit : 'l'intégrité méthodologique des mathématiques ne devrait pas être façonnée par des projets liés à des priorités commerciales ; mais le financement du secteur privé qui est entré dans les départements de mathématiques au cours des trois dernières années brouille cette frontière.'
Parmi les signataires de la déclaration figurent les chefs des départements de mathématiques de l'Université Princeton, de l'Université d'Oxford, de l'École normale supérieure et de l'Université Stanford. Le président du département de mathématiques de Princeton, le professeur Allan Sly, s'adressant à Ars Technica, a déclaré que 'les entreprises d'IA, dont DeepMind, OpenAI et Google Research, ont fourni environ 800 millions de dollars de financement direct aux chaires académiques de mathématiques au cours des trois dernières années ; ce chiffre équivaut presque à une décennie de financement gouvernemental traditionnel.'
Une dimension de la question est la pression économique qui a émergé autour des problèmes mathématiques. Il a été documenté qu'au cours des 5 à 10 prochaines années, les entreprises d'IA offrent des fonds de recherche dédiés aux problèmes 'Millennium' tels que l'hypothèse de Riemann et P contre NP, visant à faire progresser les capacités de résolution de problèmes mathématiques. Le professeur Patrick Massot de l'ÉNS Lyon a déclaré que 'le façonnage des priorités scientifiques par la pression du secteur crée le risque de perturber le rythme naturel des mathématiques.'
Une autre dimension technique de la déclaration est la propriété des systèmes automatisés qui effectuent la vérification formelle des preuves. En plus des systèmes open source tels que Lean, Coq et Isabelle, des outils à code source fermé développés par les entreprises d'IA au cours des trois dernières années ont également commencé à se répandre dans la communauté mathématique. La déclaration de l'IMU a souligné que la propriété des outils dans le domaine de la preuve formelle par le secteur privé va à l'encontre de l'intérêt public à long terme.
Un incident notable à l'origine de l'avertissement est une thèse de doctorat acceptée le mois dernier par le département de mathématiques de l'Université Tsinghua. La thèse aurait été rédigée à l'aide de l'assistant de preuve privé d'OpenAI et il a été déterminé qu'elle n'était pas soumise à l'accès ouvert en raison des politiques de confidentialité de l'entreprise. Cette situation est devenue un indicateur concret de la tension entre la tradition mathématique académique et les politiques de confidentialité des entreprises d'IA.
L'approche des entreprises d'IA envers la recherche mathématique suscite également des commentaires positifs. Le mathématicien de Stanford, le professeur Tadashi Tokieda, a déclaré que 'les outils d'IA peuvent offrir aux mathématiciens un soutien important dans les domaines de la découverte de problèmes et de la génération d'hypothèses ; plutôt que les craintes, c'est l'aménagement du cadre qui devrait être débattu.' Tokieda a expliqué qu'il soutient les arguments fondamentaux de la déclaration de l'IMU mais que ce qui est proposé n'est pas le rejet des outils mais leur limitation.
Une autre couche de recommandation dans la déclaration est la documentation du financement apporté par les entreprises d'IA aux chaires académiques de mathématiques par des rapports de transparence. L'IMU a recommandé que les départements de mathématiques membres partagent annuellement le financement du secteur privé dans des rapports publics à partir de 2027. Cette recommandation est une réponse au manque de transparence dans les rapports de financement de la NSF (National Science Foundation des États-Unis) au cours des trois dernières années.
La Dre Anjuli Bamzai, responsable des politiques de neutralité de la National Science Foundation des États-Unis, a déclaré que 'dans les cas où les entreprises d'IA financent les départements de mathématiques, à la fois un rapport public et une supervision par un comité de priorités scientifiques doivent se poursuivre.' Il a été indiqué que la mise à jour de politique que la NSF publiera à l'automne 2026 répondra à cette recommandation.
Cette déclaration d'avertissement de la communauté mathématique internationale fait partie d'un débat plus large sur la manière dont la tension entre la science académique et le secteur privé prendra forme à l'ère de l'IA. Le professeur Marja Makarow, ancienne présidente de la Fondation européenne pour la science, a déclaré que 'les mathématiques pourraient être la première communauté académique à signer cette déclaration d'avertissement ; mais la physique, la chimie et la biologie sont également au seuil de tensions similaires.' Des appels sont lancés dans le cadre de la loi sur l'IA de l'Union européenne pour la formalisation de la frontière entre financement académique et financement sectoriel. Cet article ne constitue pas un conseil personnel de recherche ou académique.