Une juge estime que DOGE a utilisé ChatGPT d'une manière 'à la fois absurde et illégale'

Dans une décision de 143 pages liée à une plainte déposée en 2025 par des organisations spécialisées dans les humanités, la juge fédérale Colleen McMahon a estimé que l'annulation par le Department of Government Efficiency (DOGE) de subventions du National Endowment for the Humanities était inconstitutionnelle. La décision documente comment DOGE s'est appuyé sur ChatGPT, d'OpenAI, pour décider quels programmes relevaient de la diversité, de l'équité et de l'inclusion, dans le cadre d'annulations dépassant 100 millions de dollars.

La magistrate écrit qu''il ne pouvait être plus évident que DOGE a utilisé la simple présence de caractéristiques protégées particulières pour priver des subventions de financement.' Elle examine la conduite à l'aune de l'interdiction de discrimination par opinion prévue par le Premier amendement et du standard du droit administratif sanctionnant l'action 'arbitraire et déraisonnable'. La possibilité, pour les bénéficiaires de subventions fédérales, de récupérer les sommes annulées sera tranchée dans les prochaines semaines.

La décision constitue l'un des premiers contrôles juridictionnels substantiels portant sur l'usage de grands modèles de langage par des agences fédérales dans leurs processus décisionnels. Les sorties de ChatGPT auraient signalé comme alignés sur la DEI des musées, des sociétés historiques et des programmes de recherche universitaires en raison de références raciales ou ethniques précises. Pour les juristes, ce précédent pourrait accélérer les contentieux visant d'autres processus pilotés par IA dans l'administration.