Le PDG de DeepMind appelle à un organisme indépendant pour tester les modèles d'IA de pointe
Le PDG de Google DeepMind, Demis Hassabis, a proposé la création d'un organisme indépendant chargé de superviser les modèles d'IA les plus avancés. Hassabis envisage que cette organisation fonctionne à l'image des organismes d'autorégulation déjà présents dans le secteur financier.
L'exemple qu'il cite est celui d'un organisme d'autorégulation aux États-Unis chargé de superviser les sociétés de courtage en valeurs mobilières. Bien qu'il ne s'agisse pas d'une agence gouvernementale directe, cet organisme fixe des règles que les entreprises du secteur doivent respecter et procède à des contrôles de conformité.
Selon la proposition de Hassabis, une structure similaire pourrait être mise en place pour l'IA. Cet organisme testerait les modèles dits « de pointe » — ceux opérant à la limite des capacités actuelles — avant leur mise à disposition du public, en les évaluant au regard de normes de sécurité communément admises.
L'idée est présentée comme une voie médiane entre une autorégulation totale des entreprises d'IA et une intervention directe des gouvernements. Hassabis avance qu'une réglementation entièrement contrôlée par les pouvoirs publics pourrait avoir du mal à suivre le rythme d'une technologie en évolution rapide.
Les critiques rétorquent que l'autorégulation du secteur comporte un risque de conflit d'intérêts inhérent. Si le financement d'un tel organisme provient en grande partie des entreprises mêmes qu'il est censé superviser, son indépendance pourrait raisonnablement être remise en question.
Différentes approches réglementaires de l'IA coexistent déjà à l'échelle mondiale. L'Union européenne a bâti un cadre juridique complet, la réglementation aux États-Unis demeure largement fragmentée et propre à chaque État, tandis que la Chine applique son propre modèle de supervision centralisée.
Hassabis soutient que l'organisme indépendant qu'il propose pourrait servir de pont entre ces différentes approches réglementaires, permettant aux entreprises de se rallier à une norme commune plutôt que de naviguer entre des règles distinctes selon les juridictions.
Pour que la proposition fonctionne en pratique, les grandes entreprises d'IA devraient accepter volontairement l'autorité d'un tel organisme. Sans cette adhésion, l'organisation disposerait de peu de pouvoir de mise en application concret.
Certains observateurs du secteur rappellent que des propositions similaires ont déjà été formulées par le passé sans jamais prendre une forme concrète. L'intensité de la concurrence entre entreprises d'IA peut rendre difficile un accord sur un cadre de supervision commun.
L'appel de Hassabis souligne que le débat sur la sécurité de l'IA ne se limite pas aux gouvernements et à la société civile — il se joue aussi au sein même des plus grands acteurs du secteur. Reste à savoir si cette proposition se traduira un jour par une institution concrète.
À lire ensuite
25 ans de Google Images : comment la recherche visuelle a évolué
Google célèbre le 25e anniversaire de Google Images avec une nouvelle galerie propulsée par l'IA, qui se met continuellement à jour en fonction des centres d'intérêt de l'utilisateur. Cette refonte rappelle le chemin parcouru par cet outil depuis ses débuts comme simple moteur de correspondance par mots-clés.
Les boutiques d'applications tierces arrivent sur Android : ce que change le litige Google-Epic
Google et Epic Games ont conjointement retiré leur tentative de règlement du long litige qui redéfinit le fonctionnement des boutiques d'applications Android, ouvrant la voie à l'application d'une décision de justice. Google indique qu'il commencera à héberger des boutiques d'applications concurrentes au sein de son propre Play Store dès la semaine prochaine.
Qu'est-ce que la « divulgation complète » en cybersécurité, et quand les chercheurs y recourent-ils ?
La divulgation publique d'une vulnérabilité dans Cursor, un éditeur de code assisté par IA très utilisé, a remis en lumière une pratique de cybersécurité débattue de longue date : la divulgation complète. C'est l'option à laquelle recourent les chercheurs en dernier ressort lorsqu'ils jugent la réponse d'un éditeur trop lente pour protéger les utilisateurs.
Qu'est-ce que Secure Boot, et comment une faille vieille de dix ans est-elle passée inaperçue ?
Secure Boot, la technologie censée empêcher les logiciels malveillants de détourner le démarrage d'un ordinateur, dissimulait depuis plus de dix ans une faille permettant de la contourner. Le problème provient d'anciens composants logiciels signés numériquement que Microsoft n'avait pas révoqués.
Pénurie de puces mémoire : pourquoi elle fait chuter les expéditions de smartphones
Une pénurie mondiale de puces mémoire pèse sur la production de smartphones, faisant chuter les expéditions globales à des niveaux historiquement bas, alors même qu'Apple et Samsung, disposant de l'échelle nécessaire pour sécuriser leur approvisionnement, gagnent en part de marché relative. Les analystes attribuent cette tension à la demande de puces mémoire des centres de données d'IA.