El CEO de DeepMind pide un organismo independiente para evaluar los modelos de IA de frontera

El CEO de Google DeepMind, Demis Hassabis, ha propuesto crear un organismo independiente encargado de supervisar los modelos de IA más avanzados. Hassabis imagina que la organización funcionaría de forma similar a los organismos de autorregulación que ya existen en el sector financiero.

El ejemplo que menciona es el de un organismo de autorregulación en Estados Unidos que supervisa a las firmas de correduría de valores. Aunque no es una agencia gubernamental directa, este organismo establece reglas que las empresas del sector deben cumplir y realiza revisiones de cumplimiento.

Según la propuesta de Hassabis, podría crearse una estructura similar para la IA. Ese organismo evaluaría los modelos llamados "de frontera" —los que operan en el límite de las capacidades actuales— antes de su lanzamiento público, comprobando que cumplen estándares de seguridad acordados.

La idea se presenta como un camino intermedio entre la autorregulación total de las empresas de IA y la intervención directa de los gobiernos. Hassabis sostiene que una regulación controlada enteramente por organismos gubernamentales podría tener dificultades para seguir el ritmo de una tecnología en rápida evolución.

Los críticos responden que la autorregulación del sector conlleva un riesgo inherente de conflicto de intereses. Si la financiación de un organismo de este tipo proviene en gran medida de las propias empresas que supervisa, su independencia podría cuestionarse razonablemente.

A escala global ya coexisten distintos enfoques regulatorios sobre la IA. La Unión Europea ha construido un marco legal integral, la regulación en Estados Unidos sigue en gran medida fragmentada y varía según el estado, mientras que China aplica su propio modelo de supervisión centralizada.

Hassabis sostiene que el organismo independiente que propone podría servir de puente entre estos distintos enfoques regulatorios, permitiendo que las empresas se agrupen en torno a un estándar común en lugar de navegar por reglas distintas en cada jurisdicción.

Para que la propuesta funcione en la práctica, las grandes empresas de IA tendrían que aceptar voluntariamente la autoridad de ese organismo. Sin esa adhesión, la organización tendría poca capacidad real de hacer cumplir sus normas.

Algunos observadores del sector recuerdan que propuestas similares ya se han planteado antes sin llegar nunca a materializarse. La intensidad de la competencia entre empresas de IA puede dificultar un acuerdo sobre un marco de supervisión compartido.

El llamado de Hassabis pone de relieve que el debate sobre la seguridad de la IA no se limita a los gobiernos y la sociedad civil, sino que también se libra entre los mayores actores del propio sector. Si la propuesta llegará a convertirse en una institución concreta sigue siendo una incógnita.