Por qué los pioneros de la IA Hinton, Li y Ng defienden los modelos abiertos pese a los temores de seguridad

Un debate que llevaba años latente bajo la superficie de la industria de la inteligencia artificial salió a la luz en la conferencia Ai4, donde tres de los investigadores más influyentes del sector —Geoffrey Hinton, Fei-Fei Li y Andrew Ng— discutieron, y en algunos puntos disintieron, sobre si hacer que los modelos de IA potentes estén abiertamente disponibles fortalece o debilita los esfuerzos de seguridad a medida que la tecnología se vuelve más capaz.

Hinton, cuyo trabajo fundacional sobre redes neuronales ayudó a hacer posible la actual ola de IA y que desde entonces se ha convertido en una de las voces más destacadas del sector en advertir sobre el riesgo existencial, generalmente ha defendido un control más estricto sobre los sistemas más capaces, expresando preocupación de que los modelos de pesos abiertos ampliamente disponibles puedan usarse indebidamente con mayor facilidad o modificarse para eliminar las salvaguardas de seguridad.

Ng y Li, quienes han construido carreras que abarcan la investigación académica en IA, altos cargos en la industria y liderazgo de startups, se han mostrado defensores más constantes del desarrollo de IA de código abierto, argumentando que un acceso amplio a los pesos de los modelos acelera la investigación beneficiosa, reduce las barreras para empresas pequeñas y laboratorios académicos y —de forma crucial— permite que una comunidad de investigadores mucho más amplia identifique y corrija fallos de seguridad, algo que un puñado de laboratorios cerrados trabajando de forma aislada nunca podría lograr por sí solo.

La discusión del panel abordó directamente la competencia geopolítica, específicamente la cuestión de cómo deberían responder Estados Unidos y sus aliados mientras los laboratorios chinos de IA siguen publicando modelos de pesos abiertos cada vez más capaces. Varios desarrolladores chinos han logrado una adopción global significativa al publicar modelos muy capaces con licencias permisivas, una estrategia que algunos en el debate calificaron como un esfuerzo deliberado por fijar las reglas del ecosistema global de la IA mediante la apertura en lugar de la restricción.

Los defensores de mantener la apertura occidental argumentaron que ceder por completo el espacio de los modelos abiertos a los desarrolladores chinos sería estratégicamente miope, ya que esos modelos —y las normas, sesgos y dependencias incorporados en ellos— podrían convertirse en la infraestructura por defecto para el desarrollo de IA en amplias regiones del mundo, incluidas zonas donde Estados Unidos y Europa tienen actualmente una influencia tecnológica limitada.

El argumento de seguridad se apoya en un desacuerdo técnico genuino y no resuelto: si el principal riesgo de la IA frente al que hay que protegerse es un pequeño número de laboratorios centralizados y potentes que despliegan sistemas de forma irresponsable, o bien un conjunto ampliamente difundido de modelos abiertos capaces adaptados con fines dañinos por actores maliciosos que, de otro modo, carecerían de los recursos para construir tales sistemas desde cero.

La regulación ocupó un lugar destacado en la discusión, con los participantes coincidiendo en general en que probablemente sea necesario algún tipo de marco de gobernanza para los sistemas de IA más capaces, aunque en desacuerdo notable sobre dónde debería trazarse esa línea regulatoria: si las restricciones deberían aplicarse de forma estrecha a un pequeño número de modelos de vanguardia, sean abiertos o cerrados, o si la propia apertura debería tratarse como un factor de riesgo adicional y distinto que requiere su propia capa de supervisión.

El hecho de que tres investigadores de esta talla —figuras ampliamente reconocidas por contribuciones fundacionales a la IA moderna y rara vez vistas en desacuerdo público a este nivel de detalle— eligieran mantener esta discusión ante una audiencia del sector resulta en sí mismo notable, y refleja lo irresuelto y trascendental que sigue siendo el debate entre apertura y cierre a medida que las capacidades de la IA continúan avanzando con rapidez.

Los observadores del sector señalan que lo que está en juego en este debate crece rápidamente, ya que la brecha de capacidad entre los modelos cerrados más avanzados y los mejores modelos disponibles abiertamente se ha reducido considerablemente en los últimos dos años, lo que significa que las decisiones sobre apertura ahora se aplican a sistemas genuinamente potentes y no a modelos de generaciones anteriores relativamente limitados.

Del panel no surgió ninguna resolución, y ninguno de los tres investigadores sugirió que una respuesta consensuada a nivel de toda la industria fuera inminente. Lo que el intercambio sí dejó claro es que algunas de las mentes más respetadas de la IA siguen genuinamente divididas sobre una de las cuestiones no resueltas más trascendentales del sector, en un momento en que la respuesta moldea cada vez más cómo gobiernos, empresas e investigadores de todo el mundo abordan la próxima fase de esta tecnología.