Qué son los modelos de lenguaje pequeños y por qué empiezan a rivalizar con los gigantes de la IA

En el mundo de la IA ha prevalecido durante mucho tiempo una hipótesis dominante: cuantos más parámetros tiene un modelo, más capaz es. El nuevo modelo LFM2.5 de Liquid AI destaca como un ejemplo que desafía esa hipótesis, y está atrayendo rápidamente el interés de desarrolladores que trabajan en entornos con recursos de hardware limitados.

Los parámetros son los valores numéricos ajustables que un modelo de IA aprende durante el entrenamiento, utilizados para codificar patrones lingüísticos, relaciones y conocimiento. Como regla general, más parámetros significan más "capacidad", pero esa relación no siempre es directa; las investigaciones de los últimos años han demostrado que la calidad de los datos de entrenamiento puede importar mucho más que el tamaño bruto.

Con solo 2.600 millones de parámetros, LFM2.5 ofrece un rendimiento comparable al de modelos aproximadamente cuatro veces más grandes, en torno a los 10.000 millones de parámetros. Es el último ejemplo de una categoría en rápido crecimiento conocida como modelos de lenguaje pequeños, o SLM, una categoría que ha ganado un impulso considerable durante el último año tanto en la investigación como en el despliegue comercial.

Este avance en rendimiento tiene menos que ver con el número bruto de parámetros y más con la calidad de los datos de entrenamiento, las optimizaciones arquitectónicas y una técnica llamada destilación, en la que un modelo pequeño se entrena bajo la "tutela" de uno más grande, comprimiendo su conocimiento en una forma más compacta, un proceso orientado a capturar la esencia del "saber" de un modelo grande con muchos menos parámetros.

La mayor ventaja práctica de los modelos pequeños es que el hardware necesario para ejecutarlos es mucho más modesto. Los modelos grandes suelen funcionar en la nube, en potentes clústeres de servidores, mientras que modelos como LFM2.5 pueden ejecutarse directamente en el dispositivo: en teléfonos, wearables, sistemas de hogar inteligente e incluso robots, reduciendo de forma sustancial la latencia de respuesta.

Eso también supone una diferencia importante en materia de privacidad: los datos pueden procesarse en el propio dispositivo sin enviarse a servidores en la nube. La capacidad de funcionar sin conexión a internet también es una ventaja significativa frente a los grandes modelos dependientes de la nube, una distinción especialmente relevante para aplicaciones que manejan información sensible como datos de salud o comunicaciones personales.

El coste es otro factor importante: ejecutar modelos pequeños es mucho más barato que ejecutar enormes modelos basados en la nube, lo que permite a los desarrolladores incorporar funciones de IA a sus productos sin disparar sus facturas de nube; algunos desarrolladores señalan que pasarse a modelos pequeños ha reducido sus costes operativos hasta diez veces.

Los modelos pequeños tienen, por supuesto, sus límites: para tareas que requieren un conocimiento general muy amplio o cadenas de razonamiento complejas, los modelos grandes siguen teniendo ventaja. Los SLM, en cambio, destacan en tareas más acotadas y bien definidas: un bot de atención al cliente o un asistente de hogar inteligente adaptado a un dominio concreto, por ejemplo.

La tendencia del sector apunta hacia la proliferación de modelos pequeños específicos para cada tarea, eficientes y capaces de funcionar en el dispositivo, en lugar de un único modelo gigante que "lo haga todo". Este giro también puede leerse como una "migración" de la IA desde los servidores en la nube hacia teléfonos y wearables, una evolución que muchos analistas consideran la próxima gran etapa del sector de la IA.

Modelos como LFM2.5 sugieren que el futuro de la IA podría definirse no solo construyendo modelos cada vez más grandes, sino ofreciendo la misma capacidad con menos recursos, en dispositivos más accesibles.