HomeIALa IA que cabe en tu dispositivo: el ascenso de los pequeños...

La IA que cabe en tu dispositivo: el ascenso de los pequeños modelos de lenguaje

Durante los últimos años, el desarrollo de la inteligencia artificial ha estado marcado por una carrera hacia modelos cada vez más grandes, entrenados con enormes cantidades de información y ejecutados en centros de datos equipados con miles de procesadores. Sin embargo, una tendencia diferente comienza a ganar terreno: la creación de modelos pequeños, especializados y suficientemente eficientes para funcionar directamente en computadoras personales, teléfonos inteligentes y otros dispositivos.

Conocidos como pequeños modelos de lenguaje o SLM —por las siglas en inglés de Small Language Models—, estos sistemas plantean una idea aparentemente contradictoria: para que la inteligencia artificial continúe avanzando, quizá no siempre necesite hacerse más grande.

En muchos casos, el futuro de la IA podría consistir precisamente en reducir su tamaño.

¿Qué es un pequeño modelo de lenguaje?

Los modelos de lenguaje son sistemas de inteligencia artificial entrenados para reconocer patrones en enormes colecciones de textos. A partir de ese aprendizaje pueden interpretar instrucciones, responder preguntas, resumir documentos, traducir, generar contenido o ayudar a resolver problemas.

Gran parte de sus capacidades depende de los llamados parámetros: valores numéricos internos que el modelo ajusta durante el entrenamiento y utiliza posteriormente para procesar la información. Aunque los parámetros no equivalen exactamente a conocimientos individuales, pueden imaginarse como una gigantesca red de conexiones matemáticas mediante la cual el sistema representa los patrones aprendidos.

Los grandes modelos de lenguaje o LLM —Large Language Models— pueden contener decenas, cientos o incluso cientos de miles de millones de parámetros. Su enorme tamaño les permite desenvolverse en una gran variedad de temas, pero también exige cantidades considerables de memoria, capacidad de procesamiento y energía.

Los SLM funcionan bajo el mismo principio general, aunque utilizan una arquitectura más compacta y una cantidad considerablemente menor de parámetros. No existe una frontera universal que determine exactamente dónde termina un modelo pequeño y comienza uno grande; el término es relativo y cambia conforme avanza la tecnología. No obstante, suele aplicarse a modelos que pueden ejecutarse utilizando recursos computacionales mucho más modestos.

Esta diferencia podría compararse con la existente entre una gran biblioteca y un manual especializado. La biblioteca contiene información sobre casi cualquier tema, pero requiere un edificio completo, personal y sistemas para administrarla. El manual posee menos información, aunque puede transportarse fácilmente y resultar más rápido y práctico cuando se necesita resolver una tarea específica.

Un SLM no pretende necesariamente saberlo todo. Su objetivo consiste en saber lo suficiente para realizar determinadas funciones de manera eficiente.

De la escala a la eficiencia

Durante la primera etapa de la inteligencia artificial generativa, aumentar el tamaño de los modelos produjo mejoras sorprendentes. Al incorporar más parámetros, datos y capacidad de procesamiento, los sistemas comenzaron a redactar textos coherentes, programar, resolver problemas matemáticos y sostener conversaciones cada vez más naturales.

El éxito de esta estrategia generó la impresión de que la evolución de la IA dependería exclusivamente de construir modelos de mayor escala. Sin embargo, esa carrera también reveló importantes limitaciones.

Entrenar y operar estos sistemas requiere una enorme infraestructura computacional. Además, cada consulta debe enviarse normalmente a servidores remotos, procesarse en la nube y regresar al usuario. Este procedimiento puede resultar costoso cuando se multiplica por millones de solicitudes diarias.

No todas las tareas justifican semejante infraestructura. Utilizar un enorme modelo de propósito general para clasificar correos, corregir una oración, resumir una nota o consultar un manual interno sería comparable con recurrir a una supercomputadora para realizar una suma sencilla.

Los SLM parten de una pregunta diferente: ¿cuál es el modelo más pequeño capaz de resolver correctamente una tarea?

Este cambio de perspectiva está llevando a investigadores y empresas a desarrollar modelos ajustados para determinadas funciones, sectores y dispositivos. Sin embargo, reducir el número de parámetros no basta para obtener un buen resultado. Si simplemente se recortara una parte de un sistema grande, probablemente se perderían muchas de sus capacidades. El verdadero avance consiste en concentrar una mayor cantidad de aprendizaje útil dentro de una estructura más compacta.

Una de las claves es la calidad de los datos de entrenamiento. Durante años se asumió que alimentar a los modelos con más información produciría automáticamente mejores resultados. Hoy sabemos que un conjunto enorme de datos repetitivos, contradictorios o poco confiables puede ser menos valioso que una colección cuidadosamente seleccionada.

Otra técnica es la destilación de conocimiento. En este proceso, un modelo grande actúa como una especie de profesor: genera explicaciones, respuestas y ejemplos que posteriormente se utilizan para entrenar a un sistema más pequeño. El estudiante no adquiere toda la capacidad del maestro, pero puede aprender a reproducir una parte importante de su desempeño en tareas determinadas.

También se emplea la cuantización, un procedimiento que reduce la precisión numérica con la que se representan y almacenan los parámetros. Esto permite disminuir el espacio y la memoria requeridos por el modelo sin ocasionar necesariamente una pérdida significativa de calidad.

Entre los ejemplos más representativos se encuentran la familia Phi de Microsoft y los modelos Gemma de Google, desarrollados en versiones capaces de funcionar en computadoras personales y dispositivos móviles. Estos sistemas muestran que tareas como resumir textos, responder preguntas o apoyar la programación ya no necesitan depender exclusivamente de los modelos más grandes ni de una conexión permanente con la nube. Algunas de sus versiones también pueden procesar imágenes, audio y otras formas de información.

Comparación general entre los grandes modelos de lenguaje (LLM) y los pequeños modelos de lenguaje (SLM). Las características pueden variar según el modelo, el dispositivo y la forma de implementación.

La inteligencia artificial sale de la nube

Uno de los cambios más importantes impulsados por los SLM es la posibilidad de ejecutar inteligencia artificial directamente en el dispositivo del usuario.

Actualmente, cuando utilizamos muchos asistentes de IA, nuestra solicitud viaja por Internet hasta un centro de datos. Allí es procesada por servidores especializados y posteriormente recibimos una respuesta. Aunque este modelo permite acceder a sistemas muy potentes, también crea dependencia de la conectividad y plantea interrogantes sobre costos, latencia y tratamiento de la información.

Un modelo suficientemente pequeño puede descargarse y ejecutarse localmente. De esta manera, el texto, la voz, las imágenes o los documentos procesados podrían permanecer en la computadora o el teléfono, siempre que la aplicación esté diseñada para trabajar completamente de forma local.

Esta característica abre la puerta a una IA disponible incluso sin conexión a Internet. Un estudiante podría consultar materiales educativos en una comunidad con conectividad limitada; un técnico podría revisar manuales en una instalación remota; un viajero podría utilizar traducción y asistencia sin depender de una red móvil; y una empresa podría analizar documentos internos sin enviarlos necesariamente a servicios externos.

La respuesta también puede ser más rápida, pues desaparece parte del recorrido entre el dispositivo y los servidores. En tareas repetitivas o en aplicaciones que necesitan reaccionar inmediatamente, unos cuantos milisegundos pueden marcar una diferencia considerable.

Esto no significa que todos los SLM funcionen automáticamente sin Internet ni que el procesamiento local garantice por sí solo la privacidad. También intervienen el diseño de la aplicación, sus permisos y la manera en que almacena o transmite los datos. Sin embargo, ejecutar el modelo en el dispositivo reduce la necesidad técnica de compartir información con infraestructura externa.

Una IA especializada para cada necesidad

La adaptación a un área determinada puede lograrse mediante un entrenamiento adicional o complementando el modelo con una base documental. Esta última estrategia, conocida como generación aumentada por recuperación o RAG, permite que el sistema consulte manuales, reglamentos o bases de conocimiento antes de elaborar su respuesta, sin necesidad de incorporar toda esa información permanentemente en sus parámetros.

Los pequeños modelos de lenguaje encuentran su mayor potencial en tareas delimitadas. Un SLM entrenado o adaptado para comprender los procedimientos de una organización no necesita conocer con profundidad literatura, astronomía o historia universal. Puede concentrar su capacidad en interpretar reglamentos, responder preguntas frecuentes o ayudar a completar procesos administrativos.

En el ámbito educativo, podrían desarrollarse tutores instalados en los equipos escolares y adaptados a una asignatura determinada. Un modelo especializado en matemáticas básicas, programación o comprensión lectora podría funcionar en instituciones con acceso limitado a Internet y ofrecer acompañamiento sin depender permanentemente de servicios en la nube.

En salud, un SLM podría apoyar la consulta de protocolos, organizar notas o facilitar el acceso a información clínica dentro de entornos controlados. No sustituiría al personal médico ni debería tomar decisiones por sí solo, pero podría ayudar a localizar datos y reducir ciertas tareas administrativas.

En la industria, estos modelos pueden incorporarse a máquinas, sensores y sistemas de mantenimiento. Un técnico podría formular preguntas sobre el funcionamiento de un equipo y recibir instrucciones basadas en sus manuales. Al operar localmente, el sistema continuaría disponible incluso cuando la maquinaria se encuentre en una mina, una embarcación o una instalación sin conectividad estable.

Los teléfonos, automóviles y electrodomésticos también pueden beneficiarse. Un asistente integrado podría interpretar órdenes, resumir notificaciones, organizar información o controlar funciones sin enviar cada interacción a un servidor remoto.

Eficiencia computacional y energética

La expansión de la inteligencia artificial ha generado una creciente demanda de centros de datos, procesadores y energía. A medida que más personas y organizaciones incorporan estas herramientas, el costo de ejecutar modelos de gran escala se convierte en un factor económico y ambiental difícil de ignorar.

Los SLM requieren menos memoria y capacidad de procesamiento. Esto permite ejecutarlos en equipos más económicos y atender determinadas tareas consumiendo menos recursos. En aplicaciones que realizan miles o millones de operaciones repetitivas, la diferencia puede ser considerable.

Para una empresa pequeña, utilizar un modelo local o especializado podría reducir la dependencia de servicios cobrados por consulta. Para una institución educativa, significaría aprovechar equipos existentes. Para los desarrolladores, abriría la posibilidad de integrar funciones de IA sin construir una enorme infraestructura.

No obstante, “pequeño” no significa que su operación sea gratuita ni que carezca de impacto ambiental. El entrenamiento continúa requiriendo datos, energía y equipos especializados, mientras que millones de dispositivos ejecutando modelos también representan un consumo acumulado. La ventaja consiste en utilizar una cantidad de recursos más proporcional al problema que se pretende resolver. La eficiencia no depende únicamente de hacer más con menos, sino de evitar emplear una herramienta sobredimensionada para una tarea sencilla.

Lo que los SLM todavía no pueden hacer

A pesar de sus ventajas, los pequeños modelos de lenguaje no sustituyen completamente a los grandes sistemas de IA.

Al tener una capacidad más limitada, pueden presentar mayores dificultades cuando se enfrentan a preguntas alejadas de su especialización, instrucciones ambiguas o problemas que requieren integrar conocimientos de múltiples disciplinas. También pueden generar información incorrecta, inventar datos o reproducir sesgos presentes en su entrenamiento, de la misma manera que los modelos grandes.

Su menor tamaño tampoco implica que sean intrínsecamente seguros. Un SLM puede procesar información sensible de manera local, pero todavía necesita mecanismos de protección, actualización, supervisión y control de acceso. Además, si fue entrenado con datos insuficientes o de mala calidad, su especialización podría convertirse en una fuente de errores sistemáticos.

Por esta razón, el futuro probablemente no consistirá en elegir entre modelos grandes o pequeños, sino en combinarlos.

Los SLM atenderán funciones frecuentes, locales y especializadas. Cuando encuentren una tarea que exceda sus capacidades, podrán recurrir a un modelo de mayor escala, solicitar información adicional o transferir la decisión a una persona. Este esquema híbrido permitirá equilibrar capacidad, costo y privacidad.

De la misma forma que no todos los vehículos necesitan el motor de un automóvil de carreras, no todas las aplicaciones requieren el modelo de IA más potente disponible.

El impacto en la sociedad

La verdadera importancia de los SLM no reside únicamente en reducir parámetros o disminuir requisitos de memoria. Su mayor contribución podría consistir en acercar la inteligencia artificial a personas, comunidades y organizaciones que actualmente no disponen de infraestructura avanzada.

Una IA capaz de ejecutarse en dispositivos accesibles podría disminuir parte de la dependencia de los grandes proveedores tecnológicos. Escuelas, hospitales, pequeñas empresas e instituciones públicas tendrían la posibilidad de adaptar modelos a sus necesidades y conservar un mayor control sobre la información que procesan.

También podría contribuir a reducir la brecha de conectividad. En regiones donde el acceso a Internet es lento, costoso o intermitente, muchas de las aplicaciones actuales de IA resultan poco prácticas. Los modelos locales permitirían llevar estas capacidades a lugares donde la nube no está siempre disponible y procesar información sensible con menor dependencia de infraestructura externa.

Sin embargo, la democratización de la IA también exigirá responsabilidad. Será necesario evaluar la calidad de los modelos, evitar que sistemas limitados sean utilizados para tomar decisiones de alto impacto y garantizar que las personas sepan cuándo están interactuando con una inteligencia artificial. Después de todo, hacer que un modelo sea más pequeño no hace más pequeñas las consecuencias de utilizarlo incorrectamente.

Los SLM no reemplazarán a los grandes modelos de lenguaje, pero pueden llevar la inteligencia artificial a lugares donde estos resultan demasiado costosos, lentos o innecesarios. Su importancia no está en competir por saberlo todo, sino en ofrecer la capacidad suficiente para resolver una necesidad concreta, directamente en el lugar donde se necesita. La próxima gran expansión de la inteligencia artificial quizá no ocurra únicamente dentro de enormes centros de datos, sino también en los dispositivos que ya forman parte de nuestra vida cotidiana.

Enlaces de interés

Álvaro Peraza Garzón
Álvaro Peraza Garzón
Profesor del Instituto Tecnológico de Mazatlán - TecNM y de la Facultad de Informática Mazatlán - UAS. Colaborador Revista Geek Magazine https://www.geekmagazine.com/
RELATED ARTICLES

Most Popular

Recent Comments