Respuesta corta: un LLM es un modelo gigante de propósito general, entrenado para hacer de todo; un SLM es un modelo chico, entrenado para hacer bien una sola cosa. Para la mayoría de las tareas puntuales de una PyME o un organismo (clasificar, responder consultas frecuentes, revisar formularios), el modelo chico a medida sale más barato, responde más rápido y es más fácil de controlar. Pagar por un modelo gigante para resolver una tarea acotada es como alquilar un camión para repartir una pizza.
La idea ancla: el modelo más grande no es el mejor; el mejor es el más chico que resuelve bien tu tarea.
Qué es un LLM y qué es un SLM
LLM son las siglas de modelo de lenguaje grande, la familia de los asistentes que ya conocés: responden sobre cualquier tema porque los entrenaron con prácticamente todo. Esa amplitud es su gracia y su costo. Cada respuesta pasa por un modelo enorme, y ese tamaño se paga en procesamiento.
SLM son las siglas de modelo de lenguaje pequeño. Es un modelo mucho más liviano que podés personalizar con tus propios datos para que domine un dominio específico. No sabe de todo, pero lo que sabe lo sabe bien, y lo resuelve con una fracción del cómputo.
| Aspecto | LLM (grande, general) | SLM (chico, a medida) |
|---|---|---|
| Para qué sirve | Casi cualquier tarea | Una tarea puntual, bien hecha |
| Costo por consulta | Alto: mucho procesamiento | Bajo: liviano de correr |
| Velocidad de respuesta | Más lento | Más rápido |
| Dónde puede correr | Suele necesitar nube potente | Puede correr en hardware propio |
| Control sobre los datos | Menor si va a nube externa | Mayor: lo tenés en tu infraestructura |
El costo que nadie calcula: la inferencia
Cada vez que el modelo responde una consulta, hace un cálculo. A ese cálculo se lo llama inferencia, y es el gasto que casi nadie mira al arrancar. No se paga una vez; se paga en cada consulta, todos los días, para siempre.
Hacé la cuenta con un ejemplo real. Una obra social pone un asistente para responder las preguntas de siempre: cómo pido un reintegro, qué cubre mi plan, dónde queda el prestador más cercano. Si cada una de esas respuestas pasa por un modelo gigante de propósito general, multiplicá el costo de una consulta por decenas de miles de consultas al mes. La factura de procesamiento crece sola y nadie la planificó.
El mismo asistente, montado sobre un SLM entrenado con el reglamento y la cartilla de esa obra social, responde lo mismo gastando una fracción. Y encima responde mejor, porque conoce el dominio exacto en vez de improvisar con conocimiento general. La paradoja del costo de la IA se resuelve en buena parte acá: eligiendo el tamaño correcto.
Cuándo conviene cada uno
No es que el SLM gane siempre. La regla es por tarea:
- Tarea acotada y repetitiva (clasificar reclamos, responder un set conocido de preguntas, revisar que un formulario esté completo): SLM a medida. Más barato, más rápido, más controlable.
- Tarea abierta y variada (redactar textos distintos cada vez, razonar sobre temas que cambian, explorar un problema nuevo): ahí un modelo grande todavía aporta.
- Datos sensibles que no pueden salir (historias clínicas, datos fiscales, legajos): un SLM que corre en tu propia infraestructura resuelve el problema de raíz, porque el dato no se mueve.
Un patrón que funciona bien: el SLM resuelve el 90% del volumen, barato y rápido, y solo escala a un modelo grande el puñado de casos raros que lo justifican. Pagás lo caro solo cuando hace falta.
Técnicas para bajar el costo aún más
Elegir un SLM es el primer paso; después hay trucos de implementación que recortan más:
- Caché de respuestas. Las preguntas frecuentes se responden siempre igual. Guardar esa respuesta y reusarla evita recalcular lo mismo mil veces. "¿Cómo pido mi reintegro?" no necesita pasar por el modelo cada vez.
- Ajuste con tus datos. Entrenar el modelo chico con tus documentos (reglamentos, manuales, historial) lo hace más preciso sin necesidad de un modelo más grande.
- Correr en hardware propio. Un SLM liviano puede correr en servidores que ya tenés, sin pagar por hora de nube externa ni por tarifas de transferencia de datos.
Bootable implementa estas tres cosas sobre bases abiertas, sin atarte a un proveedor. El criterio es el mismo que vale para no casarte con un proveedor de IA: que el día de mañana puedas cambiar de modelo o de hardware sin rehacer todo. El mapa de la serie conecta este tema con el resto del recorrido.
Preguntas frecuentes
¿Un modelo chico no es peor que uno grande?
Para su tarea, no. Un SLM entrenado con tus datos suele ganarle a un modelo gigante genérico en precisión sobre tu dominio, porque conoce tu reglamento, tu vocabulario y tus casos. Es peor para lo que no fue entrenado, y eso es justamente lo que no le vas a pedir.
¿Necesito un equipo de científicos de datos para armar un SLM?
No para empezar. Hoy hay flujos de trabajo abiertos que permiten ajustar un modelo chico con tus documentos sin flotas de hardware ni herramientas propietarias caras. La implementación se puede acompañar; la decisión de qué tarea resolver es tuya.
¿Cómo sé cuánto voy a gastar en procesamiento?
Midiéndolo en el piloto, antes de escalar. Se expone el costo por consulta y se multiplica por el volumen esperado. Si no medís eso en la prueba, la factura real te la vas a enterar tarde.
¿Puedo mezclar un SLM con un modelo grande?
Sí, y suele ser lo más rentable. El SLM se lleva el volumen barato y el modelo grande entra solo en los casos que lo ameritan. Así pagás lo caro de forma excepcional, no por defecto.
En resumen
El tamaño del modelo no es una medida de calidad, es una medida de costo. Para las tareas acotadas y repetitivas que más valor dan en una PyME o un organismo (clasificar, responder, revisar), un SLM chico entrenado a medida sale más barato, responde más rápido, se controla mejor y permite que los datos sensibles no se muevan. La clave está en elegir el modelo más chico que resuelve bien el trabajo, medir el costo de procesamiento desde el piloto y sumar caché y ajuste para recortar todavía más.
Acción para esta semana: listá las tres consultas que más se repiten en tu empresa u organismo y estimá cuántas veces por mes ocurren; con ese número, el PDF que acompaña este artículo te ayuda a calcular si un SLM a medida conviene.
4 páginas · el material ampliado, en PDF. Gratis, por dejar tu email.
