LLM locales en 2026: guía práctica y segura
Ollama, LM Studio y llama.cpp: cómo elegir un modelo, probarlo en local y evitar errores de privacidad, red y licencias.
Jose · Desarrollo & IA
12 de junio de 2026
Ejecutar un modelo de lenguaje en el propio equipo es accesible con herramientas como Ollama, LM Studio o llama.cpp. La experiencia depende mucho del hardware, la cuantización, el tamaño del modelo y la longitud del contexto: no existe una configuración que funcione igual en cualquier ordenador.
«Local» tampoco es sinónimo automático de «privado». Hay que comprobar dónde se ejecuta realmente la inferencia, qué conexiones realiza la aplicación, qué extensiones se han instalado y a qué interfaz de red está vinculado el servidor.
Tres formas de empezar
Ollama simplifica la descarga y ejecución de modelos y ofrece una API local. Parte de sus endpoints son compatibles con el formato de OpenAI, pero una aplicación puede depender de funciones que no estén implementadas exactamente igual. Conviene comprobar la compatibilidad concreta antes de sustituir una API en producción.
LM Studio añade una interfaz gráfica para buscar, descargar y probar modelos, además de un servidor local. Su documentación indica que los chats, documentos y la inferencia pueden permanecer en el equipo; la búsqueda de modelos, las descargas y las actualizaciones sí necesitan comunicarse con servicios externos.
llama.cpp ofrece más control sobre formatos GGUF, cuantización y distintos backends de CPU y GPU. A cambio, requiere entender mejor el modelo, la plantilla de conversación y los parámetros de ejecución.
Descarga las herramientas desde su sitio o repositorio oficial y sigue el método de instalación que publiquen en ese momento. Evita copiar comandos que descargan y ejecutan scripts remotos sin leerlos ni verificar su procedencia.
Cómo elegir modelo
Empieza por el uso: conversación, código, embeddings, visión o una tarea especializada. Después comprueba:
- la licencia del modelo y si permite el uso comercial previsto;
- el formato y la compatibilidad con la herramienta;
- la memoria necesaria con la cuantización elegida;
- la longitud de contexto efectiva;
- y el idioma o dominio en el que se ha evaluado.
Un modelo más grande no siempre ofrece una experiencia mejor si obliga a descargar parte del cálculo a una CPU lenta. Una cuantización más agresiva reduce memoria, pero puede afectar a la calidad. La forma fiable de elegir es probar una muestra representativa de tareas propias y medir errores, velocidad y consumo.
Privacidad y seguridad de red
Mantén el servidor vinculado a 127.0.0.1 si solo se va a usar desde el mismo equipo. LM Studio advierte expresamente de que escuchar en 0.0.0.0 expone el servicio a la red y recomienda autenticación; activar CORS sin necesidad amplía también la superficie de ataque.
Un modelo local puede seguir enviando información fuera si la aplicación que lo llama usa búsquedas web, telemetría, herramientas remotas o servidores MCP. Revisa cada integración y no concedas acceso general al sistema de archivos o al terminal a un componente que no sea de confianza.
Los pesos de un modelo y sus dependencias forman parte de la cadena de suministro. Comprueba el publicador, conserva versiones conocidas y actualiza cuando existan avisos de seguridad. Si se procesan datos personales o confidenciales, documenta además quién tiene acceso, dónde se guardan historiales y cómo se eliminan.
Qué esperar del rendimiento
La memoria disponible suele ser el primer límite, pero no el único. Influyen el backend, el ancho de banda de memoria, el número de capas descargadas a la GPU, el tamaño del contexto y la velocidad de almacenamiento. Las cifras genéricas de tokens por segundo tienen poco valor si no indican equipo y configuración.
Los modelos locales pueden ser suficientes para clasificación, borradores, búsqueda semántica o asistencia de código acotada. Para razonamiento complejo, contextos enormes o cargas concurrentes, puede resultar más práctico un servicio remoto. Ambos enfoques se pueden combinar según el riesgo de los datos y las necesidades de cada tarea.
Una primera prueba sensata
Instala una sola herramienta desde su fuente oficial, elige un modelo pequeño con licencia clara y ejecútalo únicamente en localhost. Prueba después un conjunto breve de preguntas reales, revisa los registros de red y mide memoria, latencia y calidad. Solo entonces tiene sentido integrarlo con un editor o una aplicación.
La ventaja de ejecutar en local es el control. Ese control existe únicamente si se configuran de forma consciente el modelo, la red, los datos y las herramientas que lo rodean.