IA local en tu Mac: Ollama, LM Studio y lo que pueden hacer realmente los modelos 7B

En 2023, ejecutar IA de forma local era una curiosidad. En 2026 constituye una opción real para varias categorías de trabajo. Un Mac moderno con Apple Silicon o un PC con una GPU reciente puede ejecutar modelos capaces sin conexión, sin coste y de forma privada. La configuración requiere 15 minutos.

Este artículo ofrece una guía práctica sobre la IA local en 2026: qué puedes hacer, qué no, qué herramientas utilizar y qué casos de uso se benefician realmente. Omitiremos el análisis exhaustivo del hardware para centrarnos en la práctica.

Qué significa «IA local» en 2026

Significa ejecutar un modelo de IA en tu propio equipo en lugar de llamar a una API en la nube. El modelo reside como un archivo en el disco (normalmente de 4-50 GB). Cuando lo consultas, el cálculo se realiza en la CPU, la GPU o el Neural Engine de Apple. No requiere conexión a internet y ningún tercero ve los datos.

Los modelos que puedes ejecutar localmente cubren un amplio rango:

• Modelos pequeños (1-4B parámetros): Phi-3.5/Phi-4 mini, Gemma 3 small, Qwen 3 small. Son rápidos, funcionan en portátiles con 8-16 GB de RAM y pueden resumir, redactar textos sencillos, clasificar y responder preguntas básicas.
• Modelos medianos (7-14B parámetros): Llama 3.1 8B, Qwen 3 14B, Mistral 7B. Ofrecen un buen rendimiento general y funcionan con comodidad en la mayoría de los Mac modernos con 16-32 GB de RAM. Pueden manejar razonamiento, código y prompts complejos.
• Modelos grandes (30-70B+): Llama 3.3 70B, Qwen 3 32B/72B, DeepSeek V3 (destilado), GPT-OSS. Requieren hardware potente (32-128 GB de RAM y, a menudo, una GPU dedicada). En muchas tareas se acercan a la calidad de los modelos de vanguardia en la nube.

Para la mayoría de los usuarios en 2026, el punto óptimo es un modelo 7B-14B en un Mac M2 / M3 / M4 con 16-32 GB de memoria unificada: suficientemente rápido y capaz para resultar útil.

Lo que es posible (y lo que no)

Una comparación franca entre modelos locales y modelos de vanguardia en la nube:

Los modelos locales son excelentes en:

• Redacción y reescritura (escritura, correos, resúmenes).
• Clasificación y extracción (categorización, etiquetado, análisis).
• Sugerencias de código para patrones comunes.
• Capacidades multilingües básicas (traducción y preguntas y respuestas sencillas en varios idiomas).
• Preguntas y respuestas sensibles a la privacidad (cualquier cosa que no quieras que vea una tercera parte).
• Uso como subcomponente de una canalización (un modelo pequeño realiza la clasificación y deriva a otro mayor cuando es necesario).

Los modelos locales son más débiles en:

• Razonamiento profundo (varios pasos y lógica compleja).
• Contexto muy largo (32K+ tokens — aunque algunos modelos locales manejan esto ahora).
• Conocimiento especializado en áreas nicho.
• Uso de herramientas y flujos de trabajo con agentes (están mejorando, pero todavía son menos fiables que los modelos de vanguardia).
• Información actualizada (se aplican fechas de corte de los datos de entrenamiento y no hay búsqueda en tiempo real de forma predeterminada).

Los modelos de vanguardia —GPT-5, Claude Opus 4.5 y Gemini 2.5 Pro— siguen siendo considerablemente mejores en razonamiento difícil, redacción matizada y tareas con agentes. Sin embargo, la diferencia en las tareas habituales se ha reducido mucho. Para redactar, clasificar y realizar análisis básicos, un modelo 7B en un portátil produce resultados con un 80-90% de la calidad de los modelos de vanguardia, en 200-500ms y sin coste.

Las herramientas

Para usuarios de Mac, dos opciones principales. Ambas funcionan; elige una.

Ollama

Está orientado en primer lugar a la línea de comandos. Ejecuta brew install ollama (o descárgalo desde ollama.com). Para iniciar un modelo:

ollama pull llama3.1:8b
ollama run llama3.1:8b

Obtendrás un prompt de chat. También ofrece una API REST en localhost:11434 que pueden utilizar otras herramientas. La mayoría de las herramientas de IA de código abierto admiten Ollama como proveedor sin configuración especial; entre ellas, n8n, LangChain, LiteLLM y OpenRouter.

Ollama es la opción correcta si quieres:

• Ejecutar modelos de forma programática (scripts, n8n, código personalizado).
• Usar el modelo en flujos de trabajo más allá del chat.
• Disponer de una interfaz limpia y automatizable mediante scripts.

LM Studio

Una aplicación de escritorio pulida y orientada a la interfaz gráfica. Descárgala, ábrela, explora los modelos, haz clic en “load” y empieza a conversar.

LM Studio es la opción correcta si quieres:

• Una interfaz gráfica para chat.
• Navegación y descarga fácil de modelos desde Hugging Face.
• Controles de rendimiento integrados (tamaño del contexto, cuantización y descarga parcial a la GPU).
• Un servidor local compatible con OpenAI que puedes usar en tus aplicaciones.

Ambas herramientas pueden ejecutar los mismos modelos subyacentes. Puedes instalar ambas y usar cada una para lo que hace mejor. La mayoría de los usuarios avanzados tienen ambas.

Una configuración práctica inicial

Sigue estos pasos con Ollama:

Paso 1: Instalar.

brew install ollama

(O bien descárgalo desde ollama.com.)

Paso 2: Elegir un modelo.

Para un Mac con 16 GB de RAM, empieza con llama3.1:8b o qwen3:8b. Ambos son modelos generales capaces dentro de este tamaño. (Nota: Llama 3.3 solo se distribuye como modelo 70B, demasiado grande para un Mac con 16 GB.)

ollama pull llama3.1:8b

La descarga ocupa varios GB y tarda unos minutos.

Paso 3: Probarlo.

ollama run llama3.1:8b

Ahora estás en un prompt interactivo. Formula algunas preguntas y observa la velocidad: medimos llama3.1:8b a ~73 tokens/sec en un Mac con M4 Max (48 GB de RAM) mediante Ollama. El rendimiento será algo menor en un M1/M2 o con menos de 16 GB de RAM.

Paso 4: Usarlo desde otras herramientas.

Ollama ejecuta un servidor local en el puerto 11434. La mayoría de las herramientas que se integran con la API de OpenAI pueden apuntar a Ollama configurando la URL base. Por ejemplo, en n8n:

• Configura la credencial «AI» para utilizar un endpoint personalizado.
• URL base: http://localhost:11434/v1
• Clave API: cualquier cosa (Ollama no la verifica).
• Nombre del modelo: llama3.1:8b

Ahora tus flujos de trabajo en n8n usan el modelo local de forma gratuita.

Paso 5: Prueba un modelo más potente si tienes margen.

Si tu Mac tiene 32+ GB de RAM:

ollama pull qwen3:14b

Un modelo 14B es considerablemente más capaz, pero reduce la velocidad: en el mismo M4 Max medimos qwen3:14b a ~39 tokens/sec, frente a ~68 tokens/sec con qwen3:8b. Prueba ambos en paralelo para valorar conjuntamente la mejora de calidad y la pérdida de velocidad.

Casos de uso que realmente se benefician de la IA local

Algunas categorías donde la IA local es significativamente mejor que la nube:

1. Transcripción y análisis de contenido sensible desde el punto de vista de la privacidad.

Notas de voz personales, grabaciones de entrevistas, reuniones sensibles o notas de terapia: cualquier material que no quieras almacenar en servidores de terceros. Utiliza Whisper de forma local —mediante MacWhisper o un script de Python— y procesa después la transcripción con un LLM local.

2. Procesamiento por lotes de gran volumen.

Si procesas 10,000 documentos —clasificar tickets, extraer información de PDF o etiquetar fotografías—, el coste de las llamadas a la API en la nube se acumula. Un modelo local procesa 10,000 documentos sin coste, aunque más despacio. Las ejecuciones nocturnas pasan a ser viables.

3. Trabajo sin conexión.

Puedes trabajar durante un viaje sin conexión fiable, en lugares remotos o cuando la red no está disponible. La IA local no depende de ella.

4. Herramientas que necesitan privacidad por defecto.

Si creas una herramienta para otras personas —una aplicación de notas o diario, o un asistente de investigación—, enviar los datos a un proveedor de IA introduce implicaciones de privacidad que quizá no acepten. Los modelos locales mantienen todo en el equipo del usuario.

5. Acelerar tareas específicas y acotadas.

Un modelo local pequeño dedicado a una sola tarea —por ejemplo, clasificar correos o extraer datos estructurados de un formato concreto— puede ser más rápido que una llamada de ida y vuelta a una API en la nube, especialmente en aplicaciones sensibles a la latencia.

6. Sistemas de producción con costes limitados.

Si la aplicación de IA crece hasta muchos usuarios, los costes en la nube aumentan de forma lineal. La inferencia local en infraestructura propia suaviza considerablemente esa curva. (A gran escala pasa a estar «alojada en un servidor con GPU» en lugar de «ejecutarse localmente en un portátil», pero el principio es el mismo.)

El cálculo de costes y beneficios

Una comparación rápida para un caso de uso típico — procesar 1000 documentos.

Para 1000 documentos, la nube gana en velocidad. Para 100,000 documentos, la opción local gana en coste y el tiempo adicional importa menos si el proceso se ejecuta durante la noche.

Para tareas de alta frecuencia y baja importancia, el local suele tener sentido. Para tareas de baja frecuencia y alta importancia, la calidad de la nube suele ganar.

Patrones que funcionan bien

Unos pocos patrones donde la IA local brilla:

Patrón 1: Clasificador local, respuestas en la nube

Un modelo local pequeño clasifica y dirige; un modelo de vanguardia en la nube se ocupa de las respuestas importantes.

Para clasificar correos, un modelo local 3B categoriza los mensajes entrantes (urgente / rutinario / spam) e identifica cuáles necesitan atención humana. Los pocos que requieren una respuesta real se envían al modelo de vanguardia en la nube. El coste se mantiene bajo y la calidad, alta en las tareas importantes.

Patrón 2: Asistente personal centrado en la privacidad

Ejecuta un modelo local con acceso a tus documentos privados, diario, calendario, etc. Nada sale de tu máquina. El modelo es un verdadero asistente personal en términos de privacidad.

Esto es lo que Apple intenta ofrecer de forma nativa con sus Foundation Models. Con herramientas locales —Ollama y algunos servidores MCP— puedes crear una versión más completa.

Patrón 3: Ingestión de RAG de alto volumen

En una canalización RAG que debe resumir miles de documentos o crear sus embeddings, realizar primero estas tareas en la nube resulta costoso. Utiliza un modelo local durante la ingesta —resúmenes de fragmentos, extracción de metadatos y embeddings— y reserva la nube para las consultas.

Patrón 4: Modelos especializados con ajuste fino

Para una tarea especializada —extraer determinados datos de un formato propio o clasificar con una taxonomía concreta—, el ajuste fino de un modelo local pequeño puede superar a modelos generales en la nube. El proceso requiere medio día con herramientas como Unsloth o MLX-LM. El modelo resultante es rápido, no tiene costes de uso y puede rendir muy bien en esa tarea.

Patrón 5: Entornos aislados

Algunos entornos de trabajo —defensa, finanzas reguladas y determinados contextos sanitarios— prohíben enviar datos a servicios de IA en la nube. La IA local es entonces la única opción. Puede utilizarse la misma configuración de Ollama.

Lo que mejora rápidamente

Estas son algunas áreas en las que la IA local cambia mes a mes en 2026:

Decodificación especulativa y caché. La velocidad de inferencia continúa mejorando. Modelos locales que hace un año funcionaban a 20 tokens/sec ahora alcanzan 60-100 tokens/sec en el mismo hardware.

Calidad de la cuantización. Las variantes comprimidas (4-bit, 5-bit) ofrecen ahora una calidad cercana a los modelos originales de precisión completa. Puedes ejecutar modelos mayores y más capaces con la misma cantidad de RAM.

Contexto largo. Los modelos locales con contextos de 128K —y cada vez mayores— son ya habituales. La limitación de que «los modelos locales no pueden manejar documentos largos» ha desaparecido en gran medida.

Uso de herramientas. La llamada a funciones y el uso de herramientas en modelos locales han mejorado lo suficiente para resultar útiles. Los flujos de trabajo locales con agentes son cada vez más viables.

Multimodalidad. Los modelos visuales locales (LLaVA, MiniCPM, Qwen-VL) procesan bien las imágenes. La comprensión del audio también mejora.

La diferencia entre los modelos locales y los de la nube se reduce. En algunos casos de uso prácticamente ha desaparecido. Los modelos de vanguardia en la nube siguen liderando en el trabajo más exigente, pero cabe esperar que la distancia continúe disminuyendo.

Errores habituales

Esperar la calidad de los modelos de vanguardia en la nube. Un modelo local 7B no es GPT-5. Es otra herramienta: utilízala para aquello que hace bien y no le pidas tareas que requieren un modelo de vanguardia.

Agotar la memoria. Cargar un modelo demasiado grande puede cerrar la aplicación o provocar una ralentización extrema. Adapta el tamaño del modelo a la RAM disponible.

Contexto lento. Los modelos locales pierden mucha velocidad a medida que se llena el contexto. Mantén los prompts en un tamaño razonable; aunque admitan ventanas de contexto largas, utilizarlas resulta costoso.

Olvidar las actualizaciones. Cada mes aparecen modelos nuevos. El «mejor modelo 8B» de hace seis meses probablemente ya no lo sea. Descarga versiones nuevas de forma periódica.

Tratar el equipo local como si fuera la nube. No intentes ejecutar 10,000 solicitudes locales en paralelo. Un portátil no está preparado para ello. La IA local es adecuada para trabajo secuencial o con un paralelismo moderado, no para una concurrencia elevada.

Notas sobre hardware

Una rápida revisión de la realidad sobre qué puedes ejecutar en qué:

Para PC, una GPU Nvidia con 12-24 GB de VRAM es el punto óptimo para obtener una capacidad similar a la de un Mac con una cantidad comparable de memoria unificada.

Algunos hábitos recomendables

Instala Ollama y LM Studio. Utiliza Ollama para scripts y LM Studio para explorar mediante una interfaz de chat.

Prueba los modelos 7-14B más recientes cada pocos meses. El progreso en esta categoría de tamaño es sorprendente. El mejor modelo actual suele ser considerablemente mejor que el de hace tres meses.

Crea una canalización que combine modelos locales y en la nube. Utiliza los locales para tareas rápidas, económicas y privadas; reserva la nube para las difíciles, importantes o que requieren capacidades de vanguardia.

Realiza pruebas comparativas con tu propio trabajo. No confíes únicamente en benchmarks generales. Ejecuta tu caso de uso real con tres modelos locales y elige el que mejor funcione para ti.

Nube para lo difícil, local para el resto

En 2026, la IA local es una herramienta real, no una curiosidad para entusiastas. Cambia considerablemente la ecuación en el trabajo sensible desde el punto de vista de la privacidad, el procesamiento por lotes de gran volumen, el uso sin conexión y los sistemas de producción con costes limitados.

Instala Ollama o LM Studio, descarga un modelo de 7-14B y úsalo durante una semana en tareas reales. Eso es suficiente para aprender qué categorías maneja bien la IA local y cuáles aún pertenecen a la nube.

El futuro de la IA es heterogéneo: modelos de vanguardia en la nube para las tareas difíciles y modelos locales capaces para las rutinarias, con enrutamiento inteligente entre ambos. Configurar un entorno local es el primer paso hacia ese futuro.