IA local con Ollama: privacidad, límites y una primera automatización útil

La mayoría de los asistentes de inteligencia artificial funcionan en servidores remotos. Es cómodo: abres una página, escribes una petición y recibes una respuesta sin preocuparte por instalar modelos. Sin embargo, algunos trabajos se benefician de otra opción: ejecutar la IA en tu propio ordenador.

La IA local puede resultar útil para experimentar sin coste por consulta, trabajar cuando no hay conexión y mantener ciertos documentos dentro del equipo. También obliga a aceptar límites reales: el rendimiento depende del hardware, los modelos ocupan espacio y una respuesta local no se vuelve correcta por el simple hecho de haberse generado en privado.

Ollama simplifica la descarga, ejecución e integración de modelos en macOS, Windows y Linux. No convierte cualquier portátil en un centro de datos, pero ofrece una entrada práctica para probar qué tareas encajan en local.

Qué hace Ollama

La guía de inicio oficial de Ollama permite descargar un modelo y mantener una conversación desde la aplicación o el terminal. Además, Ollama expone una API local para que otros programas envíen peticiones al modelo.

Después de la instalación, la API se sirve normalmente en http://localhost:11434/api. La dirección localhost apunta al propio ordenador. Una aplicación puede enviar texto al modelo y recibir una respuesta sin depender de una interfaz web externa.

El flujo básico tiene tres piezas:

1. Ollama administra y ejecuta el modelo;

2. una interfaz o script envía instrucciones;

3. el modelo genera una respuesta usando los recursos del equipo.

Ollama no es el modelo. Es la capa que facilita descargarlo, iniciarlo y utilizarlo. El comportamiento, el tamaño y las capacidades dependen del modelo elegido.

Qué privacidad ofrece realmente

Si utilizas un modelo descargado y una API local, el contenido puede procesarse dentro del ordenador. Esto reduce la necesidad de enviar cada documento a un proveedor remoto. Es valioso para borradores internos, notas personales o prototipos con datos que no quieres copiar a servicios externos.

Pero «local» no significa automáticamente «aislado». Revisa cuatro elementos:

• de dónde procede el modelo y qué licencia tiene;

• qué aplicación está conectada a Ollama;

• si esa aplicación utiliza búsquedas, telemetría o servicios externos;

• si la API está expuesta a otros equipos de la red.

Un modelo local también puede memorizar temporalmente contenido en la conversación, escribir registros o producir archivos mediante otra herramienta. Protege el ordenador, cifra el disco cuando corresponda y limita los permisos de las integraciones. No abras la API a Internet sin autenticación y controles adicionales.

La privacidad depende del flujo completo, no solo del lugar donde se ejecutan los cálculos.

Antes de descargar: revisa el hardware

Los modelos se distribuyen en tamaños diferentes. En general, un modelo mayor necesita más memoria y almacenamiento, y suele responder con más lentitud. Una cuantización reduce el tamaño y el consumo a cambio de cierta precisión.

No elijas el modelo por popularidad. Empieza con uno pequeño que pueda ejecutarse con soltura en tu equipo. Observa:

• memoria disponible mientras está cargado;

• uso de CPU o GPU;

• velocidad de generación;

• tamaño en disco;

• calidad en tu tarea concreta.

La orden ollama ls muestra los modelos instalados y ollama ps permite consultar cuáles están en ejecución. La referencia oficial de la línea de comandos incluye también las órdenes para descargar, detener y eliminar modelos.

Si el sistema se vuelve lento, reduce el tamaño del modelo o el contexto antes de pensar en comprar hardware. Una tarea de clasificación breve puede necesitar muchos menos recursos que resumir un documento extenso.

Primera prueba interactiva

Tras instalar Ollama, abre el menú interactivo con:

ollama

También puedes descargar y ejecutar directamente un modelo admitido con una orden como:

ollama run gemma3

Los nombres disponibles cambian con el catálogo, así que conviene consultar la biblioteca actual y leer la ficha del modelo antes de usarlo. Empieza con datos ficticios. Haz varias preguntas conocidas y prueba también peticiones que deberían producir un «no lo sé».

Evalúa el resultado con criterios concretos: fidelidad al texto, formato, tiempo y errores. Una impresión general de que «responde bien» no basta para automatizar un proceso.

Conectar una aplicación mediante la API

La introducción oficial de la API muestra una petición local con curl. Un ejemplo mínimo de conversación es:

curl http://localhost:11434/api/chat -d '{
  "model": "gemma3",
  "messages": [
    {"role": "user", "content": "Resume esta nota en tres puntos"}
  ],
  "stream": false
}'

El nombre del modelo debe coincidir con uno instalado. Para una automatización real, el texto puede llegar desde un archivo, un formulario o una carpeta vigilada por otro programa.

Mantén la integración pequeña al principio. Un script que lee un archivo y escribe un borrador es más fácil de revisar que un agente con acceso completo al sistema.

Una automatización útil: clasificar notas

Un buen primer proyecto es clasificar notas de texto sin modificarlas. Imagina una carpeta de entrada con ideas, incidencias y tareas. El flujo puede ser:

1. detectar un archivo nuevo;

2. leer su contenido;

3. pedir al modelo una categoría, un resumen y una prioridad;

4. validar la estructura de la respuesta;

5. guardar el resultado en otra carpeta;

6. conservar siempre el original.

Ollama admite salidas estructuradas mediante un esquema JSON. Esto permite solicitar campos definidos en lugar de depender de párrafos difíciles de procesar. Un esquema sencillo podría exigir categoria, resumen y prioridad.

La estructura mejora la integración, pero no garantiza que la clasificación sea correcta. Valida que la categoría pertenezca a una lista permitida, limita la longitud del resumen y envía a revisión humana los casos dudosos.

Cuándo usar embeddings

Los embeddings convierten textos en vectores numéricos para buscar contenido relacionado. La documentación oficial de embeddings describe su uso en búsqueda semántica y sistemas RAG.

Por ejemplo, puedes indexar notas locales y recuperar las más parecidas a una pregunta antes de pedir una respuesta. Usa el mismo modelo de embeddings para indexar y consultar. No empieces por aquí si solo necesitas resumir un archivo: añade búsqueda semántica cuando exista un problema claro que resolver.

Los límites que no debes ignorar

Un modelo local puede inventar datos, omitir detalles y seguir instrucciones incluidas dentro de un documento. Si le concedes herramientas, esos errores pueden convertirse en acciones.

Por eso conviene separar niveles:

• lectura: resumir o clasificar sin cambiar nada;

• propuesta: preparar un borrador para revisión;

• acción: modificar archivos o llamar a servicios solo tras confirmación.

Ollama admite llamadas a herramientas en modelos compatibles, pero la documentación de soporte de herramientas deja claro que la aplicación debe proporcionar las funciones disponibles. No entregues al modelo una función de borrado si el flujo solo necesita consultar archivos.

También debes controlar el contexto. Un documento demasiado largo puede truncarse o consumir muchos recursos. Divide el material, registra qué fragmentos se procesaron y conserva una referencia al origen.

Lista de comprobación antes de automatizar

Antes de dejar un flujo funcionando solo, confirma lo siguiente:

• el modelo y su versión están identificados;

• los datos de prueba no contienen información sensible real;

• la API solo es accesible desde los equipos necesarios;

• la salida se valida antes de utilizarse;

• los originales nunca se sobrescriben;

• existen registros de entrada, modelo y resultado;

• una persona aprueba cualquier acción irreversible;

• puedes desactivar el proceso rápidamente.

Mide también la utilidad. Si revisar los errores lleva más tiempo que hacer la tarea manualmente, todavía no tienes una automatización productiva.

Local no significa aislado, y pequeño no significa inútil

La IA local no reemplaza todos los servicios en la nube. Los modelos grandes remotos pueden ofrecer mejor rendimiento y requieren menos mantenimiento. El valor de ejecutar localmente aparece cuando importan la privacidad, el control, la disponibilidad sin conexión o el coste predecible.

Empieza con un modelo pequeño y una tarea verificable. Utiliza la API local, exige una salida estructurada y conserva el original. Cuando el flujo sea estable, añade búsqueda, herramientas o una interfaz.

La pregunta decisiva no es «¿puedo ejecutar este modelo?», sino «¿resuelve esta tarea con suficiente calidad, velocidad y control?». Si la respuesta se apoya en pruebas repetibles, la IA local deja de ser una demostración técnica y se convierte en una herramienta realmente útil.