La IA offline, explicada para personas que no quieren convertirse en ingenieros

Una aplicación de chat con IA tiene dos partes: la ventana en la que escribes y el modelo que produce las respuestas. Con ChatGPT, Claude o Gemini, la ventana está en tu pantalla, pero el modelo se ejecuta en los servidores de la empresa. Con la IA offline, ambas partes están en tu computadora.

El modelo es un archivo grande: desde un par de gigabytes hasta más de sesenta, según qué tan grande sea el cerebro que elijas. La memoria de tu computadora lo mantiene activo mientras chateas, y el procesador de tu computadora hace el trabajo. Ningún servidor interviene para responder a tu pregunta.

Por eso la gente también la llama IA local, IA en el dispositivo o un LLM local (LLM significa modelo de lenguaje grande, el nombre técnico para el tipo de IA que escribe texto). Todos describen la misma idea.

Una advertencia sobre la frase en sí. Algunas aplicaciones que se dicen offline son en realidad aplicaciones en la nube con un modo sin conexión: te permiten leer conversaciones antiguas sin conexión, pero siguen necesitando internet para escribir algo nuevo. La prueba es simple: apaga tu Wi-Fi, haz una pregunta que nunca hayas hecho antes y mira si aparece una respuesta nueva.

Ayuda ver las opciones una al lado de la otra, porque el término "offline" suele usarse a la ligera en el marketing.

• IA en la nube: el modelo se ejecuta en los servidores de la empresa. Tu pregunta viaja por internet y la respuesta regresa. Nada se guarda en tu computadora, excepto la ventana de conversación.
• IA en la nube con vista offline: lo mismo, pero las conversaciones anteriores se pueden leer cuando no tienes señal. Las respuestas nuevas aún requieren internet.
• IA offline (local): el modelo es un archivo en tu computadora y se ejecuta en tu hardware. Una vez instalado, no se necesita conexión para escribir una respuesta.

Solo el tercer tipo sigue funcionando durante una tormenta, en un avión o en una casa donde el internet ha ido lento durante semanas. También es el único tipo donde tu pregunta nunca viaja a ninguna parte.

La IA offline existe desde hace algunos años, pero la mayor parte fue creada por desarrolladores para desarrolladores. El camino habitual suele ser así: instalar un motor independiente, abrir una ventana de terminal, escribir comandos, elegir un archivo de modelo de una lista de nombres crípticos como "Q4_K_M" y esperar que tu computadora tenga suficiente memoria.

Si algún paso sale mal, los mensajes de error están escritos para programadores. Ahí es donde la mayoría se rinde; no porque la idea sea mala, sino porque la configuración da por sentadas habilidades que nunca necesitaron.

Hay un segundo problema, más silencioso. Incluso un modelo que se ejecuta de forma local suele empezar cada conversación como un extraño. No sabe tu nombre, tu trabajo, tu familia ni de qué hablaron ayer. Para mucha gente, eso hace que la IA local se sienta más como una demo que como un asistente.

Si no tienes un perfil técnico, busca una aplicación que se encargue de estas cosas sin pedirte que las entiendas:

• Un instalador normal para Mac o Windows: sin terminal y sin tener que descargar un motor aparte.
• Revisa la memoria de tu computadora y solo te ofrece cerebros que realmente puedan ejecutarse. Las opciones que no quepan deben mostrarse claramente no disponibles, no como trampas ocultas que fallen más adelante.
• Nombres claros para los cerebros (por ejemplo, "Más rápido" o "Equilibrado"), con los detalles técnicos disponibles si los deseas.
• Una descarga que sobreviva a una caída de conexión y continúe justo donde se quedó.
• Una forma clara de apagar el internet para la aplicación y una manera de comprobar que realmente esté apagado.
• Memoria: tu IA debería poder saber cosas sobre ti y decirte cuáles de ellas usó para darte una respuesta.
• Una forma sencilla y completa de borrar todo si alguna vez lo deseas: la aplicación, los recuerdos, el cerebro y las claves guardadas.

Konshus Sovereign se creó pensando en esa lista. Lo instalas como cualquier otra aplicación, inicias sesión una sola vez y te guía para elegir el cerebro adecuado para tu computadora.

Todo el proceso se hace en una sola sesión, y la mayor parte de la espera es la descarga del cerebro en segundo plano. Aquí tienes el orden de los pasos, sin saltarte nada:

• Ponle nombre a tu Konshus en konshus.ai. Tu Konshus es tu IA personal con su propio nombre y memoria.
• Inicia sesión en tu Vault y elige Sovereign en el menú, luego selecciona la descarga para tu computadora Mac o Windows. (Mac es la plataforma principal; la compatibilidad con Windows es más reciente y se encuentra en fase temprana).
• Abre el instalador y sigue las instrucciones habituales, igual que instalarías cualquier otra aplicación.
• Vincula la aplicación a tu Vault una sola vez con el botón de enlace. Tus recuerdos se copian a la computadora; en una sola dirección, de la versión en línea a tu equipo.
• Elige un cerebro. Sovereign te muestra qué cerebros puede ejecutar tu computadora y deshabilita el resto en gris, para que no puedas elegir uno que haga que tu equipo vaya a paso de tortuga.
• Espera a que se descargue el cerebro. Si se corta la conexión, reintenta automáticamente y se reanuda donde se quedó.
• Di hola. Tu Konshus te saluda por tu nombre y ya sabe lo que hay en tu Vault.

Después de eso, puedes desactivar el acceso a internet de la aplicación y seguir chateando. No hace falta repetir nada de la configuración.

Con el cerebro en tu computadora, todo esto funciona sin conexión: hacer preguntas, redactar y reescribir textos, explicar ideas, resolver problemas paso a paso, hacer lluvia de ideas, practicar una conversación difícil y preguntar sobre cualquier cosa que ya se haya copiado en tu Vault en esa computadora.

Lo que no funciona offline es cualquier cosa que dependa de información reciente del mundo. Un cerebro local no sabe las noticias de hoy, el clima de hoy ni los precios actuales. Sabe lo que aprendió durante su entrenamiento más lo que está en tu Vault. Una buena IA offline debería decírtelo en lugar de adivinar.

Vale la pena repetir la versión honesta de esta idea: la IA offline no es un motor de búsqueda. Se parece más a una persona muy leída sentada a tu lado que no puede buscar nada en internet. Para la mayoría de las tareas de reflexión, redacción y explicación, eso es suficiente. Para cualquier cosa que dependa del momento actual, sigues necesitando una conexión... o una radio.

No necesariamente. El cerebro más pequeño de Sovereign necesita una computadora con 8 GB de memoria. Los cerebros más grandes necesitan más: 16 GB, 32 GB, 64 GB y 96 GB para el más grande. La mayoría de las laptops recientes tienen al menos 8 o 16 GB.

En una Mac también necesitas un equipo con Apple silicon: un chip M1 o más reciente. Las Mac con Intel anteriores a ese cambio no son compatibles. Para comprobarlo, abre el menú de Apple y elige Acerca de esta Mac.

Los cerebros más grandes pueden dar respuestas más completas, pero son más lentos y usan más espacio en disco. Un cerebro más pequeño que responde rápido suele ser más útil en el día a día que uno grande que va arrastrándose. Puedes cambiar más adelante sin perder tus conversaciones ni tu Vault; solo cambia el cerebro.

Sovereign hace esta comprobación por ti. Lee la memoria de tu computadora antes de ofrecerte cerebros, para que la decisión se tome a partir de tu equipo real y no de una tabla que tengas que interpretar.

La IA offline no cuenta tus preguntas ni mide tu consumo: funciona con tu electricidad y tu hardware. Lo que sí requiere es espacio en tu computadora y algo de tiempo al inicio.

Los cerebros van desde unos 2.5 GB hasta unos 63 GB de descarga. La mayoría de la gente elige uno de entre 2.5 y 19 GB, lo cual, en una conexión doméstica normal, es una descarga que inicias y te olvidas. Deja espacio de sobra: un cerebro más su espacio de trabajo necesita más que solo el tamaño del archivo.

El otro costo es la atención durante la configuración. Eliges un cerebro, esperas una sola descarga y guardas tu Recovery Key en un lugar seguro. Después de eso, se comporta como cualquier otra aplicación que dejas instalada.

Nada en este artículo te pide que confíes en una promesa que no puedas comprobar. Cada afirmación de privacidad que verás a continuación es algo que puedes verificar por tu cuenta en tu propia computadora.

La prueba más sencilla: apaga tu Wi-Fi, haz una pregunta que nunca hayas hecho y mira cómo aparece la respuesta. Sovereign también tiene un interruptor de Network que bloquea el acceso de la aplicación a internet, y una etiqueta de estado que te indica que el chat se ejecuta offline.

Si quieres mirar más de cerca, Sovereign enumera cada conexión que intenta hacer, con la dirección y el motivo en lenguaje sencillo, y puedes bloquearlas todas con ese único interruptor. Y si te sientes cómodo usando las herramientas de tu propia computadora, Activity Monitor en Mac o Resource Monitor en Windows te mostrarán lo que hace la aplicación mientras chateas.

• "Tu computadora no puede ejecutar este cerebro": elegiste un modelo más grande de lo que permite tu memoria. Elige uno más pequeño; no es una falla de tu computadora.
• Una descarga que se detiene: se cayó la conexión, no la aplicación. Sovereign reintenta y se reanuda por su cuenta; también puedes reiniciarla desde donde se quedó.
• Las respuestas tardan en llegar: suele ser señal de que el cerebro es demasiado grande para el equipo o de que tu computadora está ocupada con otra cosa. La solución es cambiar a un cerebro más pequeño.
• Una respuesta que suena convincente pero es incorrecta: así es como fallan estos modelos en todas partes, sean locales o no. Pídele que muestre sus fuentes y verifica cualquier dato importante.

Si algo se comporta de una forma que no te puedes explicar, anota qué hiciste y qué viste, y luego envíalo a hello@konshus.ai. Un reporte claro vale más que intentar adivinar la solución.

Úsala si te identificas con algo de esto: quieres una IA que siga funcionando sin conexión; prefieres que ciertas preguntas nunca salgan de tu computadora; te gusta la idea de ser dueño de la memoria de tu asistente en lugar de alquilársela a una empresa; o quieres una segunda IA que ya conozca tu vida y no empiece desde cero.

No la uses si necesitas noticias de actualidad, precios o el clima en cada respuesta, o si tu computadora es tan vieja que le cuesta el trabajo diario. La IA offline es una herramienta real, no una caja mágica.

La solución más práctica para la mayoría es tener ambas: una IA en la nube para lo que necesite internet en tiempo real y una local para todo lo privado, personal o fuera de la red. Con Konshus, ambas se alimentan del mismo Vault, así que tu IA te conoce de cualquier manera.