Modelos abiertos y uso en local

En una frase: un modelo de pesos abiertos se descarga y se usa en casa.

No es lo mismo que código abierto. La ventaja es el control: un modelo descargado puede funcionar sin conexión.

Su privacidad depende de todo el recorrido: programas, herramientas y servicios en la nube. El coste incluye equipo y mantenimiento. La capacidad varía según el modelo y la tarea.

Cómo se ve

Un recuadro, tu equipo, con el modelo descargado y tus datos dentro; internet queda fuera si no conectas nada más

Qué pasa, paso a paso

  • Los pesos son los números que el modelo aprende al entrenarse. Tenerlos facilita ejecutar o ajustar el modelo, si la licencia lo permite.
  • Los pesos solos no traen el código ni los datos para repetir el entrenamiento.
  • Código abierto exige más. Según la OSI, hacen falta tres cosas. Son los pesos, el código completo y los datos de entrenamiento descritos con detalle.
  • Esa definición no obliga a publicar los datos. Obliga a describir su origen, su tratamiento y dónde conseguirlos.
  • Por eso los laboratorios hablan de «pesos abiertos». OpenAI presenta así su modelo gpt-oss, con una licencia que permite el uso comercial.
  • Cada laboratorio usa su licencia. Algunas son propias o no comerciales. El detalle está en Laboratorios y familias de modelos.

Uso en local

  • Hay programas para ejecutar modelos en tu equipo, como Ollama y LM Studio. Funcionan en Mac, Windows y Linux.
  • Ollama es una herramienta de terminal que descarga el modelo y abre un chat. LM Studio es una app con ventanas.
  • Una vez descargado el modelo, el chat de LM Studio puede funcionar sin conexión.
  • Si conectas herramientas o servicios externos, cambia por dónde viajan tus datos. Revisa dónde se procesa cada dato.
  • Ollama también ofrece modelos en la nube. Esos no se ejecutan en tu equipo.
  • La cuantización guarda los pesos con menos bits. Así hace falta menos memoria, aunque sigue haciendo falta algo más para trabajar.
  • OpenAI indica que su gpt-oss pequeño puede ejecutarse en un equipo con poca memoria. Usa un formato optimizado. Los medianos piden mucha memoria, incluso cuantizados.
  • Instalar estos programas es cosa de un adulto, o de alguien que sepa de ordenadores.

Un ejemplo de la vida real

Imagina un trabajo del cole con apuntes que no quieres subir a internet. En un servicio en la nube, tus textos viajan a otro sitio. Con un modelo en local y sin conexión, el chat ocurre en tu equipo. Es como hacer los deberes en tu escritorio y no en casa de un desconocido. Eso sí, si le conectas servicios externos, ese recorrido cambia. Y puede ser menos capaz que los mejores modelos cerrados.

Ventajas e inconvenientes

  • Privacidad: el chat local puede usarse sin conexión. Si conectas servicios externos, revisa dónde se procesa cada dato. Mira Privacidad de los datos en IA.
  • Control: puedes ajustar el modelo y quedarte con la versión que te funciona.
  • Sin factura por uso: el coste pasa a ser el equipo y la electricidad.
  • Uso comercial libre con licencias permisivas, como Apache 2.0.
  • Capacidad: según Epoch AI, los mejores abiertos iban unos cuatro meses por detrás. Es la media desde enero de 2026.
  • Es una medida de ese periodo, no una regla para toda tarea.
  • Los que caben en una tarjeta gráfica doméstica, de 6 a 12 meses.
  • Esa cifra puede ser optimista. Los modelos pequeños suelen optimizarse para pruebas concretas, y el retraso real puede ser mayor.
  • Licencias: «abierto» no siempre es libre. Lee la licencia antes de usarlo en un trabajo.

Pruébalo tú

  1. ¿Qué es un «peso» de un modelo?
  2. ¿Qué dos ventajas tiene ejecutar un modelo en local?
Respuestas
  1. Un número que el modelo aprende al entrenarse. El conjunto de pesos es el modelo.
  2. Control y ahorro de la factura por uso. La privacidad también mejora, si no conectas servicios externos.

Palabras clave

  • Pesos: números que el modelo aprende al entrenarse.
  • Código abierto: pesos, código y datos descritos con detalle, con permiso para usarlos.
  • En local: ejecutar el modelo en tu equipo, sin enviarlo a internet.
  • Cuantización: reducir la precisión de los pesos para que ocupen menos memoria.
  • Licencia: las reglas que dicen qué puedes hacer con un modelo.

Si quieres saber más