Ver siguiente nota 1

Instala GPT-OSS en Windows y crea tu propio ChatGPT gratis e ilimitado

GPT-OSS con LM Studio

LM Studio es una alternativa a Ollama, pero que cumple con sus mismas funciones. En este caso, también ofrece una interfaz sencilla, amigable para cualquier tipo de usuario que prefiere un entorno gráfico al uso del terminal. Mientras que Ollama es extremadamente simple y eficiente, LM Studio cuenta con una interfaz más moderna y más opciones de personalización. Es decir, que si buscas un diseño más parecido al ChatGPT real, puede ser la opción que quieras escoger.

Pero lo primero y más importante… ¿Qué requisitos tiene LM Studio para instalarse en nuestro PC? En este apartado, encontramos, para su versión de Windows:

• CPU de 64 bits con soporte AVX2.
• RAM: 16 GB recomendadas para modelos de 7-8B. Aunque con 8 GB se puede empezar con modelos pequeños de 3-4B y contextos cortos.
• La GPU no es obligatoria, pero recomendable si se quiere acelerar.
• En cuanto al almacenamiento, cada modelo ocupa de 2 a algo más de 20 GB (aunque GPT-OSS:20b llega a los 70) según el tamaño y la cantidad. Así que deberemos reservar en el disco duro una media mínima de unos 100 GB si queremos optar por más de un modelo.

Para descargar el instalador oficial para Windows, solo deberemos acudir a su web oficial, dentro del selector de descargas para los distintos sistemas operativos. En nuestro caso, vamos a descargar la última versión disponible para Windows, con un peso de 516 MB.

Se te descargará un archivo «.exe» que deberás ejecutar para su instalación. Luego elige la carpeta de destino donde se ubicará LM Studio, donde se nos requerirá 1.7 GB de espacio para ello. Una vez la tengamos, solo deberemos pulsar sobre «Instalar». Cuando hayas finalizado, encontrarás su interfaz principal lista para ser usada:

Menú principal de LM Studio tras su instalación desde su web oficial. Foto: captura de Softzone.

Pasos para descargar y utilizar GPT-OSS en LM Studio

La lupa morada de la parte izquierda de la imagen de arriba será nuestro próximo destino. Al pulsar en dicha sección, encontraremos un listado con todos los modelos de que dispone LM Studio para su ejecución en local. Dispone de varios de ellos, pero nosotros vamos a centrarnos, tal y como venimos explicando a lo largo del artículo, en GPT-OSS:20b:

Descarga de gpt-oss-20b. Foto: captura de Softzone.

Una vez que hayamos pulsado sobre «Download», tan solo deberemos esperar a que dicho modelo se descargue con normalidad. Cuando se haya descargdo con éxito, deberemos acudir a la columna de la izquierda y pulsar sobre el icono amarillo de la conversación con el nombre de «Chats». Esperamos a que se expanda la sección, y acudiremos a la pestaña central con el nombre de «Seleccione un modelo para cargar». Encontraremos una configuración inicial antes de que se abra el modelo en sí. Donde, junto al nombre del modelo, deberemos especificar dos parámetros importantes:

• Longitud del contexto: fija cuántos tokens puede «recordar» el modelo dentro de una conversación o tarea. Moverla hacia la derecha aumenta el tope de tokens, mientras que moverlo a la izquierda lo reduce.El hecho de aumentar el contexto hace que se consuma más RAM/VRAM. Si falta memoria, aparecerán errores o cortes. Algo que se acentuará en equipos que dispongan con 8-12 GB de VRAM. Pero si nuestro PC nos lo permite, permite funcionar con hilos de conversación más largos. Ten en cuenta que los contextos grandes implican más cómputo por token, lo que puede hacer que baje la tasa de tokens por segundo en PC más modestos.
• Descarga a GPU: la GPU procesa capas en paralelo y acelera la generación de contenido, especialmente en modelos 7B-20B y superiores. A cambio, hace un mayor uso de VRAM. Si se supera la VRAM disponible, sufrirás caídas de rendimiento, por lo que conviene ajustarlo de manera progresiva antes de que sufra nuestro hardware.

Una vez configurado, solo tendremos que pulsar sobre «Cargar modelo», y nos aparecerá un chat al más puro estilo ChatGPT:

Primeras preguntas al modelo de GPT-OSS:20b para interactuar con el chatbot. Foto: captura de Softzone.

Al comenzar una pregunta, Eel propio modelo nos notifica en todo momento su estructura de pensamiento y las acciones a realizar. Tal y como puedes ver en la imagen de arriba. Por último, tras «pensar», nos mostrará una respuesta acorde a sus tokens y a la información que necesitamos.

Con LM Studio, al igual que con Ollama, no dependerás de ningún servidor online para utilizar los mejores modelos de inteligencia artificial. Recuerda: todo ocurre dentro de tu propio PC.

CaracterísticaOllamaLM StudioRecomendado para...Interfaz de UsuarioMinimalista, orientada a la terminal y con una app gráfica muy simple.Interfaz gráfica completa, similar a un IDE, con más opciones visuales.Ollama para usuarios que prefieren la simplicidad y eficiencia; LM Studio para quienes buscan una experiencia más visual y personalizable.Facilidad de UsoExtremadamente sencillo. Instalar y ejecutar un modelo es casi inmediato.Muy sencillo, pero con más parámetros de configuración visibles (contexto, descarga a GPU).Ambos son fáciles, pero Ollama tiene una curva de aprendizaje prácticamente nula.Control y PersonalizaciónBásico desde la app gráfica, más avanzado vía Modelfile en terminal.Control granular sobre la asignación de RAM/VRAM y capas de GPU directamente desde la interfaz.LM Studio ofrece un control más accesible para usuarios no técnicos.Comunidad y SoporteMuy activo en GitHub, ideal para desarrolladores.Comunidad activa en Discord, más orientada al usuario final.Ambos tienen un soporte comunitario sólido.

Preguntas frecuentes

¿Qué es GPT-OSS?

GPT-OSS es un modelo de lenguaje open source que puedes usar localmente sin conexión.

¿Necesito pagar para usar GPT-OSS?

No, es completamente gratuito y bajo licencia Apache 2.0.