Unsloth: IA local con una aplicación, sin terminal

Unsloth es una aplicación de escritorio para descargar modelos de IA y hablar con ellos en tu propio equipo, con ventanas y sin terminal. Está en fase beta.

Pasos y nombres de menú, de la documentación oficial de Unsloth, comprobada el 2 de octubre de 2026. Los menús están en inglés.

Descargar

Baja el instalador de unsloth.ai/download, en su versión para Windows.

Instalar

1. Abre el instalador, el archivo .exe.
2. Sigue los pasos que te pide.
3. Abre la aplicación y espera a que termine de instalarse.

Elegir un modelo

1. Abre Select model o Model hub.
2. Elige un modelo y su cuantización.
3. Descárgalo.

La cuantización es cuánto se ha comprimido el modelo: cuanto más pequeña, menos memoria necesita y algo peor responde. Cómo elegirla según tu gráfica, en la guía de Qwen.

Hablar con el modelo

Cuando acabe la descarga, escribe tu mensaje y pulsa Intro. No hay nada más que configurar.

Qué más hace

• Funciona sin gráfica dedicada, solo con el procesador.
• Puedes adjuntar imágenes, audio, PDF, código y documentos para hablar sobre ellos.
• Encuentra solo los modelos que ya tuvieras descargados.
• Según su documentación, no envía datos de uso y puede funcionar sin conexión.
• También entrena modelos con tus propios datos. Eso queda para otra guía.

En Linux

Hay instalador .deb y AppImage, pero no está en los repositorios oficiales de CachyOS ni de Arch. En CachyOS usa Ollama, que sí lo está.

Si algo falla

• Responde más despacio que otras veces: la búsqueda en la web y la ejecución de código llevan su tiempo. Desactívalas si no las necesitas.
• No ve los modelos que ya tenías: indícale la carpeta donde están.
• El modelo no cabe o va muy lento: elige una cuantización más pequeña.