Ruta guiada: Montar IA local¶

Guía paso a paso para desplegar inteligencia artificial soberana en SmallCountry.

¿Para quién es esta ruta?¶

Para quien quiera tener un asistente de inteligencia artificial que corra íntegramente en hardware propio, sin enviar datos a la nube. Necesitas acceso administrativo al servidor Horus y haber leído la introducción a SmallCountry. No se asume experiencia previa con modelos de lenguaje, pero sí soltura con terminal Linux.

SmallCountry corre toda su IA en local. Nada sale de tu red. Esta ruta te lleva desde entender la arquitectura hasta verificar que todo el pipeline de voz, texto y agentes funciona completo.

1. Entender la arquitectura IA¶

Antes de instalar nada, comprende cómo se conectan las piezas del subsistema de inteligencia artificial.

Sistema de IA Local — Visión global con el pipeline completo (voz → texto → LLM → RAG → síntesis) y los modos degradados.

Revisa especialmente el diagrama Mermaid del pipeline de IA y la tabla de componentes. Te dará el mapa mental que necesitas para los pasos siguientes.

2. Verificar el hardware necesario¶

La IA local requiere GPU con suficiente VRAM. Confirma que Horus cumple los requisitos mínimos antes de desplegar.

Requisitos de hardware — Especificaciones de GPU, RAM, CPU y almacenamiento.

Componente	Mínimo	Recomendado
GPU	6 GB VRAM	8 GB VRAM (RTX 4060)
RAM	16 GB	64 GB DDR5
Disco	50 GB libre	1 TB NVMe

3. Desplegar Ollama + Qdrant¶

Ollama (servidor local de modelos de lenguaje) es el servidor de modelos de lenguaje. Qdrant añade búsqueda vectorial sobre tus documentos (RAG). Se despliegan juntos como stack.

Ollama + Qdrant — Ficha del stack con playbook de Ansible, datasets ZFS, healthchecks y configuración.

Después del despliegue, verifica que Ollama responde:

curl http://ollama.sc:11434/api/tags

4. Configurar Whisper + Piper¶

Whisper (modelo de transcripción de voz de OpenAI) transcribe voz a texto. Piper (sintetizador de voz neuronal) sintetiza texto a voz en castellano. Juntos cierran el ciclo de interacción por voz.

Whisper + Piper — Ficha con modelos disponibles, ajuste de idioma y endpoints HTTP.

Prueba la transcripción con un audio de prueba:

curl -X POST http://whisper.sc:9000/asr -F "audio=@prueba.wav"

5. Activar Hermes Agent¶

Hermes Agent orquesta todo el pipeline: recibe texto de Whisper, consulta a Ollama, ejecuta herramientas externas y devuelve la respuesta a Piper para síntesis de voz.

Hermes Agent — Ficha del agente orquestador con skills modulares y configuración de herramientas.

Configura al menos las skills de ollama, whisper y piper en el archivo de configuración de Hermes.

6. Desplegar la interfaz Open WebUI¶

Open WebUI es el chat privado que usan las personas. Similar a ChatGPT pero corriendo en tu hardware, sin enviar datos a ningún servidor externo.

Open WebUI — Ficha con acceso, autenticación vía Authentik y subida de documentos para RAG.

Accede desde https://chat.sc una vez que Caddy y Authentik estén configurados.

7. Verificar la integración completa¶

Con todas las piezas desplegadas, verifica el flujo completo de extremo a extremo.

Pipeline de IA — Diagrama de secuencia del flujo completo con voz.

Modo degradado — Qué esperar si algún componente falla y cómo se comporta el sistema.

Prueba el ciclo completo: 1. Habla por el micrófono → Whisper transcribe 2. El texto llega a Hermes → consulta a Ollama + Qdrant 3. Hermes ejecuta herramientas si es necesario 4. La respuesta se sintetiza con Piper → escuchas la respuesta

El pipeline completo¶

flowchart LR
    subgraph Entrada["🎤 Entrada"]
        Voz["Voz<br/>micrófono"]
        Texto["Texto<br/>chat"]
    end

    subgraph Procesamiento["⚙️ Procesamiento"]
        Whisper["Whisper<br/>STT"]
        Ollama["Ollama<br/>LLM"]
        Qdrant["Qdrant<br/>RAG"]
        Piper["Piper<br/>TTS"]
    end

    subgraph Agentes["🤖 Agentes"]
        Hermes["Hermes Agent<br/>orquestador"]
        OpenWebUI["Open WebUI<br/>chat privado"]
    end

    subgraph Salida["📤 Salida"]
        Respuesta["Respuesta<br/>texto · voz"]
        Accion["Acción<br/>API · webhook"]
    end

    Entrada --> Procesamiento --> Agentes --> Salida

    style Entrada fill:#c8e6c9,stroke:#2e7d32,color:#000
    style Procesamiento fill:#bbdefb,stroke:#1565c0,color:#000
    style Agentes fill:#f9a8d4,stroke:#c2185b,color:#000
    style Salida fill:#ffe082,stroke:#f57f17,color:#000

¿Ya terminaste? Ver también¶

Automatización — Si la IA va a ejecutar acciones (encender riego, abrir una puerta), la capa de automatización con Node-RED y n8n es el siguiente paso.
Continue.dev — Asistente de código dentro de code-server para quienes desarrollan sobre SmallCountry.
Sherlog — Análisis de logs en lenguaje natural con IA local.