Saltar a contenido

RAG Hub

Orquestador RAG universal con soporte multi-embedding, indexado automático, API OpenAI-compatible y Responses API. 100% offline.

Estado actual

Componente Estado Puerto
RAG Hub API 🟢 Activo (systemd) localhost:8000
Auto-indexer (inotify) 🟢 Activo (systemd)
Check integridad 🟢 Timer nocturno 00:00
Qdrant 🟢 Docker localhost:6333
Ollama 🟢 Docker localhost:11434
AnythingLLM 🟢 Docker (conectado al Hub) localhost:3002

Endpoints

Endpoint Descripción
GET /health Estado del servicio
GET /models Lista de modelos (OpenAI compatible)
GET /collections Lista de colecciones disponibles
POST /query/{collection} Consulta RAG sobre una colección
POST /v1/chat/completions API compatible con OpenAI (Chat Completions)
POST /responses Responses API (formato OpenAI nuevo)

¿Cómo se conecta AnythingLLM?

AnythingLLM (Docker) usa el RAG Hub como su LLM Provider via OpenAI-compatible:

  1. Proveedor configurado como OpenAI con API key dummy
  2. OPENAI_BASE_URL=http://host.docker.internal:8000
  3. Modelo del workspace: gpt-4o (el Hub lo redirige a la colección smallcountry)
  4. El Hub implementa tanto Chat Completions como Responses API

Colecciones en Qdrant

Colección Modelo Dim Estado
smallcountry mxbai-embed-large 1024 🟢 787 pts migrados
smallcountry_full (legacy) nomic-embed-text 768 ⏳ Backup

Servicios systemd

Servicio Descripción
rag-hub.service API server (FastAPI, puerto 8000)
rag-hub-indexer.service Watchdog inotify sobre ~/SmallCountry/
rag-hub-integrity.service + .timer Check nocturno 00:00

Todos son servicios de usuario (systemctl --user).

Consumidores

  • Hermes Agent — desde el host local
  • AnythingLLM — via Responses API desde Docker
  • Bot Telegram (@Horus_local_ia_bot) — via AnythingLLM