On this page
Qué hace RAG por usted
Con la generación aumentada por recuperación (RAG, por sus siglas en inglés) basa las respuestas en sus propios documentos en lugar de solo en el conocimiento de entrenamiento del modelo. HostYourAI aporta los modelos abiertos y la infraestructura de GPUs de la UE; usted decide qué conocimiento se incorpora. Los documentos, los prompts y las respuestas permanecen en Europa de principio a fin.
Paso 1: cree una base de conocimiento
Suba documentos (PDF, TXT, CSV, MD o DOCX) o rastree una URL o un sitemap. Su contenido se divide en fragmentos de unos 1000 caracteres con 100 caracteres de solapamiento, respetando los límites de las frases. Cada fragmento recibe un embedding (de 384 dimensiones). Los archivos pequeños (< 50MB) se incrustan por completo de antemano para una recuperación rápida; los archivos grandes utilizan un modo híbrido con FULLTEXT más embedding bajo demanda.
Paso 2: vincule la base de conocimiento
Hay tres formas de asociar una base de conocimiento a sus solicitudes de chat:
- Vincularla a una instancia (recomendado):
POST /api/kb/{kbId}/link/{instanceId}. Cada solicitud de chat a esa instancia recibe entonces contexto automáticamente, también mediante una clavehyai-externa. - Vincularla a un agente: establezca
knowledge_base_iden el agente; el chat público lo utiliza automáticamente. - De forma explícita en cada solicitud: pase
knowledge_base_iden el cuerpo de su chat completion.
Paso 3: pregunte con contexto
curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.3-70b",
"messages": [{"role":"user","content":"¿Cuál es nuestra política de devoluciones?"}],
"knowledge_base_id": 42
}'El Router recupera los fragmentos más relevantes mediante similitud del coseno (umbral mínimo de 0.3), inyecta los 5 primeros en el prompt y genera una respuesta basada en sus documentos.
Citas de las fuentes
Las respuestas sin streaming incluyen un array sources adicional con el nombre del documento, la puntuación, el índice del fragmento y un extracto, de modo que puede rastrear cada respuesta hasta su fuente. Con streaming, el contexto se inyecta igualmente, pero las fuentes no pueden devolverse en los fragmentos SSE.
Robusto y conforme a la normativa
Los fallos de recuperación se gestionan con elegancia: si la recuperación falla, el chat continúa sin contexto en lugar de devolver un error. Y como todo se ejecuta en GPUs de la UE, todo su pipeline RAG, desde los documentos hasta la respuesta, permanece en Europa.
Referencia: los ajustes del pipeline de un vistazo
Estos valores determinan cómo se procesan y se recuperan sus documentos. Son fijos, de modo que la calidad es predecible en todas sus bases de conocimiento.
| Ajuste | Valor |
|---|---|
| Tamaño del fragmento | Unos 1000 caracteres, divididos en los límites de las frases |
| Solapamiento | 100 caracteres entre fragmentos consecutivos |
| Embeddings | Vectores de 384 dimensiones por fragmento |
| Similitud | Similitud del coseno, umbral mínimo de 0.3 |
| Contexto por solicitud | Los 5 fragmentos más relevantes |
| Modo de procesamiento | Incrustación previa completa por debajo de 50MB, híbrido por encima |
Solución de problemas
Mis respuestas no contienen un array sources
Las citas de las fuentes solo funcionan en respuestas sin streaming. Desactive stream en las solicitudes en las que necesite las fuentes; con streaming, el contexto se inyecta igualmente, pero las fuentes no caben en los fragmentos SSE.
El modelo parece ignorar mis documentos
Compruebe primero que la base de conocimiento está realmente vinculada: a la instancia, al agente o mediante knowledge_base_id en el cuerpo de la solicitud. Después, compruebe que sus documentos han terminado de procesarse; justo después de una subida, el procesamiento todavía está en curso en la cola.
Recibo 401 Unauthorized
Su clave de API debe empezar por hyai- y estar copiada completa, y la URL base debe ser exactamente https://hostyourai.com/api/v1. Una clave de otro proveedor no funciona.
La primera respuesta tarda mucho
Probablemente el modelo elegido aún no esté activo. El Model Garden muestra si un modelo está activo ("warm") o todavía se está calentando; después, las solicitudes siguientes responden rápidamente.
Preguntas sobre esta guía
¿Qué formatos de archivo puedo subir?
PDF, TXT, CSV, MD y DOCX. También puede rastrear una URL o un sitemap completo; las páginas pasan por el mismo pipeline de procesamiento.
¿Funciona RAG también en una instancia dedicada?
Sí. Vincule la base de conocimiento a su instancia de GPU dedicada y cada solicitud de chat recibe contexto automáticamente, también mediante una clave de API externa.
¿Cuánto cuesta RAG?
Usted paga por la inferencia en sí: pago por uso por token a través del Router, o por hora en su propia instancia. Consulte la página de precios.
¿Qué modelo debo elegir para RAG?
Los modelos abiertos como Llama, Qwen y Mistral funcionan bien en preguntas y respuestas sobre documentos. Compare las opciones en el Model Garden y pruebe en el Playground.
¿Mis documentos permanecen en la UE?
Sí. El almacenamiento, los embeddings y la inferencia se ejecutan en centros de datos europeos; los documentos, los prompts y las respuestas nunca salen de la UE.
