Alojamiento de pipelines RAG
Cree potentes aplicaciones RAG con sus propios datos.
La mayoría de los proyectos RAG se atascan en la fontanería: fragmentación, embeddings, un almacén vectorial, lógica de recuperación, composición del prompt. HostYourAI ofrece esa fontanería como una función de la plataforma. Suba documentos a una base de conocimiento, vincúlela al Router compartido o a una instancia dedicada, y el contexto relevante se inyecta automáticamente en sus chat completions. Su código sigue haciendo llamadas normales compatibles con OpenAI.
Los documentos de un pipeline RAG suelen ser justo el material que jamás publicaría: manuales, contratos, políticas, conocimiento interno. Con HostYourAI, tanto los documentos como la inferencia permanecen en centros de datos europeos, cubiertos por un acuerdo de encargo del tratamiento (DPA), lo que hace viable el RAG con el contenido sensible en el que mejor funciona. El recorrido completo está en la guía Crear RAG en GPU de la UE.
Por qué pipelines RAG en la UE
Sus documentos viajan con sus prompts
La recuperación implica que fragmentos de documentos viajan dentro de cada prompt enriquecido. Si la inferencia se realiza fuera de Europa, su base de conocimiento se filtra de hecho al otro lado de la frontera fragmento a fragmento. Mantener el almacenamiento y la inferencia juntos en varias regiones europeas, cifrados con AES-256 en reposo, cierra esa brecha. HostYourAI no entrena con datos de clientes.
Soberanía sobre todo el pipeline
Un stack RAG tiene muchas piezas móviles, y cada servicio externo es otra jurisdicción que evaluar. Ejecutar la recuperación y la generación en una única plataforma europea, con una lista pública de subencargados, ofrece a las organizaciones de la administración pública y de la sanidad un pipeline que realmente pueden defender en una revisión.
La recuperación es sensible a la latencia
Cada solicitud RAG hace trabajo adicional antes del primer token: búsqueda, ordenación, composición del prompt. Cuando la recuperación y la inferencia están en la misma infraestructura europea, esa sobrecarga se mantiene pequeña, y los modelos calientes del Router hacen que la generación empiece sin cargar ningún modelo.
from openai import OpenAI client = OpenAI( base_url="https://hostyourai.com/api/v1", api_key="hyai-...") client.chat.completions.create( model="llama-3.3-70b", messages=[{"role":"user","content":"Hallo!"}])
Cómo funciona la inyección de principio a fin
Usted crea una base de conocimiento, añade documentos y la vincula al Router o a una de sus instancias GPU dedicadas. En cada chat completion, la plataforma recupera los fragmentos más relevantes para la pregunta del usuario y los inyecta como contexto antes de que el modelo genere. Las respuestas sin streaming incluyen un array sources con el nombre del documento y un extracto de cada fragmento utilizado, para que pueda mostrar citas en su interfaz. ¿Prefiere un control explícito? Pase knowledge_base_id en el cuerpo de la solicitud en lugar de vincular. Y si la recuperación falla, la solicitud se degrada con elegancia: el chat continúa sin el contexto adicional en lugar de devolver un error.
| Fase del pipeline | Qué ocurre |
|---|---|
| Ingesta | Los documentos se suben, se fragmentan y se indexan en la base de conocimiento |
| Vinculación | La base de conocimiento se asocia al Router o a una instancia, o se pasa en cada solicitud |
| Recuperación | La pregunta del usuario se compara con los fragmentos por relevancia |
| Inyección | Los mejores fragmentos se añaden al prompt antes de la generación |
| Citación | Las respuestas sin streaming devuelven fuentes con nombre de documento y extracto |
| Degradación | Si la recuperación falla, la respuesta continúa sin contexto |
Cómo empezar
Si hay una base de conocimiento vinculada, no hace falta cambiar nada en el código. Para apuntar a una de forma explícita, pase knowledge_base_id mediante extra_body en el SDK de Python:
from openai import OpenAI
client = OpenAI(
base_url="https://hostyourai.com/api/v1",
api_key="hyai-...",
)
response = client.chat.completions.create(
model="llama-3.2-1b",
messages=[{"role": "user", "content": "¿Qué cubre nuestra garantía en caso de daños por agua?"}],
extra_body={"knowledge_base_id": 42},
)
print(response.choices[0].message.content)
for source in response.model_extra.get("sources", []):
print(source["document"], "-", source["excerpt"][:80])Preguntas sobre los pipelines RAG
¿Necesito mi propia base de datos vectorial?
No. La base de conocimiento se encarga de la fragmentación, la indexación y la recuperación en la plataforma. Si prefiere tener el control total, aún puede usar su propio stack de recuperación y enviar prompts ya compuestos.
¿Cómo conecto una base de conocimiento a mis solicitudes?
De dos maneras: vincúlela al Router o a una instancia para que cada respuesta se enriquezca automáticamente, o pase knowledge_base_id de forma explícita en el cuerpo de la solicitud para controlarlo llamada a llamada.
¿Puedo mostrar a los usuarios de dónde procede una respuesta?
Sí. Las respuestas sin streaming incluyen un array sources con el nombre del documento y un extracto por cada fragmento recuperado. Las respuestas en streaming se enriquecen con contexto, pero no pueden llevar metadatos de fuentes en los fragmentos SSE.
¿Qué ocurre si la recuperación falla?
La respuesta continúa sin el contexto inyectado en lugar de devolver un error. Su chat sigue funcionando aunque la base de conocimiento no esté disponible durante un breve periodo.
¿Qué modelos funcionan con el vínculo a la base de conocimiento?
Cualquier modelo al que pueda llamar, en el EU Inference Router o en una instancia dedicada. Elija uno en el catálogo de modelos; los modelos grandes tienden a sintetizar con más fidelidad el contexto recuperado.
¿Cuánto cuesta el RAG además de la inferencia?
El contexto recuperado añade tokens de entrada a cada solicitud, facturados de pago por uso desde su saldo de crédito prepagado. Consulte la página de precios.
Todo lo que necesita para la IA
Del alojamiento de modelos a una API de cara al cliente, está pensado para desarrolladores y empresas que quieren que su IA funcione en una infraestructura que realmente controlan, dentro de la UE.
Sus datos y sus modelos permanecen en GPU europeas. Diseñado para cumplir el RGPD.
Llama, Qwen, DeepSeek, Mistral, FLUX y muchos más. Elija uno y estará listo en minutos, sin DevOps por su parte.
Apunte su cliente actual al Router y conserve sus herramientas. Sin reescribir nada, sin dependencia.
De cero a un endpoint listo en minutos
Sin infraestructura que gestionar. Elija un modelo, obtenga una URL compatible con OpenAI y lance.
Elija un modelo
Elija en el Model Garden o pegue cualquier ID de HuggingFace. Defina la VRAM y elija una GPU europea.
Obtenga su endpoint
Desplegamos vLLM, ejecutamos las comprobaciones de disponibilidad y le entregamos una URL lista, compatible con OpenAI y Anthropic, además de una clave de API.
Enrute y lance
Apunte su cliente al Router. Enruta automáticamente a una instancia arrancada, deja las GPU en reposo cuando nadie está conectado y registra cada solicitud.
Privado por defecto
HostYourAI mantiene sus modelos, prompts y datos en GPU europeas. Está pensado para equipos que se preocupan por el cumplimiento normativo, la fiabilidad y un control real.
GPUs and data residency inside Europe. Your prompts never leave the EU.
Run open-weight models with no black boxes or hidden telemetry.
GPUs idle when nobody is online, so you only pay for what you run.
Your infra, your keys, your models. Leave whenever you want.
Funciona con las herramientas que ya utiliza
El Router habla las API de OpenAI y Anthropic, así que se integra directamente en los clientes y SDK que su equipo ya usa. Solo tiene que cambiar la URL base.
Pruebe HostYourAI gratis
Frequently asked questions
Can I run this in the EU?
Yes. HostYourAI runs open models on GPUs in European datacenters via vLLM. Your prompts and outputs never leave the EU and there is no US cloud provider in the chain.
Is it GDPR-compliant?
Yes. All processing happens inside the EU, a Data Processing Agreement (DPA) is available and the subprocessor list is public. Open weights also mean no training on your data.
Is the API OpenAI-compatible?
Yes. Point your existing OpenAI or Anthropic client at our Router (https://hostyourai.com/api/v1), change only the base URL and API key. No rewrite, no lock-in.
What does it cost?
Pay-as-you-go on one prepaid credit balance: the shared router per token or a dedicated GPU per hour. Free to start, no minimum, no fixed monthly fee.
Works with 390+ open models
Text and image models on dedicated EU GPUs. Every model tested on our own hardware.
Related pages
Explore more about EU-hosted AI on HostYourAI.
Apunte su cliente de Anthropic a nuestro Router mediante un shim /v1/messages y ejecute modelos abiertos en GPUs europeas. Drop-in, alojado en la UE.
Read more →Un único endpoint compatible con OpenAI y Anthropic que enruta sus peticiones a modelos abiertos en GPUs europeas. Drop-in, alojado en la UE, sin dependencia.
Read more →Alojamiento de inferencia LLM con latencia optimizada. vLLM, batching continuo y respuestas en streaming para aplicaciones de IA en producción.
Read more →Chatee con instancias dedicadas y modelos del Router en el Playground. Pruebe prompts, compare modelos y consulte después el uso y la latencia por petición.
Read more →Plataforma para agentes de IA con uso de herramientas y function calling. Cree agentes autónomos sobre infraestructura europea.
Read more →Ajuste fino de LLM para su caso de uso concreto. LoRA, QLoRA y ajuste fino completo en GPU dedicadas, con sus datos siempre en la UE.
Read more →Aloje. Enrute. Lance.
No se necesita tarjeta de crédito. Pague por uso y cancele cuando quiera.
Empiece hoy a alojar gratis