On this page
Ce que le RAG fait pour vous
Avec la génération augmentée par récupération (RAG), vous fondez les réponses sur vos propres documents plutôt que sur les seules connaissances d'entraînement du modèle. HostYourAI fournit les modèles ouverts et l'infrastructure GPU européenne ; vous décidez des connaissances à y mettre. Les documents, les prompts et les réponses restent en Europe de bout en bout.
Étape 1 : créer une base de connaissances
Importez des documents (PDF, TXT, CSV, MD ou DOCX) ou explorez une URL ou un sitemap. Votre contenu est découpé en segments d'environ 1000 caractères avec 100 caractères de chevauchement, aux limites des phrases. Chaque segment reçoit un embedding (en 384 dimensions). Les petits fichiers (< 50MB) sont entièrement pré-vectorisés pour une récupération rapide ; les gros fichiers utilisent un mode hybride avec FULLTEXT et un embedding à la demande.
Étape 2 : lier la base de connaissances
Il existe trois façons de rattacher une base de connaissances à vos requêtes de chat :
- Lien vers une instance (recommandé) :
POST /api/kb/{kbId}/link/{instanceId}. Chaque requête de chat vers cette instance reçoit alors automatiquement du contexte, y compris via une clé externehyai-. - Lien vers un agent : définissez
knowledge_base_idsur l'agent ; le chat public l'utilise automatiquement. - Explicite par requête : transmettez
knowledge_base_iddans le corps de votre chat completion.
Étape 3 : interroger avec du contexte
curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.3-70b",
"messages": [{"role":"user","content":"What is our return policy?"}],
"knowledge_base_id": 42
}'Le Router récupère les segments les plus pertinents par similarité cosinus (seuil minimum de 0.3), injecte les 5 meilleurs dans le prompt et génère une réponse fondée sur vos documents.
Citations de sources
Les réponses sans streaming comportent un tableau supplémentaire sources avec le nom du document, le score, l'index du segment et un extrait, ce qui vous permet de remonter de chaque réponse jusqu'à sa source. En streaming, le contexte est toujours injecté, mais les sources ne peuvent pas être renvoyées dans les segments SSE.
Robuste et conforme
Les échecs de récupération sont gérés avec souplesse : si la récupération échoue, le chat continue sans contexte au lieu de renvoyer une erreur. Et comme tout s'exécute sur des GPU de l'UE, l'ensemble de votre pipeline RAG, des documents à la réponse, reste en Europe.
Référence : les paramètres du pipeline en un coup d'œil
Ces valeurs déterminent comment vos documents sont traités et récupérés. Elles sont fixes, la qualité reste donc prévisible sur toutes vos bases de connaissances.
| Paramètre | Valeur |
|---|---|
| Taille des segments | Environ 1000 caractères, découpés aux limites des phrases |
| Chevauchement | 100 caractères entre segments consécutifs |
| Embeddings | Vecteurs à 384 dimensions par segment |
| Similarité | Similarité cosinus, seuil minimum de 0.3 |
| Contexte par requête | Les 5 segments les plus pertinents |
| Mode de traitement | Entièrement pré-vectorisé sous 50MB, hybride au-delà |
Dépannage
Mes réponses ne contiennent pas de tableau sources
Les citations de sources ne fonctionnent que sur les réponses sans streaming. Désactivez stream pour les requêtes où vous avez besoin des sources ; en streaming, le contexte est toujours injecté mais les sources ne tiennent pas dans les segments SSE.
Le modèle semble ignorer mes documents
Vérifiez d'abord que la base de connaissances est bien liée : à l'instance, à l'agent, ou via knowledge_base_id dans le corps de la requête. Vérifiez ensuite que le traitement de vos documents est terminé ; juste après un import, le traitement est encore en cours dans la file d'attente.
J'obtiens une erreur 401 Unauthorized
Votre clé API doit commencer par hyai- et être copiée en entier, et l'URL de base doit être exactement https://hostyourai.com/api/v1. Une clé d'un autre fournisseur ne fonctionne pas.
La première réponse prend du temps
Le modèle choisi n'est probablement pas encore chaud. Le Model Garden indique si un modèle est chaud ou encore en cours de préchauffage ; ensuite, les requêtes suivantes répondent rapidement.
Questions sur ce guide
Quels formats de fichiers puis-je importer ?
PDF, TXT, CSV, MD et DOCX. Vous pouvez aussi explorer une URL ou un sitemap complet ; les pages passent par le même pipeline de traitement.
Le RAG fonctionne-t-il aussi sur une instance dédiée ?
Oui. Liez la base de connaissances à votre instance GPU dédiée et chaque requête de chat reçoit automatiquement du contexte, y compris via une clé API externe.
Combien coûte le RAG ?
Vous payez l'inférence elle-même : à l'usage par token via le Router, ou à l'heure sur votre propre instance. Consultez la page des tarifs.
Quel modèle choisir pour le RAG ?
Les modèles ouverts tels que Llama, Qwen et Mistral se comportent bien pour répondre à des questions sur des documents. Comparez les options dans le Model Garden et testez dans le Playground.
Mes documents restent-ils dans l'UE ?
Oui. Le stockage, les embeddings et l'inférence s'exécutent dans des datacenters européens ; les documents, prompts et réponses ne quittent jamais l'UE.