Faire tourner un modèle avec Ollama est une chose ; lui permettre de retrouver précisément une information dans une collection de PDF en est une autre. Avec Open WebUI, on peut construire une petite base documentaire locale et utiliser le RAG — Retrieval-Augmented Generation — pour interroger ses fichiers sans devoir envoyer systématiquement leur contenu vers un service cloud.
⚡ TL;DR — L’ESSENTIEL EN 30 SECONDES
- ✅ Open WebUI peut indexer des PDF et fournir à un modèle Ollama les passages pertinents au moment de la question.
- ✅ Le RAG évite d’injecter toute une bibliothèque documentaire dans chaque prompt et permet de travailler avec des sources locales.
- ⚠️ Un PDF scanné, une mauvaise extraction ou un contexte trop court peuvent fortement dégrader les réponses.
- ❌ Une réponse issue d’un RAG n’est pas une preuve : pour un document important, il faut toujours vérifier le passage source.
RAG : ce que cela change par rapport à un simple PDF joint
L’application Ollama sait déjà recevoir des fichiers texte et des PDF par glisser-déposer. C’est pratique pour analyser ponctuellement un document. Pour une bibliothèque de plusieurs documents, le RAG apporte une logique différente : le contenu est extrait, découpé en passages puis indexé. Quand vous posez une question, le système recherche d’abord les passages qui semblent les plus pertinents et les transmet au modèle avec votre demande.
Cette distinction est importante. Le modèle n’« apprend » pas définitivement vos documents et le RAG ne réentraîne pas le LLM. Il lui fournit simplement du contexte ciblé au moment où il doit répondre. Notre guide Ollama sur Mac : faire tourner une IA locale simplement présente déjà l’installation et les contraintes matérielles d’Ollama ; ici, on se concentre sur la couche documentaire.
Ce qu’il faut installer
Il faut d’abord disposer d’Ollama et d’au moins un modèle de conversation. Open WebUI vient ensuite se connecter au moteur Ollama. Open WebUI est une interface auto-hébergée capable de fonctionner avec Ollama et de gérer des documents, des bases de connaissances et plusieurs moteurs d’extraction.
La méthode Docker reste la plus documentée par le projet Open WebUI. Si Ollama tourne directement sur le Mac ou le PC alors qu’Open WebUI est dans un conteneur, l’adresse de l’hôte doit être correctement exposée au conteneur ; la documentation officielle fournit des topologies spécifiques pour ce cas. L’objectif n’est pas d’exposer Ollama sur Internet : pour un usage personnel, gardez l’ensemble sur votre machine ou votre réseau de confiance.
Créer une base de connaissances avec ses PDF
Dans Open WebUI, les documents peuvent être ajoutés dans l’espace Workspace / Knowledge. Une fois le fichier traité, son contenu devient interrogeable. Dans une conversation, Open WebUI permet également de sélectionner un document avec le sélecteur associé au caractère #. Le système récupère alors les extraits utiles avant d’envoyer la requête au modèle.
Pour une petite documentation personnelle — manuels, procédures, notes techniques, factures ou documentation d’un NAS — commencez avec quelques fichiers propres plutôt qu’avec des centaines de PDF. Posez ensuite des questions dont vous connaissez déjà la réponse afin de contrôler la qualité de la récupération. C’est le moyen le plus simple de repérer une extraction incomplète ou une indexation peu pertinente.
PDF texte et PDF scanné : ce n’est pas la même chose
Un PDF contenant du vrai texte est généralement simple à exploiter. Un scan constitué d’images nécessite en revanche une étape d’OCR ou un moteur d’extraction capable de reconnaître le contenu. Open WebUI prend en charge plusieurs moteurs d’extraction, dont Tika et Docling, ainsi que des solutions OCR selon la configuration.
Avant d’accuser le modèle, prévisualisez donc le texte extrait. Si un tableau a disparu, si les colonnes sont mélangées ou si une page scannée ressort vide, le problème se situe en amont du LLM. Une IA ne peut pas retrouver une information qui n’a jamais été correctement extraite.
Le piège du contexte trop court avec Ollama
Open WebUI avertit explicitement que les configurations Ollama avec un contexte trop faible peuvent limiter fortement le RAG. Sur certaines machines disposant de moins de 24 Gio de VRAM, Ollama peut partir sur un contexte de 4 096 tokens. Pour une recherche documentaire, cela peut être trop juste : les extraits récupérés entrent alors en concurrence avec la conversation et les instructions.
La documentation Open WebUI recommande d’augmenter le contexte à au moins 8 192 tokens et plutôt 16 384 ou davantage pour les usages documentaires complexes, si le modèle et la mémoire disponible le permettent. Il n’est pas judicieux de pousser ce réglage au maximum sans tenir compte de votre machine : un contexte plus grand consomme davantage de mémoire et peut ralentir l’inférence.
Embeddings : le moteur de recherche derrière le RAG
Pour retrouver les bons passages, un RAG utilise généralement des embeddings : une représentation numérique du sens d’un texte. La question de l’utilisateur est transformée de la même façon, puis comparée aux passages indexés. Open WebUI permet de choisir un modèle d’embedding et propose aussi de la recherche hybride et du reranking selon la configuration.
Ne confondez donc pas le modèle de conversation avec le modèle d’embedding. Le premier rédige la réponse ; le second sert à retrouver les morceaux de documents susceptibles de la contenir. Si vous changez de modèle d’embedding après avoir constitué une base, une réindexation peut être nécessaire pour conserver une recherche cohérente.
Comment obtenir des réponses plus fiables
Une bonne question documentaire doit encourager le modèle à rester dans les sources. Demandez par exemple : « Réponds uniquement à partir des documents sélectionnés, cite le document et indique si l’information est absente ». C’est plus robuste qu’une question générale qui laisse au modèle la possibilité de compléter avec ses connaissances internes.
Contrôlez ensuite les références proposées par Open WebUI. Le RAG réduit le risque d’hallucination lorsqu’il retrouve le bon passage, mais ne le supprime pas. Le modèle peut encore mal interpréter une phrase, confondre deux versions d’une procédure ou extrapoler au-delà du texte.
Faut-il un SSD externe pour une base documentaire locale ?
Pas pour quelques PDF. Les documents, les modèles Ollama et les index peuvent toutefois finir par occuper plusieurs dizaines de gigaoctets si vous multipliez les modèles et les bases. Un SSD externe rapide devient alors pratique pour conserver les fichiers sources, les archives et éventuellement certains volumes de données, sans saturer le SSD interne du portable.
Le Samsung T7 Shield 1 To constitue un exemple cohérent de SSD externe USB 3.2 Gen 2 : Samsung annonce jusqu’à 1 050 Mo/s en lecture et 1 000 Mo/s en écriture, avec un boîtier IP65. Ces chiffres sont des maxima constructeur et dépendent du port, du câble et de la machine. Le prix et la disponibilité Amazon.fr pouvant évoluer, vérifiez-les au moment de l’achat.
En tant que Partenaire Amazon, SysKB réalise un bénéfice sur les achats remplissant les conditions requises, sans surcoût pour le lecteur.
Quand utiliser le RAG, et quand rester sur un simple fichier joint ?
Pour résumer un rapport unique de vingt pages, joindre directement le PDF à l’application Ollama peut suffire. Pour retrouver régulièrement des informations dans une collection de manuels, procédures ou notes, Open WebUI et son index documentaire deviennent beaucoup plus intéressants. Le RAG est surtout un outil de recherche augmentée, pas une baguette magique qui rend un petit modèle omniscient.
Sources
Sources principales consultées le 3 novembre 2026 : Ollama — Chat with files, Open WebUI — Retrieval Augmented Generation, Open WebUI — Document Extraction, Open WebUI — Troubleshoot Document Retrieval et documentation constructeur Samsung du T7 Shield.