Faire tourner un modèle avec Ollama est une chose ; lui permettre de retrouver précisément une information dans une collection de PDF en est une autre. Avec Open WebUI, on peut construire une petite base documentaire locale et utiliser le RAG — Retrieval-Augmented Generation — pour interroger ses fichiers sans devoir envoyer systématiquement leur contenu vers un service cloud.
Ollama
Ollama sur Mac : faire tourner une IA locale simplement
Faire tourner une IA générative directement sur son Mac n’est plus réservé aux développeurs. Ollama permet aujourd’hui de télécharger un modèle, de l’exécuter localement et de discuter avec lui sans envoyer systématiquement ses données vers un service cloud. Sur les Mac Apple Silicon, le logiciel s’appuie désormais sur MLX pour exploiter efficacement la mémoire unifiée et le GPU.