Automatisation & IA
Contrats, dossiers clients, données de santé ou secrets industriels : certaines informations ne doivent pas quitter votre entreprise. Un LLM local, installé sur vos serveurs ou dans un cloud que vous maîtrisez, permet d’utiliser l’IA en local sur ces données. Je vous aide à choisir le modèle et le matériel, à l’installer et à le brancher sur vos outils.
Le constat
Les assistants grand public sont efficaces, mais ils envoient vos textes chez un fournisseur. Pour certaines données, ce n’est pas acceptable, que ce soit pour vos clients, votre secteur ou votre propre politique de sécurité.
Impossible d'envoyer leurs dossiers à une API externe.
Avec des données copiées dans des assistants grand public.
Ni le matériel qu'il faut pour le faire tourner.
Ce que je mets en place
Le bon modèle pour vos usages, pas forcément le plus gros.
Outils : Mistral, Llama, Qwen, Gemma
Un service stable, pas une démonstration sur un ordinateur portable.
Outils : Ollama, vLLM, llama.cpp, Docker
Des réponses tirées de vos documents, avec leurs sources.
Outils : PostgreSQL, pgvector, Qdrant
Le modèle local au service de vos automatisations.
Outils : n8n, API, vos applications métier
Méthode
On vérifie d’abord que les modèles locaux répondent à vos besoins, avant d’investir dans le matériel.
01
L’objectif : savoir ce que l’IA doit faire, et sur quelles données.
Usages visés, sensibilité des données, nombre d’utilisateurs, infrastructure disponible et exigences de sécurité.
Livrable : une liste d’usages prioritaires et les contraintes à respecter.
02
L’objectif : vérifier la qualité avant d’investir.
Je teste plusieurs modèles open source sur un jeu d’exemples tirés de vos documents, et je compare leurs réponses avec vous.
Livrable : un comparatif des modèles et une recommandation de matériel.
03
L’objectif : mettre le service à disposition.
Installation sur votre infrastructure, interface, API, indexation des documents et branchement sur vos outils.
Livrable : un service d’IA locale en fonctionnement, supervisé.
04
L’objectif : faire adopter l’outil.
Formation des utilisateurs, règles d’usage, documentation d’exploitation et suivi de la qualité des réponses.
Livrable : des équipes qui utilisent l’IA sans exposer leurs données.
Votre consultante
Data engineer et spécialiste de l’IA appliquée, j’installe les modèles et je construis les flux de données qui les alimentent. Pour savoir quels usages traiter en premier, un audit IA est un bon point de départ.
Je gère l'installation comme les données qui alimentent le modèle.
Je vous dis quand un modèle local ne suffit pas.
Accès limités, journalisation et données qui ne sortent pas.
Modèles, configuration et documentation chez vous.
Trois façons d’utiliser un modèle de langage. Elles diffèrent surtout par l’endroit où vont vos données.
| Critère | Assistant grand public | API d’un fournisseur | IA locale (LLM sur vos serveurs) |
|---|---|---|---|
| Où vont vos données | Chez le fournisseur, selon ses conditions | Chez le fournisseur, selon le contrat | Elles restent sur votre infrastructure |
| Qualité des réponses | Les modèles les plus puissants | Les modèles les plus puissants | Bonne sur des tâches ciblées, en retrait sur le raisonnement complexe |
| Mise en place | Immédiate | Rapide, avec du développement | Plus longue : matériel, installation et tests |
| Coût | Abonnement par utilisateur | Paiement à l’usage | Matériel ou serveur, puis exploitation |
| Personnalisation | Limitée | Bonne | Totale : modèle, données et réglages |
| Cas idéal | Usages individuels sans données sensibles | Applications sans contrainte forte sur les données | Données confidentielles ou réglementées |
Sommaire
Un LLM, ou grand modèle de langage, est le moteur des assistants comme ChatGPT ou Claude. Un LLM local est un modèle dont les poids sont publiés en open source et que l’on exécute sur sa propre machine : un serveur de l’entreprise, un poste puissant ou un serveur loué chez un hébergeur de confiance. Les textes envoyés au modèle ne quittent pas cette infrastructure. On parle aussi d’IA en local ou d’IA auto-hébergée.
Les modèles open source récents sont très bons sur des tâches ciblées : résumer un document, extraire des informations, classer une demande, reformuler un texte, répondre à partir de vos documents. Ils restent en retrait par rapport aux meilleurs modèles commerciaux sur le raisonnement long, le code complexe ou les tâches très ouvertes. C’est pourquoi on teste toujours les modèles sur vos propres exemples avant de décider : la question n’est pas de savoir quel modèle est le meilleur en général, mais lequel suffit pour vos usages.
Tout dépend de la taille du modèle et du nombre d’utilisateurs simultanés. Un petit modèle tourne sur un poste équipé d’une bonne carte graphique. Un service partagé par une équipe demande un serveur avec un ou plusieurs processeurs graphiques et assez de mémoire vidéo. Des techniques de compression des modèles, appelées quantification, réduisent fortement ces besoins, au prix d’une légère baisse de qualité. Le dimensionnement se fait après les tests, à partir de vos usages réels.
Ollama est le plus simple pour démarrer : il télécharge et exécute un modèle en une commande, et expose une API compatible avec beaucoup d’outils. llama.cpp permet de faire tourner des modèles sur du matériel modeste. Pour un service partagé par de nombreux utilisateurs, vLLM gère mieux les requêtes simultanées. Une interface de discussion comme Open WebUI complète l’ensemble pour les utilisateurs non techniques. Le choix dépend surtout du nombre d’utilisateurs et des compétences de votre équipe : l’objectif est un service que votre informatique sait exploiter.
Garder le traitement sur votre infrastructure simplifie la conformité : pas de transfert vers un sous-traitant d’IA, ni hors de l’Union européenne. Les obligations du RGPD s’appliquent toujours : base légale, minimisation des données, durée de conservation des conversations, droits d’accès et information des personnes. Pour les usages qui manipulent des données personnelles, ces points sont posés dès le cadrage. Les conversations elles-mêmes peuvent contenir des données personnelles : leur durée de conservation et leurs accès se définissent comme pour tout autre traitement.
Rien n’oblige à tout faire en local. Une approche hybride réserve le modèle local aux données sensibles et utilise un modèle commercial pour le reste, par exemple la rédaction de contenus publics. Les deux s’intègrent dans les mêmes workflows et les mêmes agents IA, avec une règle simple : la sensibilité de la donnée décide du modèle utilisé. Ce choix peut être automatique, à partir de règles simples sur le type de document ou l’équipe à l’origine de la demande.
FAQ
Pas sur tout. Les meilleurs modèles commerciaux restent devant sur le raisonnement complexe et les tâches très ouvertes. Sur des tâches ciblées comme le résumé, l’extraction, le classement ou les réponses à partir de vos documents, un modèle local bien choisi donne de bons résultats. Les tests sur vos exemples permettent de le vérifier avant d’investir.
Pas forcément. Le modèle peut tourner sur un serveur de l’entreprise, sur un serveur avec carte graphique loué chez un hébergeur européen, ou sur un poste puissant pour un usage limité. Le choix dépend du nombre d’utilisateurs, de la taille du modèle retenu et de votre politique de sécurité.
Oui, si l’installation est faite correctement. Le modèle s’exécute sur votre infrastructure, sans appel vers un service externe, et l’accès est limité aux utilisateurs autorisés. Je vérifie qu’aucune donnée ne sort, je journalise les accès et je documente l’architecture pour votre responsable de la sécurité.
Oui, c’est l’usage le plus fréquent. Vos documents sont indexés dans une base interne, et le modèle s’appuie sur les passages pertinents pour répondre, en citant ses sources. Les droits d’accès suivent ceux de vos documents : un utilisateur n’obtient pas de réponse tirée d’un document qu’il ne peut pas consulter.
Je peux assurer l’exploitation : supervision, mises à jour du moteur, changement de modèle quand une meilleure version sort, sauvegardes. Tout est documenté pour qu’une personne de votre équipe informatique puisse aussi prendre le relais. Le service n’a besoin que d’une maintenance légère une fois en place.
Oui. Le modèle local expose une API, que vos workflows n8n, vos agents IA ou vos applications appellent comme n’importe quel autre modèle. Vous pouvez ainsi résumer, classer ou extraire des informations dans vos process, sans que les données sensibles quittent votre infrastructure.
Des assistants qui agissent dans vos outils
Des réponses tirées de vos documents
Les bons cas d'usage avant d'investir
L'IA utile, sans usine à gaz
Échangeons 30 minutes sur vos usages et vos contraintes. Vous repartez avec une première orientation : modèle local, approche hybride ou autre solution.
