Table des Matières
Achetez, sauf si vous disposez déjà d'une équipe plateforme solide et que vous voyez la stack LLM comme un produit interne à long terme. L'assembler à partir de briques open source est faisable, mais le modèle en est la petite partie. Le gros du travail, permanent, c'est l'intégration, les correctifs de sécurité, la revue des licences, l'évaluation et le support, et il vous reste après la fin du projet.
Points clés
- Une stack LLM privée compte une dizaine de couches, des pilotes GPU au contrôle d'accès et à l'évaluation des réponses. Le modèle n'en est qu'une.
- Construire, c'est assumer la maintenance. vLLM à lui seul a livré 33 versions et publié 96 avis de sécurité sur les douze mois précédant fin octobre 2026.
- Des composants « gratuits » peuvent comporter des conditions : la licence d'Open WebUI limite la suppression de sa marque au-delà de 50 utilisateurs, et celle de Llama impose la mention « Built with Llama » sur les produits qui l'intègrent.
- « Acheter » prend trois formes : des composants open source supportés, un produit on-premise packagé, ou une construction sur mesure par un intégrateur. Chacune retire à votre équipe une partie différente du travail.
- Décidez en fonction de vos données, de vos équipes et du coût sur trois ans, et inscrivez les conditions de sortie dans tout achat.
Que contient réellement une stack LLM on-premise ?
Un assistant privé interrogeant vos manuels, procédures et rapports n'est pas un logiciel unique. C'est une chaîne de couches, et chacune a besoin d'un responsable.
| Couche | Rôle | Ce que vous prenez en charge si vous construisez |
|---|---|---|
| Serveurs GPU, pilotes, runtime de conteneurs | Fait tourner tout le reste | Mises à jour des pilotes et firmwares, supervision, pièces de rechange |
| Serveur d'inférence (par exemple vLLM) | Charge le modèle et traite les requêtes | Montées de version, correctifs de sécurité, optimisation des performances |
| Poids du modèle (par exemple gpt-oss-120b) | Génère les réponses | Revue de licence, choix de version, tests de non-régression à chaque mise à jour |
| Ingestion de documents et OCR | Transforme PDF, scans et tableurs en texte | Parseurs adaptés à vos formats, qualité du texte arabe et français |
| Modèle d'embeddings et index vectoriel | Retrouve les passages pertinents | Réindexation quand les documents ou le modèle d'embeddings changent |
| Code de recherche et d'orchestration | Construit le prompt à partir des passages et de la question | Votre propre code : bugs, tests, évolution des prompts |
| Interface utilisateur | Là où les ingénieurs posent leurs questions | Conditions de licence, prise en charge des langues, affichage de droite à gauche |
| Identités et droits d'accès | Limite qui voit quels documents | Alignement sur l'Active Directory ou votre GED |
| Journalisation, supervision, sauvegardes | Traçabilité et reprise | Règles de conservation, qui peut lire les journaux |
| Évaluation | Mesure si les réponses sont justes | Un jeu de test construit avec vos ingénieurs, rejoué après chaque changement |
Notre guide de l'IA souveraine on-premise couvre les options de déploiement et la gouvernance autour de cette stack, et le dimensionnement GPU pour un site industriel traite de la couche matérielle.
Pourquoi le modèle est-il la plus petite partie du travail ?
Ce constat n'est pas propre aux LLM. Dans un article de 2015 très cité, des ingénieurs de Google soutenaient que seule une petite fraction des systèmes de ML réels est constituée de code de ML, et qu'un système mature peut finir par compter au plus 5 % de code d'apprentissage automatique et au moins 95 % de « code de liaison » (glue code) (Sculley et al., 2015). Ils avertissaient aussi que les systèmes de ML réels entraînent couramment des coûts de maintenance continus et massifs.
Les systèmes de recherche documentaire suivent le même schéma. Un retour d'expérience sur trois systèmes RAG, dans la recherche, l'éducation et le biomédical, conclut que la validation d'un système RAG n'est possible qu'en exploitation, et que sa robustesse se construit au fil du temps plutôt que d'être conçue dès le départ (Barnett et al., 2024). En pratique, les questions que poseront vos ingénieurs au sixième mois révéleront des problèmes qu'aucun pilote n'a détectés. Il faut quelqu'un pour les corriger.
À quoi vous engage la construction après la mise en production ?
Suivre les versions. Les composants évoluent vite. Entre le 1er novembre 2025 et le 31 octobre 2026, vLLM, un serveur d'inférence open source sous licence Apache 2.0, a publié 33 versions, de la v0.11.1 à la v0.32.0 : environ une tous les 11 jours. Les nouveaux modèles exigent souvent une version récente, et chaque montée de version doit être testée avant d'arriver chez les utilisateurs.
Suivre les avis de sécurité. Sur ces mêmes douze mois, le projet a publié 96 avis de sécurité, dont 2 classés critiques et 21 élevés (notre décompte via l'API GitHub, au 10 novembre 2026). Beaucoup concernent le déni de service ; certains l'exécution de code à distance. Une divulgation transparente est bon signe, mais chaque avis est une décision pour votre équipe : sommes-nous concernés, et quand appliquer le correctif ?
Durcir la configuration par défaut. La documentation de vLLM indique que toutes les communications entre nœuds d'un déploiement vLLM multi-nœuds ne sont pas sécurisées par défaut, recommande un réseau dédié et isolé, et précise que son option --api-key ne protège que certains endpoints, d'où l'intérêt d'un reverse proxy qui n'expose que ceux que vous voulez ouvrir (guide de sécurité vLLM). Cette étape est réellement négligée : en septembre 2025, des chercheurs de Cisco ont trouvé 1 139 serveurs Ollama accessibles depuis Internet, dont 214 répondaient à des prompts sans authentification (Cisco).
Évaluer après chaque changement. Une nouvelle version de modèle, de modèle d'embeddings ou de parseur peut améliorer les réponses en anglais et dégrader celles en arabe. Sans un jeu de test rejoué après chaque changement, ce sont les utilisateurs qui vous l'apprennent. Notre guide pour évaluer un LLM sur vos propres documents explique comment le construire, et sécuriser un LLM on-premise couvre les mesures de protection.
Quelles licences se cachent dans une stack construite en interne ?
Open source ne veut pas toujours dire sans conditions. Trois exemples que votre service juridique doit voir avant la mise en production :
- Interface utilisateur. Depuis la version 0.6.6 (avril 2025), la licence d'Open WebUI interdit de modifier ou de supprimer sa marque, sauf si le déploiement compte 50 utilisateurs ou moins sur 30 jours, si vous êtes un contributeur disposant d'une autorisation écrite spécifique, ou si vous détenez une licence entreprise qui le permet. Le code jusqu'à la v0.6.5 reste sous BSD-3.
- Modèle. Si vous distribuez ou mettez à disposition le modèle, ou un produit ou service qui le contient, la licence communautaire de Llama 3.1 vous impose d'afficher de façon visible la mention « Built with Llama ». Si vous l'utilisez pour créer ou affiner un modèle que vous distribuez ou mettez à disposition, le nom de ce modèle doit commencer par « Llama ». À l'inverse, gpt-oss-120b est publié sous licence Apache 2.0.
- Tout le reste. La fiche de l'OWASP sur la chaîne d'approvisionnement des applications LLM note que le développement d'IA mélange licences logicielles et licences de jeux de données, et recommande de tenir une nomenclature logicielle (SBOM) signée et un inventaire des licences, de les auditer régulièrement, et de vérifier les fichiers de modèles par empreintes ou signatures (OWASP LLM03:2025).
Rien de cela n'exclut l'open source. Cela fait de la revue des licences une partie du projet.
Quelles sont les façons d'acheter ?
« Acheter » n'est pas une option unique. Il y en a trois, et chacune retire à votre équipe une partie différente du travail.
1. Des composants open source supportés. Vous assemblez la stack, mais vous achetez le support de son cœur. Red Hat AI Inference Server, annoncé en mai 2025, est une version durcie et supportée de vLLM, qui tourne seule dans un conteneur ou au sein de RHEL AI et d'OpenShift AI (Red Hat). NVIDIA AI Enterprise est licencié par GPU, au prix catalogue de 4 500 dollars par GPU pour un an, support Business Standard inclus, selon le guide de licences de NVIDIA (mis à jour en septembre 2026, consulté en novembre 2026) (NVIDIA). Il vous reste à construire l'ingestion, la recherche, l'interface et les droits d'accès.
2. Un produit on-premise packagé. L'éditeur livre toute la chaîne, de l'ingestion à l'interface, installée sur vos serveurs, et en assure la maintenance. Vous le configurez et restez propriétaire des données. DALILE est notre produit dans cette catégorie.
3. Une construction sur mesure par un intégrateur. Un partenaire assemble des composants open source selon votre cahier des charges. Vous obtenez une stack adaptée, mais vérifiez qui la maintient après la livraison, et à quel coût.
Construire ou acheter : comment se comparent les options ?
| Critère | Construire en open source | Composants supportés | Produit on-premise packagé |
|---|---|---|---|
| Coût des licences logicielles | Généralement nul | Abonnement par GPU ou par serveur | Licence ou abonnement |
| Travail d'intégration par votre équipe | La totalité | Tout ce qui est au-dessus de la couche supportée | Configuration et connecteurs |
| Correctifs de sécurité | Votre équipe, pour chaque couche | Partagés : l'éditeur corrige la couche supportée | L'éditeur, si le contrat le prévoit |
| Compétences nécessaires après la mise en production | Exploitation GPU, conteneurs, Python, sécurité, évaluation | Presque les mêmes | Administration et évaluation |
| Délai jusqu'au premier pilote | Dépend de l'expérience de votre équipe | Plus court pour le cœur, identique pour le reste | Le plus court si le produit correspond à votre cas d'usage |
| Maîtrise du code | Totale | Élevée | Limitée à ce que l'éditeur expose |
| Risque principal | Départ des personnes clés ; maintenance qui dérape | Zones grises entre couches supportées et non supportées | Dépendance à l'éditeur ; produit inadapté |
| Cas le plus adapté | Groupes dotés d'une équipe plateforme et de plusieurs projets IA prévus | Groupes disposant d'une exploitation informatique mais sans développeurs IA | Un ou deux cas d'usage bien définis, petite équipe informatique |
Le matériel est à peu près le même dans les trois cas. Pour comparer le serveur avec les API cloud, voir LLM on-premise ou API cloud : le coût.
Comment décider ?
- Décrivez les cas d'usage et les données. Quels documents, quelles langues, quels utilisateurs, et si une partie peut quitter le site. Si rien ne peut sortir, toutes les options doivent fonctionner entièrement hors ligne ; voir le déploiement d'IA en environnement isolé.
- Comptez les personnes qui seront encore là dans trois ans. Nommez qui corrigera, mettra à jour et évaluera la stack. Si ces noms se résument à une seule personne, ou à des prestataires sur un projet au forfait, construire est fragile.
- Listez les couches que vous devez adapter. Si vos besoins ne s'écartent d'un produit standard que sur une ou deux couches, par exemple un connecteur vers votre GMAO, achetez et complétez. S'ils s'en écartent sur la plupart des couches, construire peut se justifier.
- Construisez d'abord un jeu de test. Cinquante à cent vraies questions avec des réponses de référence, en arabe, en français et en anglais, telles que vos ingénieurs les écrivent. Utilisez-le pour comparer toutes les options sur un pied d'égalité.
- Chiffrez trois ans, pas la première année. Incluez le temps de vos équipes pour l'exploitation et les mises à jour côté construction, et les licences, le support et les renouvellements côté achat.
- Menez un pilote sur vos propres documents. Fixez le seuil de réussite avant le démarrage.
- Négociez la sortie avant de signer. Données, index, configurations et éventuels poids affinés doivent être exportables dans des formats ouverts.
Nos 15 questions pour choisir un fournisseur d'IA industrielle transforment les étapes 6 et 7 en grille de notation.
Le droit algérien des marchés publics influence-t-il le choix ?
Il encadre la façon d'acheter, dans les deux cas, puisque construire suppose aussi d'acheter du matériel et souvent des prestations. Ce qui suit résume le texte publié de la loi 23-12 du 5 août 2023 relative aux marchés publics ; vérifiez votre cas avec votre service des marchés et votre conseil juridique.
- Article 13 : les entreprises publiques économiques ne sont pas soumises aux règles de passation de la loi, mais doivent adopter leurs propres procédures, fondées sur ses principes.
- Article 41 : la procédure négociée directe est permise dans des cas limitativement énumérés, notamment pour promouvoir les start-up labellisées prestataires de services dans le domaine du numérique et de l'innovation, à condition que les solutions présentées soient uniques et novatrices.
- Article 62 : une marge de préférence est accordée aux produits d'origine algérienne et aux entreprises de droit algérien dont le capital est détenu majoritairement par des nationaux résidents.
Ce que nous avons constaté chez KABAS AI
Nous vendons un produit packagé : lisez cette section en le gardant à l'esprit, et posez-nous les mêmes questions qu'à tout autre fournisseur.
DALILE est conçu pour le cas où acheter a du sens : il tourne sur vos propres serveurs, fonctionne sans connexion Internet et se connecte à des systèmes comme SAP, Oracle, Microsoft 365, LIMS, GED et bases de données SQL, comme le décrit la page DALILE. Nous assurons l'installation, construisons les connexions et formons votre équipe. Cela vous décharge de l'intégration et de l'interface, mais pas de tout : vous restez responsable des cas d'usage, des documents, des règles d'accès et du jeu de test.
Si vous disposez d'une équipe plateforme solide et voulez construire, gardez le modèle remplaçable derrière une API compatible OpenAI, écrivez le jeu de test avant de choisir les composants, inscrivez la revue des licences et le suivi des avis de sécurité dans une fiche de poste, et budgétez la maintenance dès le premier jour.
Si vous hésitez entre les deux voies, notre équipe de conseil peut mener la décision avec vos données, vos équipes et votre budget. Pour voir DALILE sur vos propres documents, contactez-nous.
Sources
Les chiffres sur les versions et avis de sécurité de vLLM ont été relevés le 10 novembre 2026. Les prix changent ; vérifiez-les avant de décider.
- Sculley et al., Hidden Technical Debt in Machine Learning Systems, NeurIPS 2015
- Barnett et al., Seven Failure Points When Engineering a Retrieval Augmented Generation System, 2024 (arXiv 2401.05856)
- vLLM, versions publiées, GitHub
- vLLM, avis de sécurité, GitHub
- Documentation vLLM : Security
- Cisco : Detecting Exposed LLM Servers, a Shodan case study on Ollama, 1er septembre 2025
- Open WebUI : License
- Meta : Llama 3.1 Community License Agreement
- Hugging Face : fiche du modèle openai/gpt-oss-120b
- OWASP : LLM03:2025 Supply Chain
- Red Hat : communiqué sur Red Hat AI Inference Server, 20 mai 2025
- Guide de licences NVIDIA AI Enterprise : Pricing
- Loi 23-12 du 5 août 2023 relative aux marchés publics, Journal officiel n° 51 (copie FAOLEX)
Questions fréquentes
Est-il moins cher de construire une stack LLM on-premise à partir de composants open source ?
Les licences logicielles sont souvent gratuites, mais la stack ne l'est pas. Vous payez en temps d'ingénieurs pour intégrer les composants, puis chaque année pour les corriger, les mettre à jour, les superviser et les évaluer. Comparez un coût sur trois ans incluant le temps de vos propres équipes avec le prix d'une plateforme supportée ou d'un produit, et non avec une licence à zéro.
Quelles compétences faut-il pour exploiter sa propre stack LLM ?
Au minimum : administration Linux et de serveurs GPU, exploitation de conteneurs, Python, sécurité réseau, gestion des identités et des accès, et quelqu'un capable d'évaluer la qualité des réponses sur vos propres documents. Ces compétences doivent rester disponibles après la mise en production, pas seulement pendant le projet, car les composants évoluent très souvent.
Peut-on commencer avec un produit packagé et passer plus tard à sa propre stack ?
Oui, si le contrat le permet. Exigez l'export de vos documents, index, configurations et éventuels poids affinés dans des formats ouverts, et préférez des produits qui utilisent des interfaces standard comme une API compatible OpenAI, pour pouvoir remplacer plus tard le modèle ou l'application.
Un logiciel LLM open source peut-il tourner sans risque sur un réseau industriel ?
Oui, avec la même rigueur que pour tout autre logiciel serveur. Le projet vLLM, par exemple, a publié 96 avis de sécurité sur GitHub entre novembre 2025 et octobre 2026, et sa documentation avertit que les communications entre nœuds ne sont pas sécurisées par défaut. Quelqu'un doit suivre les avis, appliquer les mises à jour et maintenir les serveurs sur un segment réseau isolé.
Le choix entre construire et acheter change-t-il le matériel nécessaire ?
Peu. Les deux voies exigent des serveurs GPU dimensionnés pour le modèle, la longueur des documents et le nombre de requêtes simultanées. Ce qui change, c'est qui installe, règle et maintient le logiciel qui tourne dessus, et qui répond en cas de panne.



