Table des Matières
Sécuriser un LLM on-premise, c'est contrôler quatre choses que le modèle ne peut pas contrôler lui-même : qui peut joindre le serveur d'inférence, quels documents chaque utilisateur peut récupérer, ce qui est enregistré pour chaque échange, et ce que le modèle a le droit de faire quand un prompt ou un document tente de le manipuler. Ces quatre contrôles se font dans le code et l'infrastructure, jamais dans le prompt.
Points clés
- L'auto-hébergement supprime l'API tierce, pas la surface d'attaque. En 2025, des chercheurs de Cisco ont trouvé 1 139 serveurs Ollama exposés sur Internet, dont 214 servaient des modèles actifs (Cisco).
- Le contrôle d'accès se place dans la couche de recherche et dans les outils, pas dans le prompt système, que l'OWASP déconseille d'utiliser comme mécanisme de sécurité (OWASP LLM07:2025).
- Journalisez le prompt complet, les sources récupérées, la réponse et les appels d'outils, comme le recommandent le NCSC britannique et l'OWASP, et protégez le journal lui-même : c'est une donnée sensible.
- L'injection de prompt ne sera peut-être jamais entièrement corrigée (NCSC). Concevez le système pour qu'un modèle manipulé ne puisse pas faire beaucoup de dégâts.
- En Algérie, la loi 18-07 modifiée ajoute un journal automatisé des traitements de données personnelles et une notification des violations sous cinq jours, selon CMS. Vérifiez avec votre conseil juridique comment elle s'applique.
Pourquoi un LLM on-premise doit-il encore être sécurisé ?
Faire tourner le modèle en local signifie que vos prompts et documents ne sont pas traités par un prestataire externe, l'argument principal de notre guide de l'IA souveraine et on-premise. Mais le serveur, l'exposition réseau, l'index documentaire, les journaux et la réponse aux incidents sont désormais à votre charge.
Les configurations par défaut ne couvrent pas cela. Ollama, un outil d'inférence locale très répandu, écoute par défaut sur 127.0.0.1, port 11434, et sa FAQ explique comment l'exposer au réseau avec OLLAMA_HOST=0.0.0.0 sans décrire aucun paramètre d'authentification (FAQ Ollama, vérifiée en novembre 2026). Avec Shodan, des chercheurs de Cisco ont trouvé 1 139 instances Ollama exposées, dont 214 hébergeaient des modèles actifs et y répondaient. Leurs recommandations : authentification, pare-feu ou reverse proxy plutôt que des endpoints publics, limitation de débit et journalisation (Cisco).
Sur le réseau d'une usine, la même erreur donne à chaque machine de ce réseau un accès direct au modèle et aux documents qu'il peut lire.
Quelles sont les principales menaces pour un LLM on-premise ?
| Menace | Exemple en usine | Contrôle principal | Référence |
|---|---|---|---|
| Accès non authentifié au serveur d'inférence | Un serveur de test sur le LAN de l'usine répond à quiconque trouve le port | Réseau interne uniquement, reverse proxy avec authentification, liste blanche d'endpoints | Sécurité vLLM |
| Récupération de documents que l'utilisateur n'a pas le droit d'ouvrir | Un technicien pose une question sur les salaires et l'index renvoie un dossier RH | Filtrage des droits à la recherche, à partir d'une identité côté serveur | OWASP LLM08 |
| Injection de prompt directe | Un utilisateur tape « ignore tes instructions » pour accéder à un contenu restreint | Contrôles hors du modèle ; vérification des sorties | OWASP LLM01 |
| Injection de prompt indirecte | Une fiche technique fournisseur ou un e-mail d'un sous-traitant contient des instructions cachées | Nettoyage à l'ingestion, marquage du contenu non fiable, outils limités | Greshake et al. |
| Exfiltration de données par la réponse | La réponse contient un lien d'image qui envoie des données vers un serveur externe | Bloquer liens et images externes ; restreindre le trafic sortant | Analyse d'EchoLeak |
| Secrets dans le prompt | Un mot de passe de base de données est écrit dans le prompt système | Aucun identifiant dans les prompts | OWASP LLM07 |
Les risques liés à la chaîne d'approvisionnement, comme des fichiers de modèle altérés, sont traités dans notre article sur le déploiement d'IA en environnement isolé (air gap).
Comment organiser le contrôle d'accès d'un assistant LLM ?
Raisonnez par couches. Chacune doit tenir même si le modèle est manipulé.
Réseau. Placez le serveur d'inférence sur un segment interne que seul le serveur applicatif peut joindre.
API d'inférence. Ne comptez pas sur la clé intégrée au serveur. L'option --api-key de vLLM ne protège que les endpoints sous les préfixes /v1, /v2, /inference et /cohere ; d'autres endpoints du même serveur, dont des endpoints d'exploitation capables de modifier le comportement du modèle, n'ont aucune authentification. La documentation recommande de ne pas s'appuyer sur --api-key seul et de placer un reverse proxy qui n'autorise que les endpoints exposés et bloque tous les autres (Sécurité vLLM, vérifiée en novembre 2026).
Identité des utilisateurs. Authentifiez les utilisateurs via votre annuaire existant, pour que les partants perdent l'accès dès la désactivation de leur compte. Séparez les droits d'administration (mises à jour du modèle, reconstruction de l'index, accès aux journaux).
Recherche documentaire. C'est là que se joue l'essentiel du contrôle d'accès. L'OWASP avertit que des contrôles d'accès inadaptés peuvent exposer des embeddings contenant des informations sensibles, et recommande des bases vectorielles qui tiennent compte des droits ainsi qu'un cloisonnement strict des données (OWASP LLM08:2025). Recopiez les groupes autorisés de chaque document depuis le système source sur chacun de ses fragments (chunks), puis filtrez chaque recherche selon les groupes de l'utilisateur authentifié, comme le montre notre guide RAG pour les manuels de maintenance. Les règles générales de l'OWASP s'appliquent : refus par défaut, vérification des droits à chaque requête, et jamais de contrôle côté client (OWASP Authorization Cheat Sheet).
Outils. Chaque outil que le modèle peut appeler vérifie lui-même les droits de l'utilisateur, et non ceux d'un compte de service aux droits étendus.
Pas le prompt système. L'OWASP est explicite : le prompt système ne doit être considéré ni comme un secret ni comme un mécanisme de sécurité, les identifiants et chaînes de connexion n'y ont pas leur place, et les contrôles d'autorisation ne doivent pas être délégués au LLM (OWASP LLM07:2025).
Que doit enregistrer le journal d'audit d'un LLM ?
Le National Cyber Security Centre britannique recommande de journaliser suffisamment pour repérer une activité suspecte, ce qui peut impliquer l'entrée et la sortie complètes du modèle, ainsi que l'usage des outils et les appels d'API. Il note que des appels d'outils ou d'API en échec peuvent révéler les premières tentatives d'un attaquant (NCSC). L'OWASP ajoute des journaux détaillés et immuables des opérations de recherche (OWASP LLM08:2025).
| Champ | Pourquoi |
|---|---|
| Utilisateur, horodatage, poste d'origine | Le « qui, quand, où » de chaque événement |
| Prompt complet tel que reçu | Révèle les tentatives d'injection et les abus |
| Documents et fragments récupérés, avec leur version | Prouve sur quoi la réponse s'appuie ; détecte les fuites de droits |
| Réponse renvoyée | Permet de reconstituer ce que l'utilisateur a vu |
| Appels d'outils, paramètres et résultats, y compris les échecs | Les appels en échec sont un signal d'alerte précoce |
| Versions du modèle, du gabarit de prompt et de l'index | Explique un changement de comportement après une mise à jour |
| Décisions des filtres ou classifieurs | Montre ce qui a été bloqué et pourquoi |
L'OWASP Logging Cheat Sheet demande le même « quand, où, qui et quoi » pour chaque événement. Elle liste aussi ce qui ne doit pas être journalisé en clair, notamment les mots de passe, identifiants de session, jetons d'accès, clés de chiffrement et certaines données personnelles, et recommande la détection des altérations, la copie rapide des journaux sur un support en lecture seule, ainsi que la restriction et la revue périodique des droits de lecture (OWASP Logging Cheat Sheet).
Ce dernier point compte : le journal contient chaque question et chaque passage renvoyé, il peut donc être le stockage le plus sensible du déploiement. Gardez-le sur la même infrastructure que le modèle.
Le cadre algérien. Les prompts et journaux contiennent généralement des données personnelles : noms, matricules, parfois des informations médicales ou RH. Selon le guide CMS, l'article 38 de la loi 18-07 impose des mesures techniques et organisationnelles de sécurité adaptées aux risques, et la loi 25-11 du 24 juillet 2025 ajoute un registre des activités de traitement, un journal automatisé des opérations de traitement des données personnelles (article 41 bis 3), un délégué à la protection des données, et la notification d'une violation de données personnelles à l'autorité dans un délai de cinq jours (CMS). Définissez la durée de conservation et l'accès aux journaux du LLM avec votre délégué à la protection des données, et confirmez avec votre conseil juridique comment ces dispositions s'appliquent à votre système.
Qu'est-ce que l'injection de prompt, et pourquoi ne peut-on pas la corriger entièrement ?
L'OWASP classe l'injection de prompt en première position de son Top 10 2025 pour les applications LLM. Une injection directe vient de la saisie de l'utilisateur lui-même. Une injection indirecte arrive par un contenu externe que le modèle traite, comme un fichier ou une page web. L'OWASP précise que le RAG et le fine-tuning ne la neutralisent pas complètement (OWASP LLM01:2025).
L'injection indirecte est la principale préoccupation pour un assistant industriel. Greshake et ses coauteurs ont montré en 2023 que les applications intégrant un LLM brouillent la frontière entre données et instructions : un attaquant peut donc placer des instructions dans des données que l'application a de bonnes chances de récupérer (Greshake et al.). Dans une usine, il s'agit de documentation fournisseur, d'e-mails de sous-traitants, de formulaires scannés et de commentaires d'ordres de travail. L'exemple donné par l'OWASP est un CV contenant des instructions cachées en texte blanc sur fond blanc (OWASP LLM08:2025).
Des attaques réelles ont emprunté cette voie. Dans EchoLeak (CVE-2025-32711), un e-mail piégé récupéré par Microsoft 365 Copilot l'a conduit à produire un lien ou une image Markdown dont l'URL transportait des données privées vers le serveur de l'attaquant. La faille a été présentée comme la première vulnérabilité IA « zéro clic » permettant l'exfiltration de données. L'e-mail était rédigé comme s'il s'adressait à un humain, ce qui lui a permis de passer les classifieurs d'injection de Microsoft (Simon Willison). Il s'agissait d'un service cloud, mais le mécanisme s'applique à tout assistant qui récupère du texte non fiable et affiche des liens.
Pourquoi ne pas simplement corriger le problème ? Le NCSC britannique estime que l'injection de prompt pourrait ne jamais être totalement neutralisée comme l'a été l'injection SQL, car un modèle de langage ne sépare pas en interne les données des instructions. Il décrit le modèle comme un « adjoint intrinsèquement confus » (inherently confusable deputy) et conclut que l'objectif réaliste est de réduire la probabilité et l'impact des attaques (NCSC).
Comment réduire le risque d'injection de prompt ?
- Éviter la « triade fatale ». Simon Willison, qui a forgé le terme prompt injection, décrit la combinaison dangereuse : accès à des données privées, exposition à du contenu non fiable et capacité de communiquer vers l'extérieur (Simon Willison). Un assistant on-premise réunit toujours les deux premiers éléments, il faut donc supprimer le troisième : aucun accès Internet sortant depuis les serveurs du modèle, et aucun outil qui envoie des e-mails ou appelle des URL externes.
- Donner au modèle le moins de privilèges possible. Traitez les fonctions privilégiées dans le code, donnez à l'application ses propres identifiants et limitez le modèle à ce dont la tâche a besoin (OWASP LLM01:2025). Le NCSC suggère qu'un LLM qui traite le contenu d'un tiers ne devrait pas disposer de plus de privilèges que ce tiers.
- Exiger une validation humaine pour les actions à risque. Tout outil qui modifie un système doit s'arrêter pour attendre une personne nommément désignée. Notre article sur l'humain dans la boucle pour les agents IA explique où placer ces points de validation.
- Marquer le contenu non fiable. Encadrez les passages récupérés par des délimiteurs clairs et indiquez au modèle qu'il s'agit de données. Hines et ses coauteurs rapportent que leurs techniques de « spotlighting » font passer le taux de réussite des attaques de plus de 50 % à moins de 2 % dans des expériences avec des modèles de la famille GPT (Hines et al.). Le NCSC considère que ce marquage rend les attaques plus difficiles, pas impossibles.
- Filtrer les entrées et les sorties. Des classifieurs peuvent signaler les tentatives d'injection. Llama Prompt Guard 2 86M de Meta s'exécute en local, mais il lit 512 tokens à la fois, et les langues d'évaluation indiquées sur sa fiche de modèle n'incluent pas l'arabe (Hugging Face). Testez tout filtre sur vos propres documents en arabe et en français avant de vous y fier.
- Ne pas afficher de liens ni d'images externes dans les réponses. Supprimez-les, ou n'autorisez que les liens vers des documents internes. Cela ferme la voie d'exfiltration de type EchoLeak.
- Nettoyer les documents à l'ingestion. Détectez le texte caché et validez les documents avant leur entrée dans l'index, comme l'OWASP le recommande pour le RAG (OWASP LLM08:2025).
- Tester en conditions d'attaque, et recommencer. L'OWASP recommande des simulations d'attaque régulières qui traitent le modèle comme un utilisateur non fiable. Ajoutez des cas d'injection au jeu de test qui sert à évaluer le LLM sur vos documents et relancez-le après chaque changement.
Ce que nous avons constaté chez KABAS AI
DALILE fonctionne entièrement hors ligne sur les serveurs du client, avec chiffrement, contrôles d'accès et journalisation d'audit, et se connecte à des systèmes comme SAP, Oracle, Microsoft 365, les LIMS et les systèmes de gestion documentaire. Chaque connexion apporte des droits à reproduire et du texte non fiable à traiter ; nous recommandons donc trois étapes avant tout pilote.
Cartographier d'abord les droits dans les systèmes sources. Si les droits sont flous dans le système source, l'assistant ne les clarifiera pas.
Définir la journalisation dès le départ avec le délégué à la protection des données et l'équipe sécurité : ce qui est journalisé, qui peut le lire et pendant combien de temps.
Écrire les tests d'injection en même temps que les tests de précision. Quelques documents piégés contenant des instructions cachées, en arabe et en français, montrent rapidement si les contrôles tiennent.
Pour comparer des fournisseurs, notre guide de cahier des charges pour un projet d'IA et notre analyse construire ou acheter listent les questions à poser. Notre équipe conseil peut auditer un déploiement existant au regard de cette liste.
Sources
- OWASP GenAI Security Project, LLM01:2025 Prompt Injection
- OWASP GenAI Security Project, LLM07:2025 System Prompt Leakage
- OWASP GenAI Security Project, LLM08:2025 Vector and Embedding Weaknesses
- OWASP Authorization Cheat Sheet
- OWASP Logging Cheat Sheet
- NCSC (Royaume-Uni), Prompt injection is not SQL injection (it may be worse), décembre 2025
- Greshake et al., Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection, arXiv 2302.12173, 2023
- Hines et al., Defending Against Indirect Prompt Injection Attacks With Spotlighting, arXiv 2403.14720, 2024
- Simon Willison, The lethal trifecta for AI agents: private data, untrusted content, and external communication, juin 2025
- Simon Willison, Breaking down EchoLeak, the first zero-click AI vulnerability enabling data exfiltration from Microsoft 365 Copilot, juin 2025
- Documentation vLLM : Security
- FAQ Ollama
- Cisco, Detecting Exposed LLM Servers: A Shodan Case Study on Ollama, septembre 2025
- Meta, fiche du modèle Llama Prompt Guard 2 86M, Hugging Face
- CMS Expert Guide to data protection and cyber security laws: Algeria
Questions fréquentes
Un LLM on-premise est-il sécurisé par défaut ?
Non. Garder le modèle sur vos serveurs évite que les données partent vers une API externe, mais le serveur d'inférence, l'index documentaire, les journaux et les outils que le modèle peut appeler ont chacun besoin de leurs propres contrôles. Certains serveurs d'inférence ne protègent qu'une partie de leurs endpoints par une clé d'API ; ils doivent donc être placés derrière un reverse proxy avec authentification, sur un réseau interne.
Peut-on appliquer les droits d'accès via le prompt système ?
Non. L'OWASP indique que le prompt système ne doit pas être considéré comme secret ni utilisé comme mécanisme de sécurité, car une injection de prompt peut le contourner. Les droits doivent être appliqués par du code en dehors du modèle : dans la couche de recherche, qui filtre les documents selon l'utilisateur authentifié, et dans chaque outil que le modèle peut appeler.
Que doit contenir le journal d'audit d'un LLM ?
Au minimum : qui a posé la question, quand, depuis quel poste, le prompt complet, les documents récupérés, la réponse, les appels d'outils avec leurs paramètres et résultats, et la version du modèle. Les mots de passe, jetons et clés doivent être retirés avant journalisation. Comme le journal contient des données personnelles et des contenus confidentiels, son propre accès doit être restreint et revu.
Peut-on empêcher totalement l'injection de prompt ?
Pas avec les technologies actuelles. Le National Cyber Security Centre britannique estime possible que l'injection de prompt ne soit jamais totalement corrigée, car les modèles de langage ne séparent pas les instructions des données. L'objectif pratique est de réduire à la fois la probabilité d'une attaque et les dégâts qu'elle peut causer, surtout en limitant ce que le modèle peut lire et faire.
Un assistant documentaire sans outils est-il exposé à l'injection de prompt ?
Oui, mais l'impact est moindre. Une instruction cachée dans un document récupéré peut quand même fausser une réponse ou tenter de faire fuiter des données par un lien ou une image dans la réponse. Nettoyer les documents à l'ingestion, citer les sources et bloquer les liens et images externes dans les réponses réduisent ce risque.



