Table des Matières
Pour un assistant industriel privé qui répond à partir des manuels, procédures et rapports, commencez par la génération augmentée par récupération (RAG). Elle fournit vos documents au modèle au moment de la question, avec citations, et se met à jour par réindexation. Le fine-tuning modifie mieux le comportement d'un modèle que ses connaissances. Gardez-le pour plus tard : format, style ou tâche précise, généralement en complément du RAG.
Points clés
- Dans des tests contrôlés, le RAG a fait mieux que le fine-tuning non supervisé pour apporter des connaissances à un modèle, qu'il s'agisse de faits vus au pré-entraînement ou de faits entièrement nouveaux (Ovadia et al., 2023).
- Les modèles apprennent lentement les faits nouveaux par fine-tuning, et une fois appris, leur tendance à halluciner augmente (Gekhman et al., 2024).
- Le fine-tuning est le bon outil quand le problème est le comportement : format, ton ou raisonnement irréguliers sur une tâche définie (OpenAI).
- Les deux se combinent. Dans une étude, le fine-tuning a ajouté plus de 6 points de précision et le RAG 5 points de plus (Balaguer et al., 2024).
- Ce qui entre dans les poids ne peut pas être filtré par utilisateur et s'en retire difficilement, ce qui compte pour les données confidentielles d'une usine.
Quelle est la différence entre fine-tuning et RAG ?
Le RAG laisse le modèle tel quel. Une couche de recherche trouve dans vos documents les passages pertinents pour la question, et le modèle a pour consigne de répondre à partir d'eux. L'approche a été introduite par Lewis et al. en 2020, dont l'article relève que, pour les connaissances stockées uniquement dans les poids du modèle, justifier la provenance des réponses et mettre ces connaissances à jour restent des problèmes ouverts. Le RAG répond aux deux : la réponse peut citer son passage, et une nouvelle révision est indexée au lieu d'être apprise.
Le fine-tuning poursuit l'entraînement du modèle sur vos propres exemples, ce qui modifie ses poids. Le fine-tuning complet met à jour tous les paramètres. Les méthodes efficaces en paramètres n'entraînent qu'un petit nombre de paramètres supplémentaires, ce qui, selon la documentation PEFT de Hugging Face, réduit nettement les coûts de calcul et de stockage pour des performances comparables à un fine-tuning complet. La plus connue est LoRA, qui gèle les poids d'origine et ajoute à chaque couche de petites matrices de faible rang entraînables (Hu et al., 2021).
En bref, le RAG change ce que le modèle lit ; le fine-tuning change sa façon de répondre. Pour la chaîne complète de recherche sur la documentation technique, voir notre guide du RAG sur les manuels de maintenance.
Le fine-tuning peut-il apprendre à un modèle les documents de votre usine ?
C'est l'attente la plus fréquente, et la recherche ne la confirme pas.
Ovadia et al. (2023) ont comparé le fine-tuning non supervisé et le RAG sur des tâches à forte intensité de connaissances. Le fine-tuning a apporté une certaine amélioration, mais le RAG a fait systématiquement mieux, aussi bien pour les connaissances rencontrées au pré-entraînement que pour des connaissances entièrement nouvelles. Les auteurs concluent que les modèles peinent à apprendre de nouveaux faits par fine-tuning non supervisé, et suggèrent qu'exposer le modèle à de nombreuses variantes d'un même fait pourrait aider.
Gekhman et al. (2024) vont plus loin. Dans des expériences contrôlées, les modèles ont appris lentement les exemples de fine-tuning porteurs de connaissances nouvelles, et une fois ceux-ci appris, leur tendance à halluciner a augmenté de façon linéaire. Les auteurs en déduisent que les modèles acquièrent l'essentiel de leurs connaissances factuelles au pré-entraînement, et que le fine-tuning leur apprend surtout à mieux utiliser ce qu'ils savent déjà.
Pour une usine, les connaissances nouvelles sont justement celles qui comptent : repères d'équipements, couples de serrage, codes d'alarme, révisions de procédures. Et une valeur absorbée à l'entraînement n'a aucune référence de page que l'ingénieur pourrait vérifier.
Comment se comparent RAG et fine-tuning ?
| Critère | RAG | Fine-tuning |
|---|---|---|
| Ce qui change | Le contexte que lit le modèle | Les poids du modèle |
| Point fort | Connaissances propriétaires ou à jour | Format, ton ou raisonnement constants sur une tâche définie |
| Nouvelle révision d'un document | Réindexer le document | Refaire les données d'entraînement et réentraîner |
| Citations des pages sources | Oui, à partir des passages retrouvés | Non |
| Contrôle d'accès par utilisateur | Filtrer les passages à la recherche | Impossible à l'intérieur des poids |
| Retirer un document | Le supprimer de l'index | Réentraîner sans lui |
| Données nécessaires | Les documents et un jeu de questions de test | Des exemples d'entrées et de sorties sélectionnés |
| Calcul on-premise supplémentaire | Modèle d'embeddings et index de recherche | Sessions d'entraînement sur GPU |
| Défaillance typique | La recherche rate le bon passage | Réponses assurées sans source ; perte de compétences générales |
La ligne « point fort » suit le guide d'OpenAI sur l'optimisation de la précision, qui oriente vers la recherche documentaire pour les connaissances obsolètes ou propriétaires et vers le fine-tuning pour un comportement irrégulier, et souligne que les deux méthodes s'additionnent au lieu de s'exclure.
Quand le fine-tuning a-t-il du sens pour un assistant industriel ?
Le fine-tuning se justifie quand on peut montrer le comportement attendu par des exemples et qu'un bon prompt n'arrive toujours pas à l'obtenir de façon fiable :
- Un format de sortie imposé. Projets d'ordres de travail, consignes de relève de poste ou constats d'inspection qui doivent suivre le modèle attendu par votre GMAO ou votre outil de reporting.
- La classification. Trier des comptes rendus de maintenance en texte libre par mode de défaillance, classe d'équipement ou criticité.
- Le style de réponse. Toujours citer le numéro de document, la révision et la page de la même façon, ou refuser avec une formule fixe quand les documents ne disent rien.
- L'efficacité. OpenAI cite parmi les raisons de faire du fine-tuning le fait d'atteindre la même précision avec moins de tokens ou un modèle plus petit (OpenAI). Sur vos propres GPU, un modèle plus petit signifie plus d'utilisateurs par serveur.
- Une meilleure exploitation des passages retrouvés. La méthode RAFT entraîne un modèle à ignorer les documents retrouvés qui n'aident pas à répondre et à citer le passage qui y répond. Elle a amélioré les résultats du RAG spécialisé sur les jeux de données PubMed, HotpotQA et Gorilla (Zhang et al., 2024).
Il faut moins d'exemples que beaucoup d'équipes ne le pensent. Le guide de fine-tuning d'OpenAI fixe un minimum de 10 exemples et recommande de commencer avec 50 démonstrations soignées, puis d'évaluer ; si 50 exemples n'ont aucun effet, il conseille de revoir la tâche ou le prompt avant d'ajouter des données (OpenAI). Ces chiffres concernent le service hébergé d'OpenAI, mais le principe vaut aussi pour les modèles open-weight.
Combien coûte le fine-tuning sur vos propres GPU ?
Moins qu'avant. Par rapport au fine-tuning complet de GPT-3 175B, LoRA a divisé par 10 000 le nombre de paramètres entraînables et par 3 le besoin en mémoire GPU (Hu et al., 2021). QLoRA, qui entraîne des adaptateurs LoRA sur un modèle quantifié en 4 bits, a permis de fine-tuner un modèle de 65 milliards de paramètres sur un seul GPU de 48 Go (Dettmers et al., 2023).
Il y a un compromis. Une étude a montré que, dans les configurations de faible rang habituelles, LoRA fait nettement moins bien que le fine-tuning complet en programmation et en mathématiques, mais préserve mieux les performances du modèle de base hors du domaine ciblé (Biderman et al., 2024). Pour un assistant qui doit encore lire des documents en français et en arabe et raisonner de façon générale, oublier moins vaut souvent mieux qu'apprendre plus.
Le déploiement est simple. vLLM peut servir des adaptateurs LoRA via son serveur compatible avec l'API OpenAI, plusieurs adaptateurs peuvent partager un même modèle de base, et chaque requête choisit son adaptateur via le paramètre model (documentation vLLM). La même documentation avertit que le chargement dynamique d'adaptateurs en cours d'exécution présente des risques de sécurité et ne doit pas être utilisé en production hors d'un environnement isolé et entièrement de confiance.
Le coût principal est humain : construire les exemples, mener les évaluations, et refaire les deux quand le modèle de base change. Pour le matériel, voir dimensionner le matériel et les GPU d'un LLM on-premise ; pour le budget complet, combien coûte un projet d'IA industrielle.
Quels sont les risques du fine-tuning sur des données d'usine ?
Les données d'entraînement peuvent être extraites. Carlini et al. (2020) ont récupéré des centaines de séquences mot pour mot des données d'entraînement de GPT-2, dont des noms, numéros de téléphone et adresses e-mail, même quand une séquence n'apparaissait que dans un seul document d'entraînement, et ont constaté que les grands modèles étaient plus vulnérables que les petits. Considérez tout ce qui entre dans les poids comme lisible par chaque utilisateur du modèle.
Pas de droits d'accès par utilisateur. Avec le RAG, un technicien qui ne peut pas ouvrir un dossier d'enquête HSE n'en reçoit jamais de passage, car la recherche filtre selon l'utilisateur. Un modèle fine-tuné n'a pas cette barrière. Ne faites de fine-tuning que sur des données que chaque utilisateur de ce modèle a le droit de voir.
Exemples empoisonnés ou erronés. L'OWASP classe l'empoisonnement des données et des modèles en LLM04 de son Top 10 2025 et cite le fine-tuning parmi les étapes où des données manipulées peuvent introduire des vulnérabilités ou des portes dérobées. Il recommande de tracer l'origine des données, de versionner les jeux de données et de mener des exercices de red teaming (OWASP LLM04:2025). Une procédure périmée restée dans les données d'entraînement est une version plus discrète du même problème.
Données personnelles. Les journaux de maintenance et les rapports de poste citent des personnes. En Algérie, la loi 18-07, modifiée par la loi 25-11 du 24 juillet 2025, soumet les transferts de données personnelles vers l'étranger à l'autorisation de l'autorité nationale et impose une analyse d'impact pour les traitements susceptibles d'engendrer un risque élevé, selon le guide CMS. Envoyer de telles données à un service de fine-tuning étranger pose directement la question du transfert. Vérifiez l'application de ces règles à votre cas avec un conseil juridique.
L'entraînement on-premise, ou dans un environnement air-gapped, supprime la question du transfert mais pas les autres risques.
Peut-on combiner RAG et fine-tuning ?
Oui, et les gains peuvent s'additionner. Dans une étude sur des questions agricoles, le fine-tuning a augmenté la précision de plus de 6 points et le RAG a ajouté 5 points supplémentaires (Balaguer et al., 2024). La répartition habituelle : la recherche documentaire apporte les faits et les citations ; un fine-tuning léger, s'il est vraiment nécessaire, rend le modèle fiable sur le format et la tâche.
Quand l'assistant rédige des ordres de travail ou interroge l'ERP au lieu de seulement répondre, une personne doit valider chaque action. Voir chatbot, copilote ou agent IA et les agents IA avec validation humaine.
Comment décider, étape par étape ?
- Écrire d'abord le jeu d'évaluation. Recueillir de vraies questions et tâches auprès des techniciens et ingénieurs, avec les bonnes réponses et les passages sources. Le guide d'OpenAI part d'une base d'au moins 20 questions aux réponses connues et conseille de n'investir dans le fine-tuning qu'une fois les évaluations en place (guide sur la précision ; guide sur le fine-tuning). Pour une usine, inclure des questions dans chaque langue utilisée par vos équipes et des questions auxquelles les documents ne répondent pas.
- Commencer par un bon prompt sur un modèle open-weight performant. Selon OpenAI, l'ingénierie de prompt est en général le meilleur point de départ.
- Ajouter le RAG sur un périmètre documentaire pilote, avec recherche hybride, citations et filtrage par habilitations.
- Trier chaque échec restant. Des faits faux ou manquants relèvent du contexte : corriger l'OCR, le découpage, la recherche ou les documents eux-mêmes. Des faits justes sous une mauvaise forme relèvent du comportement.
- Ne faire du fine-tuning que pour les problèmes de comportement qui persistent. Commencer avec une cinquantaine d'exemples propres et un adaptateur LoRA, et comparer le résultat au jeu d'évaluation.
- Placer l'adaptateur sous gestion des modifications. Versionner les données d'entraînement, relancer les évaluations à chaque changement du modèle de base ou de l'adaptateur, et journaliser quel adaptateur a produit quelle réponse.
Ce que nous avons constaté chez KABAS AI
DALILE, notre assistant on-premise pour la connaissance industrielle, est conçu comme un système multi-agents qui analyse les documents techniques et se connecte aux ERP, CRM, GED et bases de données, avec un déploiement entièrement on-premise et des données sous le contrôle du client. Cette conception suit la logique exposée plus haut : la connaissance d'une usine vit dans des documents et des systèmes qui changent sans cesse, donc l'assistant les lit au moment de la question au lieu d'en porter une copie figée dans ses poids.
Nos conseils pour cadrer un assistant privé :
- Consacrer les premières semaines aux documents, à la recherche documentaire et au jeu de test, pas à l'entraînement.
- Ne pas attendre du fine-tuning qu'il compense une documentation absente ou désordonnée. Il ne réparera pas un manuel jamais numérisé ni une procédure dont trois révisions circulent.
- Quand une sortie précise est exigée, comme un modèle de rapport, essayer d'abord des consignes et des exemples dans le prompt, et n'entraîner un adaptateur que si l'évaluation montre un écart qui persiste.
- Conserver les poids fine-tunés, les données d'entraînement et les résultats d'évaluation sur l'infrastructure du client et sous sa propriété.
Si vous construisez des assistants qui agissent sur les systèmes de l'usine, nos services d'IA agentique couvrent la conception et le déploiement. Le guide de l'IA souveraine on-premise couvre l'infrastructure et la gouvernance.
Sources
- Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (arXiv, 2020)
- Ovadia et al., Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs (arXiv, 2023)
- Gekhman et al., Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations? (arXiv, 2024)
- Balaguer et al., RAG vs Fine-tuning: Pipelines, Tradeoffs, and a Case Study on Agriculture (arXiv, 2024)
- Zhang et al., RAFT: Adapting Language Model to Domain Specific RAG (arXiv, 2024)
- Hu et al., LoRA: Low-Rank Adaptation of Large Language Models (arXiv, 2021)
- Dettmers et al., QLoRA: Efficient Finetuning of Quantized LLMs (arXiv, 2023)
- Biderman et al., LoRA Learns Less and Forgets Less (arXiv, 2024)
- Carlini et al., Extracting Training Data from Large Language Models (arXiv, 2020)
- Hugging Face, documentation PEFT
- OpenAI, Optimizing LLM accuracy
- OpenAI, Supervised fine-tuning
- Documentation vLLM, adaptateurs LoRA
- OWASP, LLM04:2025 Data and Model Poisoning
- Guide d'expert CMS sur la protection des données et la cybersécurité : Algérie
Questions fréquentes
Le fine-tuning peut-il apprendre à un modèle de langage le contenu de nos documents techniques ?
Pas de façon fiable. Dans les comparaisons publiées, la génération augmentée par récupération (RAG) a fait mieux que le fine-tuning non supervisé pour apporter des connaissances, et le fine-tuning sur des faits que le modèle ne connaissait pas a augmenté sa tendance à halluciner. Le RAG permet aussi de citer pour chaque réponse la page d'origine, ce que le fine-tuning ne permet pas.
Quand le fine-tuning vaut-il la peine pour un assistant industriel ?
Quand le problème porte sur le comportement et non sur les connaissances : un format de sortie imposé comme un modèle d'ordre de travail, la classification de comptes rendus en texte libre, un style de réponse constant, ou un modèle plus petit qui doit bien faire une tâche précise. Essayez d'abord le prompt et le RAG, et ne faites du fine-tuning que pour les échecs qui persistent sur votre jeu d'évaluation.
Peut-on combiner RAG et fine-tuning ?
Oui. La recherche documentaire apporte les faits et les citations, et un fine-tuning léger peut rendre le modèle plus constant sur le format ou la tâche. Dans une étude publiée, les gains de précision du fine-tuning et du RAG se sont additionnés.
Faut-il de gros serveurs GPU pour faire du fine-tuning on-premise ?
Moins qu'auparavant. Les méthodes efficaces en paramètres comme LoRA n'entraînent que de petites matrices ajoutées, et QLoRA a permis de fine-tuner un modèle de 65 milliards de paramètres sur un seul GPU de 48 Go. Le coût principal est généralement humain : construire les exemples d'entraînement et mener les évaluations.
Est-il sûr de fine-tuner un modèle sur des données confidentielles ou personnelles ?
Considérez tout ce qui entre dans les données d'entraînement comme lisible par chaque utilisateur du modèle. Des travaux ont montré qu'on peut extraire d'un modèle de langage des passages mot pour mot de ses données d'entraînement, y compris des données personnelles, et un modèle fine-tuné ne peut pas appliquer de droits d'accès par utilisateur. Gardez plutôt les données personnelles et restreintes dans un index RAG filtré par habilitations, et vérifiez vos obligations de protection des données avec un conseil juridique.



