Table des Matières
Cela dépend du produit et du contrat, pas du nom du fournisseur. Les grands fournisseurs affirment ne pas entraîner leurs modèles sur les données de l'API ou des offres professionnelles par défaut, alors que les offres gratuites et grand public peuvent le faire. Mais « pas d'entraînement » n'est qu'une question : demandez par écrit la conservation, la revue humaine, les journaux, les embeddings, les retours utilisateurs et le lieu de traitement.
Points clés
- Un même fournisseur peut appliquer des règles différentes selon l'offre. Google utilise le contenu envoyé aux services gratuits de l'API Gemini pour améliorer ses produits, mais pas les prompts envoyés à ses services payants (Google).
- Les conditions changent. En 2025, Anthropic a demandé aux utilisateurs de ses offres grand public de choisir si leurs conversations peuvent entraîner ses modèles, avec une conservation portée à cinq ans pour ceux qui acceptent (Anthropic).
- Les modèles peuvent mémoriser leurs données d'entraînement, et les journaux, les stockages de détection des abus et les embeddings conservent des copies de vos contenus même sans entraînement.
- Le déploiement on-premise règle la plupart de ces questions, mais vérifiez ce que le logiciel envoie encore vers l'extérieur.
- Inscrivez les réponses dans le contrat. Si des données personnelles sont en jeu, vérifiez la loi algérienne 18-07 avec un avocat.
Pourquoi est-il important de savoir si un fournisseur s'entraîne sur vos données ?
Parce qu'un modèle peut restituer ce sur quoi il a été entraîné. Carlini et ses collègues ont extrait de GPT-2 des textes d'entraînement mot pour mot, dont des noms, numéros de téléphone, adresses e-mail et du code, alors même que chacune de ces séquences ne figurait que dans un seul document des données d'entraînement (Carlini et al.). Une étude ultérieure a extrait des gigaoctets de données d'entraînement de modèles ouverts et montré que ChatGPT, soumis à une « attaque par divergence », restituait des données d'entraînement 150 fois plus souvent qu'en usage normal (Nasr et al.).
Un guide conjoint de la CISA et d'agences partenaires, publié en décembre 2025, applique ce constat aux usines. Si des mesures procédé servent à entraîner ou mettre à jour un modèle, ces données peuvent devenir accessibles ou rester stockées (statistiquement) plus longtemps dans le modèle. Le même guide note que les exploitants peuvent ne pas vouloir que leurs fournisseurs entraînent l'IA sur leurs données d'exploitation, qui peuvent contenir de la propriété intellectuelle ou être sensibles, et recommande une politique d'usage des données couvrant la résidence des données, les chemins de communication, le chiffrement et le stockage (CISA et al.).
Pour une entreprise industrielle, l'enjeu porte sur les formulations, les recettes de procédé, les plans d'équipements et les historiques de pannes. Les supprimer plus tard n'annule pas un entraînement déjà effectué : l'annonce d'Anthropic, par exemple, précise que les conversations supprimées ne serviront pas aux entraînements futurs. L'OWASP cite la « fuite via les données d'entraînement » parmi ses scénarios de divulgation d'informations sensibles, et recommande de permettre aux utilisateurs de refuser l'entraînement et de tenir des politiques claires de conservation, d'usage et de suppression (OWASP LLM02:2025).
Que disent les conditions des principaux fournisseurs ?
Le tableau résume les conditions publiées, vérifiées en novembre 2026. Elles évoluent : lisez la version en vigueur pour le produit exact que vous utilisez.
| Service | Utilisé par défaut pour entraîner ou améliorer des modèles ? | Ce qui est conservé |
|---|---|---|
| API OpenAI | Non, sauf si vous l'acceptez (OpenAI) | Journaux de détection des abus jusqu'à 30 jours par défaut ; les fichiers, les vector stores et certaines autres fonctions conservent les données jusqu'à leur suppression ; la conservation zéro nécessite l'accord d'OpenAI |
| Anthropic Claude Free, Pro et Max | L'utilisateur choisit (Anthropic) | Cinq ans si l'utilisateur accepte l'entraînement, sinon 30 jours |
| Services commerciaux d'Anthropic, dont l'API | Non : Anthropic ne peut pas entraîner de modèles sur le contenu client issu des services (Anthropic) | Non précisé dans la clause citée |
| API Gemini de Google, offre gratuite | Oui, et des évaluateurs humains peuvent lire, annoter et traiter les entrées et sorties (Google) | Google demande de ne pas soumettre d'informations sensibles, confidentielles ou personnelles |
| API Gemini de Google, offre payante | Non (Google) | Prompts et réponses journalisés pendant une durée limitée pour détecter les violations des règles d'usage |
| Modèles Microsoft Foundry vendus par Azure, dont Azure OpenAI | Non, et non accessibles à OpenAI (Microsoft) | Les prompts et réponses signalés peuvent être stockés pour revue humaine, sauf si la détection des abus modifiée est accordée |
| Slack | Les données clients sont analysées pour construire des modèles non génératifs, comme les recommandations d'emojis et de canaux ; pas d'entraînement d'IA générative sans accord explicite (Slack) | Refuser les modèles globaux exige un e-mail du propriétaire de l'espace de travail |
Deux tendances ressortent. Les offres gratuites et grand public sont celles où l'entraînement est autorisé, ou laissé au choix de l'utilisateur. Et les offres professionnelles qui excluent l'entraînement conservent tout de même certaines données pendant un temps, pour la détection des abus ou pour les fonctions que vous activez.
« Nous ne nous entraînons pas sur vos données » : est-ce suffisant ?
Non. Cela ferme une voie. Quatre autres restent ouvertes.
Conservation et revue humaine. Les données conservées pour la détection des abus peuvent être lues par des personnes. Microsoft décrit des employés habilités qui examinent les prompts et réponses signalés ; les clients bénéficiant de la détection des abus modifiée échappent à ce stockage (Microsoft).
Décisions de justice. Le 13 mai 2025, dans le procès intenté par le New York Times, un tribunal américain a ordonné à OpenAI de conserver et d'isoler toutes les données de journaux de sortie qui auraient autrement été supprimées, y compris les sorties de l'API normalement conservées 30 jours. Les clients sous accord de conservation zéro en étaient exclus, et l'ordonnance a été levée, avec des exceptions, en octobre 2025 (Simon Willison). Une promesse de conservation ne tient que tant que les tribunaux du pays du fournisseur le permettent. Notre guide de l'IA souveraine on-premise approfondit la question de la juridiction.
Données dérivées. Les embeddings, les vecteurs qu'un système RAG stocke pour la recherche, ne sont pas anonymes. Des chercheurs ont reconstitué à l'identique 92 % de textes de 32 tokens à partir de leurs embeddings, ainsi que des noms complets dans un jeu de notes cliniques (Morris et al.). Un index vectoriel hébergé chez le fournisseur est une copie de vos documents.
Lieu de traitement. Le lieu de stockage et le lieu de traitement peuvent différer. Avec les déploiements « Global » de Microsoft, les prompts et les réponses peuvent être traités dans n'importe quelle zone géographique où le modèle est déployé, tandis que les données stockées restent dans la zone choisie (Microsoft).
Surveillez aussi la formulation. « Pas utilisé pour entraîner des modèles génératifs » est plus étroit que « pas utilisé pour améliorer un produit », comme le montre la distinction faite par Slack.
Quelles questions poser à tout fournisseur d'IA ?
Envoyez-les par écrit et demandez la clause contractuelle ou le document qui appuie chaque réponse. Elles vont plus loin sur l'usage des données que la question 2 de nos 15 questions pour choisir un fournisseur d'IA industrielle.
- Quelles données recevez-vous de notre part ? Prompts, fichiers téléversés, passages de documents récupérés pour chaque réponse, sorties, évaluations des utilisateurs, journaux, embeddings et télémétrie.
- Une partie de ces données sert-elle à entraîner, affiner, évaluer ou améliorer un modèle ou un produit, pour nous ou pour d'autres ? Posez aussi la question pour les modèles non génératifs, et demandez si le principe par défaut est l'acceptation explicite (opt-in) ou le refus explicite (opt-out).
- Quelles conditions s'appliquent à nos comptes ? Les essais gratuits, les comptes de pilote et les comptes personnels des employés relèvent souvent de conditions différentes du contrat entreprise.
- Qu'est-ce qui est conservé, où, combien de temps, et qui peut le lire ? Incluez les stockages de détection des abus, les sauvegardes et les évaluateurs humains.
- Pouvons-nous obtenir une conservation zéro, et quelles fonctions perdons-nous ? OpenAI, par exemple, liste les fonctions qui conservent les données jusqu'à leur suppression.
- Où les données sont-elles traitées, et pas seulement stockées ? Demandez la liste des sous-traitants et de leurs pays.
- Que se passe-t-il si un tribunal ou un gouvernement exige nos données ? Sous quelle juridiction, et nous préviendrez-vous lorsque la loi le permet ?
- À qui appartiennent les modèles affinés et les index construits à partir de nos données ? Microsoft, par exemple, indique que les modèles affinés sont exclusivement disponibles pour le client dont les données ont été utilisées.
- Comment nous informerez-vous des changements de ces conditions, et pouvons-nous les refuser ?
- Comment pouvons-nous vérifier vos réponses ? Paramètres que nous pouvons contrôler, rapports d'audit, et confirmation écrite de la suppression en fin de contrat.
Faire tourner le modèle on-premise règle-t-il la question ?
En grande partie. Si un modèle open-weight tourne sur vos propres serveurs, aucun prestataire externe ne voit vos prompts ni vos documents. Mais un logiciel peut encore communiquer avec l'extérieur.
vLLM, un serveur d'inférence open source, collecte par défaut des données d'usage anonymes, comme le matériel et l'architecture du modèle ; les variables VLLM_NO_USAGE_STATS ou DO_NOT_TRACK désactivent cette collecte (vLLM). Ollama indique ne pas voir les prompts lorsque les modèles tournent en local, mais propose aussi des modèles cloud et la recherche web, désactivables par un mode local uniquement, et télécharge les modèles depuis Internet (Ollama). Aucun des deux ne pose de risque d'entraînement, mais tous deux montrent pourquoi « on-premise » doit être vérifié.
Pour un produit on-premise packagé, demandez : se connecte-t-il à l'extérieur pour des contrôles de licence, de la télémétrie, des rapports de plantage ou des mises à jour ? Le support a-t-il besoin d'un accès à distance ? Le fournisseur récupère-t-il parfois des journaux ou des échantillons pour améliorer le produit ? Demandez la liste des connexions sortantes et comparez-la aux journaux de votre pare-feu. Notre article sur le déploiement d'IA en environnement isolé (air-gapped) traite des sites d'où rien ne doit sortir, et sécuriser un LLM on-premise couvre les journaux que vous conservez vous-même.
Que doit prévoir le contrat ?
- Une définition des données client couvrant les entrées, les sorties, les fichiers, les embeddings, les journaux et les retours utilisateurs.
- L'interdiction d'utiliser les données client pour entraîner ou améliorer un modèle ou un produit, avec des exceptions uniquement par accord écrit.
- Des durées de conservation pour chaque type de données, et une suppression avec confirmation écrite.
- La liste des sous-traitants et des lieux de traitement, avec un préavis avant tout changement.
- L'information en cas de demande légale portant sur vos données, lorsque la loi le permet.
- La propriété, ou l'usage exclusif, des modèles affinés, des configurations et des index.
Le droit algérien. Selon le guide CMS, la loi 18-07, modifiée par la loi 25-11, n'autorise le transfert de données personnelles vers un État étranger qu'avec l'autorisation de l'autorité nationale et si cet État assure un niveau de protection suffisant, sauf exceptions prévues. Le guide indique aussi que le sous-traitant doit agir dans le cadre d'un contrat écrit et uniquement sur instruction du responsable du traitement. Les rapports de maintenance et les cahiers de quart citent souvent des employés : demandez à votre avocat comment un fournisseur qui réutilise ces données pour ses propres modèles s'inscrit dans ces règles. Il s'agit du résumé d'un guide de cabinet d'avocats, pas d'un avis juridique ; faites confirmer par un avocat sur la base des textes officiels. Notre guide de rédaction d'un cahier des charges IA montre comment intégrer ces conditions dans un appel d'offres.
Ce que nous avons constaté chez KABAS AI
Nous vendons un produit on-premise : nous avons donc un intérêt dans cette question. Posez-nous les mêmes dix questions.
DALILE fonctionne entièrement hors ligne sur les serveurs du client, et sa page produit indique que rien n'est envoyé vers des serveurs externes, avec chiffrement, contrôle d'accès et journalisation d'audit. Cela supprime la question de l'entraînement pour les documents et bases de données qu'il consulte. Restent les questions sur vos propres journaux, sur ce à quoi nos équipes peuvent accéder pendant le support, et sur la manière dont arrivent les mises à jour ; demandez-nous ces réponses par écrit. Côté R&D, l'étude de cas ADFC publiée décrit un déploiement souverain qui garantit le contrôle total des données au sein de l'environnement IT de Sonatrach.
Deux étapes pratiques avant toute discussion avec un fournisseur. D'abord, classez vos données : ce qui peut sortir du site, ce qui ne le peut pas, et ce qui contient des données personnelles. Ensuite, vérifiez quels outils d'IA vos équipes utilisent déjà avec des comptes personnels ou gratuits, car ce sont les offres où l'entraînement a le plus de chances d'être autorisé, comme le montre le tableau ci-dessus. Pour comparer les options d'hébergement, voir cloud souverain, cloud privé ou on-premise.
Notre équipe conseil peut examiner avec vous les conditions d'un fournisseur à la lumière de ces questions. Pour voir DALILE sur vos propres documents, contactez-nous.
Sources
- OpenAI, Data controls in the OpenAI platform
- Anthropic, Updates to Consumer Terms and Privacy Policy, 28 août 2025
- Anthropic, Commercial Terms of Service
- Google, Gemini API Additional Terms of Service
- Microsoft, Data, privacy, and security for Foundry Models sold by Azure
- Slack, Privacy principles: search, learning and artificial intelligence
- Carlini et al., Extracting Training Data from Large Language Models, arXiv 2012.07805
- Nasr et al., Scalable Extraction of Training Data from (Production) Language Models, arXiv 2311.17035
- Morris et al., Text Embeddings Reveal (Almost) As Much As Text, arXiv 2310.06816
- CISA, ASD's ACSC et al., Principles for the Secure Integration of Artificial Intelligence in Operational Technology, 3 décembre 2025
- OWASP, LLM02:2025 Sensitive Information Disclosure
- Simon Willison, OpenAI slams court order to save all ChatGPT logs, including deleted chats, 5 juin 2025
- Documentation vLLM : Usage Stats Collection
- FAQ Ollama
- CMS Expert Guide to data protection and cyber security laws: Algeria
Questions fréquentes
Les fournisseurs d'IA entraînent-ils leurs modèles sur les données envoyées via leur API ?
Les grands fournisseurs disent généralement non pour les usages payants et professionnels. OpenAI indique que les données de l'API ne servent pas à entraîner ses modèles sauf si vous l'acceptez, les conditions commerciales d'Anthropic lui interdisent d'entraîner des modèles sur le contenu client, et Google n'utilise pas les prompts des services payants de l'API Gemini pour améliorer ses produits. Les offres gratuites peuvent différer : vérifiez les conditions du produit et de l'offre exacts que vous utilisez.
Suffit-il que le fournisseur anonymise nos données avant l'entraînement ?
Demandez ce que signifie « anonymisé » et comment cela a été testé. Des travaux de recherche ont montré que les modèles de langage peuvent mémoriser des séquences qui n'apparaissent qu'une seule fois dans leurs données d'entraînement, et qu'un texte peut être en grande partie reconstitué à partir de ses embeddings. Pour des données industrielles, retirer les noms ne protège pas le savoir-faire lui-même, comme une formulation ou une fenêtre opératoire.
Si nous supprimons nos données, sont-elles retirées du modèle ?
La suppression retire les fichiers et les conversations du stockage du fournisseur selon ses règles de conservation, mais elle n'annule pas un entraînement déjà effectué. L'annonce d'Anthropic de 2025, par exemple, précise que les conversations supprimées ne serviront pas aux entraînements futurs. C'est pourquoi la question de l'entraînement doit être réglée avant d'envoyer la moindre donnée.
Un système d'IA on-premise envoie-t-il des données au fournisseur ?
Il ne devrait pas envoyer vos contenus, mais vérifiez tout ce qui sort du réseau : télémétrie, contrôles de licence, mises à jour et support à distance. Certains composants open source envoient par défaut des statistiques d'usage anonymes ; c'est le cas de vLLM, qui documente comment les désactiver. Demandez au fournisseur la liste de toutes les connexions sortantes et vérifiez-la dans les journaux de votre pare-feu.
Que dit le droit algérien sur l'envoi de données d'entreprise à un fournisseur d'IA à l'étranger ?
La loi 18-07 couvre les données à caractère personnel. Selon le guide juridique de CMS, le transfert de données personnelles vers un État étranger nécessite l'autorisation de l'autorité nationale, l'ANPDP, et un niveau de protection suffisant, sauf exceptions prévues. Les données non personnelles, comme les formulations, sont protégées principalement par votre contrat et vos clauses de confidentialité. Faites confirmer votre cas par un avocat.



