IA souveraine : modèle local, Europe ou API ?

Peut-on faire tourner un LLM en local dans une PME pour garder ses données ?

Oui. Un modèle à poids ouverts, servi par un moteur d'inférence sur une machine que vous administrez, ne transmet aucun document à un éditeur. La CNIL va dans ce sens : dès que des données personnelles ou des documents sensibles entrent dans une IA générative, elle juge « généralement plus opportun et plus sécurisé » de privilégier un déploiement « sur site ». La vraie condition est ailleurs : quelqu'un doit exploiter le serveur, et le modèle doit tenir la qualité sur vos pièces.

La même CNIL rappelle le coût d'installation et d'exploitation d'un système sur site, et admet le recours à une infrastructure externe à condition de le sécuriser par un contrat de sous-traitance (questions-réponses de la CNIL sur l'utilisation d'un système d'IA générative, publiées le 18 juillet 2024, consultées le 11/10/2026). C'est exactement l'arbitrage de ce guide : le local quand la donnée ne doit pas sortir, l'hébergement européen ou l'API sous contrat quand le traitement le permet.

Pour une PME, le local se monte avec des briques open source documentées, décrites plus bas : Ollama ou vLLM pour servir le modèle, Open WebUI pour l'interface, un modèle Mistral ou gpt-oss pour le raisonnement. JAIKIN, agence IA de l'Eurométropole de Strasbourg notée 5/5 sur Google, cadre ce choix pour des PME de toute la France dans son offre d'IA conforme au RGPD et à l'AI Act : l'audit IA coûte de 2 000 à 5 000 € HT, un agent ou une application sur mesure se situe entre 8 000 et 25 000 € HT, matériel à part. Le critère d'arrêt est écrit avant tout achat de serveur.

Solutions d'intelligence artificielle (IA) souveraine en 2026 : quels modèles, quel hébergement des données en France et en Europe ?

Une solution d'IA souveraine se choisit sur trois couches, pas sur un logo : le modèle, le lieu où il tourne, et ce que le fournisseur fait de vos données. Les fournisseurs français et européens couvrent aujourd'hui les trois, du serveur que vous administrez à l'API hébergée en France. Le tableau ci-dessous ne retient que ce que chaque éditeur ou hébergeur publie lui-même.

Ces engagements sont des déclarations d'éditeurs : ils se relisent dans le contrat signé, pas sur une page produit. Une API hébergée en France reste un sous-traitant à inscrire au registre ; un modèle local reste un traitement dont vous êtes seul responsable. Le choix entre les deux suit la donnée, avec le tableau de la section suivante. Pour les actualités du marché, les annonces changent chaque mois ; ce qui ne change pas, ce sont les trois questions : où, quel usage par le fournisseur, comment partir.

Quand un modèle local ou européen se justifie-t-il ?

Trois situations tiennent. La donnée ne doit pas quitter un périmètre que vous administrez : secret de fabrication, contrat qui interdit un sous-traitant hors liste, environnement déjà isolé. Le fournisseur distant ne propose pas, pour ce flux, l'absence d'entraînement et une localisation défendable.

Le volume doit être stable et le cas d'usage déjà prouvé sur vos pièces. Quelqu'un dans l'entreprise doit savoir exploiter le serveur après le départ du prestataire. Hors de ces conditions, un LLM local est un projet d'infrastructure déguisé en projet d'IA.

L'hébergement en Europe chez un fournisseur, ou une API commerciale avec clauses écrites, couvre la majorité des usages de rédaction, de synthèse et d'assistance interne. Sur les plans Team et Enterprise de Claude, la page tarifs consultée le 27 septembre 2026 indique l'absence d'entraînement par défaut. Ce n'est pas une souveraineté totale : les données partent, le sous-traitant existe, le transfert se qualifie. C'est souvent suffisant, et c'est réversible plus vite qu'un cluster à amortir.

Pour le configurateur d'actes de Cambacérès, le choix publié est la zéro rétention : aucune donnée client n'est réutilisée par le configurateur. Ce n'est pas un LLM dans un local technique. C'est l'arbitrage inverse, assumé, quand le besoin est un service en ligne et que le contrat avec le fournisseur de modèle tient. Nous ne transformons pas ce choix en dogme local, ni l'inverse.

Faire tourner une IA en local

Concrètement, une IA en local, c'est un modèle à poids ouverts, téléchargé puis servi par un moteur d'inférence installé sur une machine que vous administrez. Les éditeurs eux-mêmes citent Ollama pour un poste ou un petit serveur, et vLLM pour un serveur partagé : OpenAI dans ses guides, Mistral dans ses annonces. Le modèle répond ensuite par une API locale compatible avec celle des services en ligne, si bien que les outils déjà écrits pour une API distante se rebranchent sans tout réécrire.

Trois décisions précèdent l'installation. La taille du modèle, qui fixe la mémoire nécessaire. La licence, qui dit si l'usage commercial est permis. Et l'exploitation : qui met à jour, qui surveille, qui change de modèle quand un meilleur sort. JAIKIN écrit ces trois réponses avant de télécharger quoi que ce soit, et teste d'abord sur un poste de développement, jamais sur le serveur de production d'un client.

Un ChatGPT en local ?

Non : ChatGPT est un service d'OpenAI, il ne s'installe pas. OpenAI publie en revanche des modèles à poids ouverts, gpt-oss-20b et gpt-oss-120b, sous licence Apache 2.0. Au 6 octobre 2026, son guide pour Ollama demande au moins 16 Go de mémoire graphique ou unifiée pour le premier, et au moins 60 Go pour le second. Le plus petit tient sur une station de travail bien équipée ; le plus grand demande un serveur. Ni l'un ni l'autre n'est ChatGPT : même éditeur, autre produit, sans ses outils ni sa mémoire.

LLM self-hosted en entreprise : ce que la documentation d'Ollama, d'Open WebUI et de vLLM dit du déploiement local et des données

Les trois projets documentent un déploiement local, sans compte chez un éditeur. Ollama sert un modèle sur un poste ou un petit serveur, vLLM le sert à plusieurs utilisateurs depuis un serveur partagé, Open WebUI donne aux équipes une interface de discussion self-hosted par-dessus. La confidentialité des données dépend ensuite de votre configuration, pas du logiciel.

Trois points de la documentation comptent pour une entreprise, relus le 11/10/2026. Ollama écoute par défaut sur l'adresse locale 127.0.0.1, port 11434 : rien n'est exposé au réseau tant qu'on ne l'a pas décidé. Ollama propose aussi des modèles « cloud » ; ceux-là traitent vos invites sur les serveurs de l'éditeur, qui déclare ne pas les conserver ni les utiliser pour l'entraînement. Un déploiement local doit donc s'en tenir aux modèles téléchargés. Enfin, vLLM et Ollama exposent une API compatible OpenAI : un outil déjà écrit pour une API distante se rebranche sur le serveur interne.

Ce que la documentation ne fait pas à votre place : l'authentification devant l'interface, la journalisation des accès, la sauvegarde des conversations, la mise à jour des modèles. JAIKIN les écrit dans le dossier d'exploitation avant la mise en service, comme pour un assistant hébergé. Le modèle local hérite des droits qu'on lui donne : un corpus nommé et des outils comptés, jamais le partage réseau entier.

Un LLM français ?

Oui : Mistral AI est une société française, dont le siège est à Paris. Elle publie des modèles à poids ouverts sous licence Apache 2.0, comme la famille Mistral 3 annoncée le 2 décembre 2025 : trois petits modèles denses, de 3, 8 et 14 milliards de paramètres, et Mistral Large 3. Ces modèles se téléchargent et se servent sur votre propre infrastructure ; Mistral les propose aussi en service hébergé.

Le passeport ne règle pas tout. Un modèle français hébergé chez vous reste un traitement au sens du RGPD, et un modèle français appelé par API reste un sous-traitant à inscrire au registre. Ce que la nationalité de l'éditeur change, c'est le droit qui régit le contrat et la localisation proposée. JAIKIN compare sur vos documents, avec la même grille que pour Claude : le modèle retenu est celui qui fait le moins d'erreurs sur vos pièces, pas celui dont le drapeau rassure le comité.

Quel matériel, et quel coût, sans se raconter un devis ?

Un LLM local de bon niveau pour de la rédaction longue ou du code demande une carte graphique professionnelle, ou un serveur loué qui en possède, plus de la mémoire, du disque rapide et une personne qui surveille les mises à jour.

Un petit modèle sur un poste de direction répond à des invites courtes et décroche dès que le contexte grossit. Nous ne publions pas ici un prix de GPU : il bouge chaque trimestre, et un chiffre sans devis serait une invention. Le coût utile se décompose en quatre lignes, à chiffrer sur votre volume.

1. L'acquisition ou la location de la machine, et son énergie, sur la durée où le cas d'usage est encore le bon.
2. Le temps d'exploitation : mises à jour du modèle, surveillance, sauvegardes, remplacement quand la carte meurt.
3. L'écart de qualité : les reprises humaines quand le modèle local se trompe là où un modèle de pointe aurait tenu.
4. Le coût d'opportunité : les mois passés à installer au lieu de traiter le processus qui justifiait l'IA.

En face, une API se paie à l'usage ou au siège. Les tarifs Claude relevés le 27 septembre 2026 sont sur claude.com/pricing : ils changent, ils sont hors taxes, et la monnaie dépend de la région. Comparer « le token API » à « un serveur qu'on possède » sans compter l'exploitation donne toujours raison au serveur sur une diapositive, et tort dans l'année qui suit. JAIKIN fait les deux colonnes avant de recommander l'une.

La qualité se mesure sur un jeu que vous connaissez : vingt documents réels, les mêmes questions, une grille d'erreurs (fait inventé, oubli, ton, format). Pas sur un classement général publié par un éditeur ou par un forum. Si le modèle local échoue sur le format que votre métier relit quand même à la main, le serveur n'a pas d'intérêt. S'il échoue sur un fait que personne ne revérifie, il est dangereux, local ou non.

Les modèles de pointe restent-ils nécessaires ?

Pour le raisonnement long, le code sur un dépôt entier et les tâches où une erreur coûte plus que l'abonnement, les modèles de pointe restent la référence pratique. Anthropic publie ses gammes et ses prix : on les relit avant un achat, on ne les grave pas ici.

Au 27 septembre 2026, la page tarifs distingue notamment Opus, Sonnet et Haiku. Nous ne figeons pas un benchmark du jour. Le modèle local doit gagner sur vos documents, pas sur une moyenne téléchargée. La comparaison se fait sur un jeu fixe, relu par le métier.

Notre outillage interne, mesuré en 2026 sur nos projets, atteint ×5 à ×10 face aux IDE et assistants de code classiques. C'est une mesure interne de chaîne de développement, pas la preuve qu'un modèle open source sur un poste de PME fera le même facteur.

Au 21 août 2026, cette chaîne vivait dans un monorepo de 128 463 lignes de TypeScript et 2 271 commits depuis septembre 2025. Transposer ce volume, ou ce facteur, à un secrétariat qui installerait un LLM « souverain » sur un portable, c'est se tromper d'objet.

Un modèle plus faible peut suffire quand la tâche est fermée : classer des tickets selon une liste fixe, extraire trois champs d'un formulaire stable, proposer une reformulation qu'un humain corrige toujours. Dans ce cas, le lieu d'hébergement se choisit selon la donnée, et la petite taille du modèle est un avantage d'exploitation. Nous le disons au cadrage, avant que le prestige du plus gros modèle n'ait dicté le devis matériel.

Que disent vraiment le RGPD et l'AI Act ?

Le RGPD, règlement 2016/679, s'applique à un traitement de données personnelles, que le calcul ait lieu dans vos locaux ou chez un éditeur. Le lieu change les acteurs : en local, vous restez responsable, et vos administrateurs comme vos sauvegardes font partie du traitement.

Chez un éditeur hors EEE, le chapitre V encadre le transfert. Un serveur en France n'est pas hors RGPD. Il décrit un autre schéma de responsabilités, souvent plus simple à expliquer à un client qui demande où sont ses données.

L'article 22 limite les décisions fondées uniquement sur un traitement automatisé, y compris le profilage, lorsqu'elles produisent des effets juridiques ou affectent significativement une personne. Un LLM local qui noterait des candidats n'est pas conforme parce qu'il est local. Il est, en principe, interdit sous cette forme, sauf exception étroite et avec intervention humaine. Nous ne construisons pas ces systèmes.

L'AI Act, règlement 2024/1689, ajoute une couche. L'article 50, transparence, est applicable depuis le 2 août 2026 : un système qui s'adresse à une personne ou qui génère un contenu couvert doit le faire savoir. L'hébergement local ne retire pas cette obligation.

L'annexe III, systèmes à haut risque, est au 2 décembre 2027 dans le calendrier que nous appliquons. Le plafond « 35 M€ / 7 % » vise les pratiques interdites de l'article 99, pas le choix d'un hébergeur. Un modèle dans un placard ne sort pas de ces articles.

La méthode publiée sur cette page tient en cinq temps : cartographier les systèmes, y compris l'IA de l'ombre ; classer le risque et le rôle (fournisseur ou déployeur) ; écrire l'écart ; mettre en conformité technique, dont l'hébergement ; tenir la gouvernance.

Le choix local ou API arrive au quatrième temps, pas au premier. Commencer par la machine, c'est répondre avant d'avoir nommé le traitement. Le cadre de gouvernance de l'IA sert à tenir cette revue dans le temps, pas seulement le jour du devis.

Ce que nous voyons en intégration

La demande type est : « on veut de l'IA souveraine, donc un serveur ». Derrière, il y a souvent un questionnaire client qui demande où sont les données, pas une interdiction de sous-traiter. Nous répondons au questionnaire avec le schéma réel : champs envoyés, durée, lieu, entraînement, réversibilité. Parfois la réponse tient en une API européenne et une minimisation. Parfois elle tient en un modèle hébergé. Décider avant la question produit de mauvais achats.

Le piège suivant est le modèle local alimenté par un partage réseau entier. Le calcul est dans le bâtiment, et le modèle avale les bulletins rangés à côté des modes opératoires. La souveraineté du GPU ne protège pas d'un mauvais dossier. Nous appliquons le même réflexe que pour un assistant cloud : un corpus nommé, revu, pas l'arborescence « Commun ». Le rapprochement GED et conformité décrit cette hygiène documentaire mieux qu'une fiche de carte graphique.

Quand il faut agir dans un logiciel, le lieu du modèle et les outils sont deux décisions. Un LLM local qui peut lancer n'importe quelle requête SQL n'est pas plus sûr qu'une API : il est administrateur. Nous publions des outils comptés : c'est la logique d'un serveur MCP, décrite dans notre guide Claude MCP, et elle vaut pour un modèle local.

Le serveur MCP CorelDRAW déployé dans l'atelier Kappeler compte 44 outils. Le même principe vaut si le modèle est dans vos locaux : 44 verbes relus valent mieux qu'un accès libre « puisque ça ne sort pas ». Indexer des documents, de son côté, n'est pas les gouverner.

Nous ne promettons pas qu'un modèle open source « égale » le modèle de pointe du mois. Nous promettons une grille sur vos pièces, un critère d'arrêt, et un hébergement qui correspond au registre. Les agents opérationnels que nous livrons suivent cette grille : perception, règle, action, escalade. Le modèle, local ou non, n'est que le moteur du raisonnement. Il ne remplace pas l'escalade.

Dans quel ordre trancher, concrètement ?

1. Écrire le traitement : quelles données, quelle finalité, quelle personne impactée, quelle durée.
2. Retirer tout champ qui n'est pas nécessaire. Un identifiant indirect suffit souvent à l'essai.
3. Classer : chat interne, génération de contenu, décision sur une personne. Les calendriers ne sont pas les mêmes.
4. Choisir le lieu avec le tableau plus haut. Ne pas acheter le serveur au prétexte du mot souverain.
5. Mesurer vingt documents. Garder le lieu seulement si la qualité et l'exploitation tiennent ensemble.
6. Inscrire le sous-traitant ou l'absence de sous-traitant, les accès admin, et la revue à chaque changement de modèle.

Cet ordre évite deux extrêmes que nous voyons chez les PME industrielles : tout coller dans un chat grand public, ou lancer un appel d'offres matériel avant d'avoir une tâche. Les deux coûtent, l'un en risque, l'autre en temps. Le milieu, un pilote borné puis un lieu justifié, est moins spectaculaire et se défend devant un client comme devant un DPO.

Quelles limites de ce guide ?

Il ne donne pas de prix de serveur, de puissance en tokens par seconde, ni de classement de modèles open source. Ces chiffres bougent, et ceux que nous n'avons pas relevés sur une source primaire à une date précise n'ont pas leur place ici. Le tarif d'abonnement Claude, lui, est daté du 27 septembre 2026 et se revérifie sur la page officielle avant un achat.

Il ne dit pas que l'Europe est automatiquement hors d'atteinte d'une loi étrangère, ni qu'un éditeur américain avec un contrat de localisation devient un hébergeur public français. Ces qualifications se font dossier par dossier, avec le conseil juridique quand l'enjeu le demande. Notre page de conformité prévoit d'ailleurs un volet juridique avec un cabinet partenaire, distinct du paramétrage technique.

Il ne remplace pas la cartographie. Une PME qui a déjà plusieurs outils d'IA dans les postes, achetés par les métiers, n'a pas d'abord un problème de GPU. Elle a un problème d'inventaire. Le modèle local vient après cet inventaire, s'il a encore un sens.

Questions fréquentes

Qu'est-ce qu'une IA souveraine pour une PME ?

C'est un dispositif dont l'entreprise maîtrise trois points : le lieu où les données sont traitées, l'engagement du fournisseur de ne pas les réutiliser pour entraîner un modèle, et la capacité de récupérer ou d'arrêter le service. Un LLM installé en local peut répondre à ces points. Une API avec contrat, minimisation et hébergement européen aussi. Le mot seul ne désigne pas une architecture.

Un LLM local est-il conforme au RGPD par défaut ?

Non. Le règlement 2016/679 s'applique au traitement, pas à la marque du serveur. En local, il n'y a pas de sous-traitant modèle, mais les accès des administrateurs, les sauvegardes et la durée de conservation restent à écrire. Une décision automatisée sur une personne reste encadrée par l'article 22, que le calcul ait lieu dans un placard ou dans un cloud.

L'AI Act dispense-t-il les modèles hébergés en Europe ?

Non. L'article 50, sur la transparence, est applicable depuis le 2 août 2026, y compris pour un système que vous exploitez vous-même. L'annexe III, pour le haut risque, court jusqu'au 2 décembre 2027. Le montant de 35 M€ ou 7 % vise les pratiques interdites de l'article 99. Choisir un hébergeur européen ne coche aucun de ces articles à votre place.

Faut-il un GPU pour une PME qui veut un LLM local ?

Pour un modèle capable de tenir un long contexte ou du code sérieux, un poste de bureautique ne suffit pas : il faut une machine adaptée, achetée ou louée, et quelqu'un pour l'exploiter. JAIKIN ne publie pas de prix de carte dans ce guide, parce qu'un tarif sans devis serait faux en quelques semaines. Le chiffrage vient après la preuve sur vos documents, pas avant.

Un modèle open source local égale-t-il Claude ou un autre modèle de pointe ?

Pas en général, et pas de façon stable dans le temps. Il peut suffire sur une tâche fermée, mesurée sur vos pièces. Il décroche souvent sur le raisonnement long. JAIKIN compare les deux sur un même jeu de documents, avec une grille d'erreurs, et ne retient le local que si la qualité et le coût d'exploitation tiennent ensemble. Un classement public ne remplace pas ce jeu.

Par où commencer si la direction demande de l'IA souveraine ?

Par la liste des traitements, pas par un bon de commande de serveur. On retire les données inutiles, on classe le risque, puis on choisit API, hébergement européen ou modèle dans le périmètre. JAIKIN pose un critère d'arrêt avant l'achat matériel. Un questionnaire client sur le lieu des données se traite souvent par le contrat et la minimisation, sans cluster.

Que recommande la CNIL pour une IA générative qui traite des données personnelles en entreprise ?

Dans ses questions-réponses du 18 juillet 2024, la CNIL juge généralement plus opportun et plus sécurisé de privilégier un déploiement sur site quand des données personnelles ou des documents sensibles sont fournis à une IA générative. Si l'infrastructure est externe, elle demande de sécuriser ce recours par un contrat de sous-traitance. Elle recommande aussi de partir d'un besoin concret, d'encadrer les usages, de former les utilisateurs et d'associer le DPO dès le départ. JAIKIN reprend ces points dans le cadrage, avant de choisir entre modèle local et hébergement européen.

Combien coûte un projet de LLM local avec JAIKIN ?

Le matériel se chiffre à part, sur devis de votre fournisseur, une fois le modèle validé sur vos documents. Côté JAIKIN, l'audit IA coûte de 2 000 à 5 000 € HT selon le périmètre, et un agent ou une application sur mesure branchée sur le modèle se situe entre 8 000 et 25 000 € HT, prix fixés par modules. Aucun serveur n'est acheté avant que le critère d'arrêt écrit au cadrage soit atteint.