Trois niveaux de confidentialité, pas un seul
« Je n'envoie pas ma documentation technique chez un éditeur américain » est la première objection que nous entendons, et elle est légitime. Elle admet trois réponses différentes, dont une seule est réellement « locale ». Les confondre conduit soit à payer un serveur inutile, soit à passer à côté d'une contrainte contractuelle réelle.
| Niveau | Où vont les données | Matériel | Pour qui |
|---|---|---|---|
| Entièrement local | Nulle part. Le système fonctionne réseau coupé. | Serveur dédié à prévoir | Corpus à diffusion restreinte, exigence contractuelle, défense |
| Cloud souverain européen | Traitement en UE, sous contrat, sans réutilisation pour l'entraînement. | Aucun | La majorité des projets |
| Hybride sur anonymisation | Les identifiants sont masqués avant sortie, puis réinjectés. | Aucun | Corpus mixtes, contraintes RGPD fortes |
Nous présentons les trois systématiquement, y compris quand la plus simple n'est pas la plus impressionnante.
Ce que veut dire « entièrement local », concrètement
Quatre composants tournent sur une machine que vous possédez :
- Le modèle de langage, chargé en mémoire, dans une version à poids ouverts.
- L'index documentaire, construit à partir de vos documents et chiffré au repos.
- Le moteur de recherche qui sélectionne les extraits pertinents avant de les transmettre au modèle.
- L'interface, accessible depuis votre réseau interne uniquement.
Aucun appel sortant n'est émis. Le système continue de répondre si vous débranchez le lien Internet. C'est d'ailleurs la démonstration que nous faisons en rendez-vous, parce qu'elle règle la question en dix secondes.
Quel matériel, réellement
La règle de dimensionnement est simple : comptez environ 0,5 à 0,6 Go de mémoire vidéo par milliard de paramètres en quantification 4 bits.
| Taille du modèle | Mémoire nécessaire | Configuration type |
|---|---|---|
| 7 à 8 milliards | 5 à 8 Go | Carte grand public, poste de travail |
| 13 à 14 milliards | 8 à 16 Go | Carte 16 Go |
| 30 à 34 milliards | 20 à 24 Go | Carte 24 Go dédiée |
| 70 milliards | 35 à 48 Go | Deux cartes, ou mémoire unifiée haut de gamme |
Un point contre-intuitif mérite d'être dit : en recherche documentaire, un petit modèle bien alimenté bat un grand modèle mal alimenté. La réponse se trouve déjà dans les extraits retrouvés ; le modèle ne doit pas savoir, il doit lire et reformuler. C'est une tâche nettement moins exigeante que du raisonnement. Un modèle de 8 milliards de paramètres suffit souvent, à condition que la recherche en amont soit bonne. L'essentiel de l'effort d'ingénierie porte donc sur la recherche, pas sur le choix du modèle.
Ce que ça coûte vraiment, et pourquoi l'argument prix est faux
L'argument commercial habituel, « le local revient moins cher que les appels à une API », ne résiste pas au calcul à l'échelle d'une PME.
Prenons un service support qui traite trois cents questions par jour, chacune consommant environ quatre mille jetons en entrée et cinq cents en sortie. Cela représente à peu près vingt-six millions de jetons en entrée et trois millions en sortie par mois. Aux tarifs publics des modèles européens de 2026, la facture mensuelle se situe entre six et vingt dollars. Pour tout un service.
En face, une machine capable d'héberger un modèle de trente milliards de paramètres suppose une carte à partir de 3 900 € (le marché des cartes graphiques est tendu depuis la réorientation de la production mémoire vers les centres de données), plus le reste de la machine, soit environ 5 400 €. Amorti sur trois ans, cela représente environ 150 € par mois, hors électricité et hors temps d'administration.
À cette échelle, le déploiement local coûte dix à trente fois plus cher que l'usage d'une API. C'est un choix de confidentialité, pas un choix d'économie.
Nous vous le disons avant de vous le vendre. Un acheteur qui refait le calcul après signature ne rappelle pas.
Quand le local est justifié, et quand il ne l'est pas
Il est justifié quand
- Une clause contractuelle ou une classification interdit la sortie des données.
- Le corpus contient des informations dont la fuite aurait une conséquence commerciale directe : plans, nomenclatures, méthodes de fabrication.
- Le site fonctionne en réseau isolé, ce qui est courant en production industrielle.
- Le service juridique refuse d'instruire un nouveau sous-traitant, et le coût du serveur est inférieur au coût du dossier.
Il ne l'est pas quand
- La motivation réelle est le coût, que le calcul ci-dessus contredit.
- L'entreprise n'a personne pour administrer une machine supplémentaire. Un serveur non maintenu devient un risque, pas une protection.
- Le corpus est constitué de documentation produit déjà publique.
Dans ces cas, le cloud souverain européen apporte le même confort juridique pour une fraction de la charge.
Questions fréquentes
Une IA locale est-elle moins performante qu'un modèle en ligne ?
Sur du raisonnement pur, oui. Sur de la recherche documentaire, l'écart est faible : la réponse est déjà contenue dans les extraits retrouvés, et le modèle se contente de les lire et de les reformuler. La qualité se joue sur la recherche, pas sur la taille du modèle.
Le système fonctionne-t-il vraiment sans Internet ?
Oui. Modèle, index et interface tournent sur la machine. Nous faisons la démonstration en coupant le lien réseau devant vous : l'assistant continue de répondre.
Les données sont-elles chiffrées ?
L'index documentaire est chiffré au repos, et l'accès à l'interface passe par votre annuaire interne. Le chiffrement ne remplace toutefois pas le cloisonnement des droits : un utilisateur ne doit pouvoir interroger que les documents auxquels il a déjà accès, et c'est un point que nous traitons à la conception.
Combien coûte une installation locale ?
Comptez environ 5 400 € de matériel pour héberger un modèle de trente milliards de paramètres, plus l'installation et la maintenance. Ce coût s'ajoute au projet ; il n'est justifié que par une contrainte de confidentialité réelle.
Le cloud souverain européen est-il suffisant pour le RGPD ?
Dans la grande majorité des cas oui, dès lors que le traitement se fait en Union européenne, que le contrat encadre la sous-traitance et que le fournisseur ne réutilise pas vos données pour entraîner ses modèles. Nous ne sommes pas juristes : la décision finale appartient à votre délégué à la protection des données, et nous fournissons les éléments techniques dont il a besoin.