IA open source pour PME : ce qui marche en 2026, ce qui ne marche pas

Pendant trois ans, le débat IA en entreprise s'est résumé à un seul axe : ChatGPT ou pas ChatGPT. En 2026, la question n'est plus là. Elle est devenue : ChatGPT, Claude, Gemini, ou un modèle ouvert que nous hébergeons nous-mêmes ? Pour une PME francophone, particulièrement en Belgique où la conformité RGPD et l'AI Act européen pèsent dans toutes les décisions, l'option open source mérite d'être examinée sérieusement, et pas seulement par posture militante.

Pourquoi le sujet remonte fin 2025

Trois mouvements convergent. D'abord, la qualité. Les modèles ouverts de 2025 (Mistral Large 2, Llama 4, Qwen 3) atteignent enfin un niveau utilisable en production sur les langues romanes, ce qui n'était pas le cas en 2023. Ensuite, l'écosystème d'hébergement européen est devenu mature : Scaleway et OVHcloud proposent désormais des endpoints d'inférence managés avec une API compatible OpenAI, ce qui réduit drastiquement le coût de migration. Enfin, l'AI Act européen est entré en vigueur progressivement en 2025-2026, et les directions juridiques de PME demandent de plus en plus à leurs équipes IT de documenter précisément où vont leurs données et qui les voit.

Pour une PME belge de 50 à 200 personnes, ces trois mouvements ensemble changent l'arbitrage. Il y a deux ans, choisir Mistral plutôt qu'OpenAI était un geste politique. Aujourd'hui, c'est une décision opérationnelle défendable sur la base des seuls critères qualité, coût et conformité.

Là où l'open source est déjà très bon

Les cas d'usage suivants sont, dans notre expérience, ceux où les modèles ouverts (Mistral La Plateforme, Scaleway Generative APIs, OVHcloud AI Endpoints) délivrent une qualité indiscernable des solutions américaines, à un coût souvent inférieur.

• Tri et classification d'emails ou de tickets. Mistral Small fait ce travail à 0,002 € pour 1 000 tokens, soit deux ordres de grandeur en dessous de GPT-4o. Pour des volumes de 5 000 emails par mois, on parle de quelques euros par mois.
• Extraction structurée depuis des documents (factures, PV, contrats). Mistral Large 2 supporte le mode JSON structuré et les outils (tool calling) avec la même fiabilité que GPT-4o.
• Génération de réponses aux avis clients (Booking, Google, Trustpilot) avec un ton calibré sur votre marque. Mistral Le Chat ou un endpoint Mistral Small en API fait l'affaire.
• Synthèses internes (réunions, longs documents, échanges email). Mistral excelle particulièrement sur les contenus français, et l'on peut être un peu plus tranquille sur la confidentialité.
• Q&A interne sur base documentaire (procédures, contrats, historiques). AnythingLLM combiné à Mistral ou Ollama local fait tourner ce cas d'usage sans envoyer le moindre document hors de votre infrastructure.

Sur ces cinq cas, recommander un SaaS américain en 2026 demande une raison spécifique. À défaut, l'option open source EU devient la solution par défaut responsable.

Là où l'open source coince encore

Tout n'est pas équivalent. Pour les cas d'usage suivants, les frontière models propriétaires (Claude 4.7, GPT-5, Gemini 2.5 Pro) restent objectivement au-dessus à mi-2026.

• Raisonnement complexe multi-étapes, par exemple la génération d'un rapport stratégique de 12 pages avec lecture cross-sectorielle et plan d'action chiffré. La rigueur logique de Claude Opus reste devant les modèles ouverts sur ce type de tâche.
• Coding assist avancé sur des bases de code complexes. Claude et GPT-5 ont encore une longueur d'avance sur Mistral Codestral pour le refactor multi-fichiers et la résolution de bugs subtils. Continue.dev permet de combiner les deux dans le même IDE.
• Compréhension visuelle (lecture de schémas, OCR documents complexes, vision industrielle). GPT-5 et Gemini sont au-dessus des modèles ouverts. Pixtral progresse vite mais n'est pas au niveau.
• Voice agents temps réel. OpenAI Realtime et Anthropic temps réel sont en avance sur ce que l'open source propose en 2026.

Pour ces cas, recommander Claude ou GPT n'est pas une concession à la mode américaine. C'est un choix d'ingénierie. Le seul devoir éthique est de le documenter explicitement, et de signaler les conditions dans lesquelles on repasserait sur de l'open source plus tard.

Les options hébergées EU concrètes

Pour une PME francophone qui veut activer Mistral ou Llama sans monter son propre serveur GPU, voici les options sérieuses en 2026, classées par accessibilité.

• Mistral La Plateforme (mistral.ai). API directement chez Mistral, hébergée en France. Tarification pay-as-you-go, conformité RGPD native. Le choix par défaut pour démarrer.
• Scaleway Generative APIs. Endpoints managés à Paris, compatible API OpenAI (drop-in replacement). Catalogue de modèles ouverts au choix (Mistral, Llama, Qwen, Whisper). Excellent rapport qualité-prix en 2026.
• OVHcloud AI Endpoints. Comparable à Scaleway, hébergé en France et Pologne. Billing à la seconde, pas d'engagement.
• Hugging Face Inference Endpoints. Pour les cas qui demandent un modèle ouvert spécifique (Lucie-7B, modèle fine-tuné maison, modèle de vision particulier), avec choix de la région d'hébergement.

Les trois premières partagent une compatibilité d'API OpenAI : changer de provider revient à changer une URL et une clé d'API dans votre code. Le verrouillage technique est minimal, ce qui est précisément la promesse de l'open source bien implémenté.

Comment décider, concrètement

Pour une PME qui démarre, voici la grille de décision que nous appliquons dans nos diagnostics Kairion.

1. Le cas d'usage tolère-t-il une qualité légèrement inférieure ? Si oui (tri, extraction, synthèses), démarrer en open source EU sans hésiter. Vous gagnez en coût et en souveraineté sans rien perdre de tangible.
2. Y a-t-il de la donnée sensible (RH, financière, médicale, juridique) ? Si oui, l'open source EU passe en option par défaut. Le tradeoff "qualité un peu moindre vs données qui ne sortent pas d'Europe" penche presque toujours du côté de la souveraineté.
3. Le cas d'usage est-il critique en qualité (rapport stratégique, synthèse pour COMEX) ? Si oui, les frontière models propriétaires restent défendables. Documenter le pourquoi.
4. Le volume justifie-t-il du self-hosting ? En dessous de 500 € d'API par mois, rester sur les endpoints managés EU. Au-dessus, envisager vLLM sur GPU dédié.

Le mauvais réflexe est de choisir le provider par idéologie (tout US ou tout open source). Le bon réflexe est de choisir par cas d'usage. Notre catalogue d'outils Kairion mélange désormais les deux mondes, et chaque recommandation que nous faisons dans un rapport client est accompagnée d'une note explicite sur le tradeoff. C'est précisément ce que la souveraineté opérationnelle veut dire : choisir en connaissance de cause, pas par défaut.