Passer une IA générative du stade de preuve de concept à la production suppose de trancher cinq décisions : l’architecture en couches, le type de modèle, la méthode d’adaptation, l’hébergement et le cadre réglementaire. Le succès d’un projet se juge au coût par usage, à la tenue en charge et à la conformité, et non à une démonstration réussie.
Une preuve de concept réussit parce qu’elle contourne ce que la production impose : données propres, volumétrie réelle, exigences de sécurité, milliers d’utilisateurs. Gartner prévoyait en juillet 2024 qu’au moins 30 % des projets d’IA générative seraient abandonnés après la preuve de concept d’ici fin 2025, faute de qualité des données, de contrôle des risques, de maîtrise des coûts ou de valeur claire.
La tendance s’est confirmée. Selon une enquête S&P Global menée auprès de 1 006 responsables IT et métiers, la part des entreprises qui abandonnent la majorité de leurs initiatives d’IA est passée de 17 % en 2024 à 42 % en 2025. Le modèle est rarement en cause, alors que les décisions repoussées finissent toujours par coûter.
Les trois couches à décider
Un projet d’IA générative se découpe en trois couches. La couche applicative regroupe interfaces, assistants métier et connexions aux outils existants, comme le CRM, l’ERP ou la messagerie. Le middleware orchestre les appels aux modèles, les bases de connaissances, les journaux et les garde-fous, tandis que l’infrastructure fournit calcul, stockage, réseau et inférence.
Mieux vaut décider du haut vers le bas, sans acheter de matériel avant de savoir ce que les métiers utiliseront. Le middleware mérite l’attention la plus soutenue : il isole l’application du modèle. Une DSI qui y loge ses règles de sécurité, sa traçabilité et ses jeux d’évaluation garde la liberté de changer de modèle sans réécrire les usages.
Modèle, adaptation et agents : les arbitrages
Un modèle propriétaire s’utilise le plus souvent par API, facturée à l’usage, les poids restant chez le fournisseur. Un modèle open-weight met ses poids à disposition, ce qui permet à l’entreprise de l’héberger, de l’adapter et de l’auditer. Il ne s’agit pas d’open source au sens strict, car données et code d’entraînement ne sont pas toujours publiés. Le premier raccourcit le démarrage, le second donne la maîtrise des données mais exige une équipe capable d’opérer l’inférence, de dimensionner les GPU et d’appliquer les correctifs.
Le RAG (retrieval-augmented generation) interroge une base documentaire au moment de la question et fournit les passages trouvés au modèle. Il convient aux réponses qui dépendent de documents internes mouvants, comme procédures ou contrats. Le fine-tuning, lui, modifie le comportement du modèle à partir d’exemples, pour le format, le ton ou une tâche étroite, sans servir à injecter des faits qui vieillissent. Les agents IA planifient des étapes et appellent des outils pour agir, par exemple pour créer un ticket, et supposent des permissions strictes et une supervision humaine.
Deux protocoles structurent l’interopérabilité : MCP (Model Context Protocol), qui standardise la connexion d’un modèle aux outils et aux données, et A2A (Agent2Agent), qui organise le dialogue entre agents. Gartner range l’interopérabilité des agents parmi les technologies les moins mûres de son Hype Cycle 2026, et prévoit que plus de 40 % des projets d’IA agentique seront abandonnés d’ici fin 2027.
Sécurité, conformité et déploiement
Les risques propres à l’IA générative s’ajoutent à ceux du système d’information : injection de prompt, fuite de données par les réponses, accès excessif des agents aux outils. Parmi les parades figurent le cloisonnement des données du RAG selon les droits d’accès, le filtrage des entrées et sorties, la journalisation des appels et l’attribution de droits minimaux aux agents. Côté confidentialité, le RGPD s’applique indépendamment de l’AI Act.
Les obligations des fournisseurs de modèles à usage général s’appliquent depuis le 2 août 2025, et la Commission européenne dispose de pouvoirs de contrôle et de sanction depuis le 2 août 2026. Le règlement (UE) 2026/1744, dit omnibus numérique, en vigueur depuis le 27 juillet 2026, a reporté au 2 décembre 2027 les obligations « haut risque » de l’annexe III, comme le recrutement ou le crédit. Le niveau de risque suit l’usage et non le modèle : un assistant de rédaction relève du risque minimal, alors que le même outil chargé de trier des candidatures bascule en haut risque.
Le coût, la performance et la fiabilité évoluent aussi avec le passage à l’échelle, entre quelques testeurs et l’ensemble des collaborateurs. Une équipe en production réunit des data engineers, des ML engineers, des architectes, des spécialistes sécurité et conformité et des responsables métier. Capgemini Institut propose sur ce sujet une formation IA générative en entreprise de deux jours, soit 14 heures, qui traite aussi la constitution de l’équipe : profils, rôles et fidélisation des talents.
Product offers are temporarily unavailable.
