De l'explosion des LLMs à une plateforme soutenable : survivre à la croissance de l'IA sans se noyer dans les coûts
REXAutomatisationDevSecOpsInfrastructure
09/12/2026 | 00h00 - 00h25
Description
Comment continuer à accélérer l'adoption de l'IA quand chaque nouvelle application augmente les coûts, les dépendances et la surface de risque ?
Dans un contexte de forte croissance, nous avons dû prendre des décisions rapidement, parfois avec une implémentation imparfaite, souvent à l’instinct. Le point de départ : connecter les équipes aux modèles disponibles. Très vite, cette approche simpliste a révélé ses limites : dépendance à un fournisseur, engagements budgétaires fermes et difficiles à remettre en cause, contrôles de sécurité dispersés, et complexité reportée sur chaque équipe produit.
Nous partagerons sans filtre notre REX sur la reprise en main de l'expérience proposée aux utilisateurs et aux équipes. Au programme : abstraction des providers & routers, routage des requêtes, gateway, stratégie multi-contrats, filtrage des prompts et des données sensibles, caching, arbitrages basés sur les valeurs de notre entreprise, contraintes de whitelisting et dépendances géopolitiques, puis consolidation progressive de la mise en place initiale vers de l'IaC et des outils CLI.
Le retour d'expérience mettra en exergue les échecs autant que les réussites. Notre préférence pour une solution réversible et imparfaite, notre allergie (aversion) aux budgets et architectures rigides, et l’industrialisation autour d’une question centrale: « quelle expérience et niveau de contrôle d’agentic coding voulons-nous réellement posséder ? ».
Les participants repartiront avec une grille de décision pour évaluer le niveau d'abstraction à fournir, une configuration IaC d’exemple sur Openrouter, identifier les risques de dépendance aux fournisseurs, leurs contrôles de sécurité et le bon moment pour industrialiser. Ce ne sera ni une présentation produit ni une architecture miracle, mais une histoire de décisions concrètes, de compromis et de consolidation dans un environnement qui n’a visiblement pas prévu de ralentir.
Dans un contexte de forte croissance, nous avons dû prendre des décisions rapidement, parfois avec une implémentation imparfaite, souvent à l’instinct. Le point de départ : connecter les équipes aux modèles disponibles. Très vite, cette approche simpliste a révélé ses limites : dépendance à un fournisseur, engagements budgétaires fermes et difficiles à remettre en cause, contrôles de sécurité dispersés, et complexité reportée sur chaque équipe produit.
Nous partagerons sans filtre notre REX sur la reprise en main de l'expérience proposée aux utilisateurs et aux équipes. Au programme : abstraction des providers & routers, routage des requêtes, gateway, stratégie multi-contrats, filtrage des prompts et des données sensibles, caching, arbitrages basés sur les valeurs de notre entreprise, contraintes de whitelisting et dépendances géopolitiques, puis consolidation progressive de la mise en place initiale vers de l'IaC et des outils CLI.
Le retour d'expérience mettra en exergue les échecs autant que les réussites. Notre préférence pour une solution réversible et imparfaite, notre allergie (aversion) aux budgets et architectures rigides, et l’industrialisation autour d’une question centrale: « quelle expérience et niveau de contrôle d’agentic coding voulons-nous réellement posséder ? ».
Les participants repartiront avec une grille de décision pour évaluer le niveau d'abstraction à fournir, une configuration IaC d’exemple sur Openrouter, identifier les risques de dépendance aux fournisseurs, leurs contrôles de sécurité et le bon moment pour industrialiser. Ce ne sera ni une présentation produit ni une architecture miracle, mais une histoire de décisions concrètes, de compromis et de consolidation dans un environnement qui n’a visiblement pas prévu de ralentir.
Conférenciers
-
![Théotime LEVEQUE]()
Théotime LEVEQUE
BACK MARKETPrincipal Engineer
