Le projet
Dans cette grande organisation, plusieurs équipes utilisaient des modèles d’IA à travers des interfaces différentes. L’organisation souhaitait réunir ces accès et permettre aux collaborateurs de travailler en même temps.
Le choix d’un modèle devait pouvoir évoluer sans obliger chaque équipe à refaire son outil. La passerelle devait aussi prendre en charge les requêtes simultanées.
Nous avons réalisé un portail commun qui oriente les demandes vers les modèles retenus. L’architecture sépare l’accès des utilisateurs, le routage des requêtes et les modèles eux-mêmes. Elle permet de faire évoluer ces derniers tout en conservant le point d’entrée des équipes.
La plateforme est réalisée. Sa capacité documentée porte sur plusieurs milliers d’utilisateurs, ce qui décrit son dimensionnement et ne constitue pas une mesure de l’usage quotidien.