DevOps

Description du poste

Contexte de la mission

Nous recherchons un profil DevOps pour intervenir sur deux périmètres liés à l’intelligence artificielle :

• une application de gouvernance des modèles de Machine Learning ;

• une plateforme interne de mise à disposition de LLM et de services d’IA générative.

L’application a pour objectif d’interroger différentes ressources cloud et data science afin d’inventorier les modèles d’IA publiés, récupérer les informations et métriques associées, puis les restituer via une API consommée par une interface front.

Les modèles concernés peuvent être hébergés sur des environnements de type Azure Machine Learning, Databricks, AWS SageMaker ou équivalents.

L’application permet notamment le suivi des modèles : mise à jour, utilisation, performance, métriques disponibles, etc.
Une évolution future consistera à permettre un suivi en temps réel de l’utilisation des modèles en production.

La plateforme LLM Hub permet de centraliser l’accès à différents modèles de langage, tels que OpenAI, Mistral, Claude ou équivalents, via des services cloud comme Azure OpenAI / AI Foundry, AWS Bedrock ou solutions similaires.

Les objectifs de la plateforme sont les suivants :

• centraliser la consommation des modèles LLM ;

• gérer le reporting de consommation des applications ;

• optimiser les coûts via du provisioned throughput ;

• proposer des fonctionnalités clé en main pour accélérer le développement de cas d’usage IA générative ;

• maintenir et faire évoluer une application de type chatbot interne ;

• préparer des fonctionnalités autour de la création d’agents, des bibliothèques de prompts, des guardrails, du low-code chatbot et de composants prêts à intégrer.

Le consultant interviendra notamment sur :

• le développement, la mise à jour et la maintenance du code d’infrastructure Terraform sur Azure et/ou AWS ;

• la mise en conformité avec les règles de sécurité et les bonnes pratiques internes ;

• la gestion des workflows GitHub pour automatiser les déploiements et les scans de code ;

• le développement, la mise à jour et la maintenance du backend permettant de récupérer les données provenant de services ML, Databricks ou SageMaker ;

• le stockage des informations relatives aux modèles inventoriés ;

• l’exposition d’API permettant à un front React de consommer les données.

Le consultant interviendra également sur :

• le développement, la mise à jour et la maintenance du code Terraform sur Azure et/ou AWS ;

• la gestion des workflows GitHub pour les builds, déploiements et scans de code ;

• le développement et la maintenance du backend exposant des APIs LLM via un API Manager centralisé ;

• la mise en place de fonctions de suivi de consommation des applications sur Azure et AWS ;

• le développement de plugins ou composants facilitant l’intégration des LLM dans les applications internes ;

• la mise à jour éventuelle d’une interface web en React pour gérer une application de chatbot ;

• la conception de fonctionnalités complémentaires pour anticiper les besoins utilisateurs : plateforme de création d’agents, prompt library, guardrails, chatbot low-code, composants réutilisables ;

• la veille technologique sur les nouvelles solutions LLM et leur intégration dans la plateforme.

Profil recherché : DevOps

Le consultant interviendra sur le périmètre décrit ci-dessus, avec les responsabilités suivantes :

• gestion du code Terraform de l’infrastructure ;

• gestion des workflows de build et de déploiement GitHub ;

• contribution à l’architecture technique ;

• optimisation de la résilience et des coûts des infrastructures ;

• monitoring des services du périmètre ;

• accompagnement des évolutions techniques liées aux plateformes IA / LLM.

Cloud / Infrastructure :

• Azure API Management

• Azure Functions / App Services

• Azure OpenAI / AI Foundry

• Azure Front Door / Application Gateway

• Azure Container Apps

• Azure Document Intelligence

• AWS Bedrock

• AWS Glue

• AWS Lambda

Développement / DevOps :

• GitHub

• GitHub Actions / workflows CI/CD

• Terraform

• APIs

• Monitoring

• Backend cloud

Front :

• React, apprécié pour des évolutions ponctuelles d’interface web

• GitHub : confirmé

• Terraform : confirmé

• Azure : confirmé

• API : confirmé

• AWS : confirmé

Une bonne compréhension des environnements IA, ML, LLM et des architectures cloud est fortement appréciée.

Profil recherché : DevOps

Le consultant interviendra sur le périmètre décrit ci-dessus, avec les responsabilités suivantes :

• gestion du code Terraform de l’infrastructure ;

• gestion des workflows de build et de déploiement GitHub ;

• contribution à l’architecture technique ;

• optimisation de la résilience et des coûts des infrastructures ;

• monitoring des services du périmètre ;

• accompagnement des évolutions techniques liées aux plateformes IA / LLM.