Developer Fullstack

Description du poste

Contexte de la mission

Nous recherchons des profils pour participer au développement :

• d’une application de gouvernance des modèles de Machine Learning,

• ainsi qu’à l’évolution d’une plateforme de mise à disposition de LLM.

L’application a pour objectif d’interroger différentes ressources cloud (Azure Machine Learning, Databricks, AWS SageMaker, etc.) afin :

• d’inventorier les modèles d’IA déployés,

• de récupérer les métriques et informations exposées par les équipes de développement,

• de centraliser ces données via une API,

• et de permettre leur visualisation dans un dashboard de suivi (usage, performance, mises à jour, monitoring…).

À terme, la plateforme devra également permettre un suivi temps réel de l’utilisation des modèles en production.

La plateforme LLM Hub fournit aux équipes de développement un accès centralisé à différents modèles de langage (OpenAI, Mistral, Claude, etc.) via des services cloud Azure et AWS.

Ses objectifs sont notamment :

• centraliser la consommation des modèles,

• suivre les usages et coûts associés,

• optimiser les performances et coûts d’inférence,

• fournir des fonctionnalités prêtes à l’emploi pour accélérer les projets d’IA générative.

La plateforme héberge également une application interne de type assistant conversationnel.

Les évolutions envisagées incluent :

• une plateforme de création d’agents,

• l’enrichissement des outils disponibles pour ces agents,

• l’ajout de nouvelles fonctionnalités autour des assistants conversationnels et de l’IA générative.

L’équipe sera en charge de :

• développer et maintenir l’infrastructure Terraform sur Azure et/ou AWS,

• gérer les workflows GitHub pour l’automatisation des déploiements et les contrôles qualité/sécurité,

• développer et maintenir les services backend permettant de collecter les données depuis Azure ML, Databricks ou SageMaker,

• stocker les informations relatives aux modèles,

• exposer des APIs consommées par un frontend React.

L’équipe sera en charge de :

• développer et maintenir l’infrastructure Terraform sur Azure et/ou AWS,

• gérer les workflows GitHub CI/CD,

• développer les services backend exposant des APIs de modèles LLM via une couche centralisée,

• implémenter les mécanismes de suivi de consommation sur Azure et AWS,

• développer des plugins et outils facilitant l’adoption des LLMs,

• participer aux évolutions frontend d’une interface web de chatbot,

• concevoir les futures fonctionnalités de la plateforme :

  • création d’agents,

  • bibliothèque de prompts,

  • guardrails,

  • outils low-code,

  • packages réutilisables pour les équipes produit,

• assurer une veille technologique sur les solutions LLM et leurs intégrations.

Missions principales :

• développement backend en Python,

• développement frontend en TypeScript / React,

• contribution aux évolutions de la roadmap IA générative et plateforme LLM,

• intégration avec des environnements Azure ML / Databricks / SageMaker.

Compétence Niveau TypeScript Confirmé API / Backend Confirmé GenAIÉlémentaire AWSÉlémentaire Python Expert Azure Élémentaire

Missions principales :

• développement backend en Python,

• développement frontend en TypeScript / React,

• contribution aux évolutions de la roadmap IA générative et plateforme LLM,

• intégration avec des environnements Azure ML / Databricks / SageMaker.