STAGE – Ingénieur en Sécurité des modèles génératifs de langage : benchmark robustesse aux attaques par prompt injection (H/F)Lieu : Palaiseau, France
Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et plus inclusif. Le Groupe investit près de 4 milliards d’euros par an en Recherche & Développement, notamment dans des domaines clés de l’innovation tels que l’IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 81 000 collaborateurs dans 68 pays.
Notre savoir-faire technologique
Notre attention portée à l’équilibre des collaborateurs
Un environnement inclusif et bienveillant
Un engagement sociétal et environnemental reconnu (Thales Solidarity, indice CAC 40 ESG…)
Thales s’engage pour l’emploi et l’insertion des personnes en situation de handicap. A ce titre, notre établissement est reconnu Organisme Handi-Accueillant.
Dans un contexte d’intégration croissante des modèles de langage (LLM) dans diverses applications, ces derniers représentent des cibles potentielles pour des attaques sophistiquées, notamment des attaques d'injection de prompts. Ce stage se concentrera sur l’évaluation de la robustesse de LLM, qu'ils soient open source ou développés en partenariat avec Thales. L'objectif principal est de mesurer et renforcer la sécurité des systèmes utilisant des LLM contre ces menaces, notamment celles développées par l’équipe Friendly Hackers.
Le projet s’appuie sur le cadre MITRE ATLAS, qui classe et répertorie les menaces émergentes liées à l’IA, afin de définir des contre-mesures adaptées. Les objectifs incluent la reproduction d’attaques réelles dans un environnement contrôlé, permettant d’évaluer la résilience des LLM. Cette démarche s’accompagne de l’utilisation du référentiel MITRE ATLAS pour structurer l’analyse des attaques, en alignant les défenses avec les tactiques et techniques des attaquants.
Vous avez envie de découvrir le domaine de la recherche et de l’innovation au sein d’un Groupe Leader mondial ?
Etudiant en Ecole d’ingénieur ou formation équivalente, en sciences des données ou en apprentissage automatique ?
Vous êtes à la recherche d’un stage de fin d’études de 5 à 6 mois ?
Vous avez un intérêt particulier pour l’apprentissage automatique et ses enjeux éthiques ?
L’idée de participer à un projet de recherche sur des thématiques d’apprentissage automatique novatrices vous anime ?
Curiosité et rigueur sont des atouts que l'on vous reconnait ?
Alors ce poste est fait pour vous !
Tous nos stages sont conventionnés et soumis à une gratification dont le montant est déterminé selon votre niveau d’études.Thales, entreprise Handi-Engagée, reconnait tous les talents. La diversité est notre meilleur atout. Postulez et rejoignez nous !