Stage: R&D Sécurité et Défense des LLM - F/H

Faites ressortir le meilleur de vous-même

Les innovations de SAP permettent à plus de quatre cent mille clients dans le monde de travailler ensemble plus efficacement et d'utiliser plus efficacement les informations commerciales. Connu à l'origine pour son leadership en matière de logiciels de planification des ressources d'entreprise (ERP), SAP a évolué pour devenir un leader du marché des logiciels d'application de gestion de bout en bout et des services connexes pour les bases de données, l'analytique, les technologies intelligentes et la gestion de l'expérience. En tant que société en nuage comptant deux-cents millions d'utilisateurs et plus de cent mille employés dans le monde, nous sommes motivés et tournés vers l'avenir, avec une éthique d'équipe hautement collaborative et un engagement envers le développement personnel. Qu'il s'agisse de connecter des industries, des personnes ou des plates-formes mondiales, nous veillons à ce que chaque défi reçoive la solution qu'il mérite. Chez SAP, vous pouvez faire ressortir le meilleur de vous-même.

Votre mission

Compte tenu de l'importance croissante des grands modèles de langage (LLM) dans diverses industries et de leur potentiel pour un impact généralisé, garantir leur sécurité est primordial. Ce stage a pour objectif de développer et maintenir une solution robuste de Sécurité et Défense pour les LLM.

Cette solution servira d'outil essentiel pour protéger le déploiement et l'utilisation des LLM en :

• Réalisant des évaluations de sécurité complètes : La solution évaluera systématiquement les LLM pour détecter les vulnérabilités telles que les biais, la toxicité et les attaques adverses. En identifiant ces risques potentiels de manière proactive, nous pouvons atténuer leur impact et assurer l'utilisation responsable des LLM.
• Mettant en œuvre des mécanismes de protection robustes : La solution intégrera des techniques efficaces de sanitation des entrées et des sorties pour prévenir les entrées malveillantes de compromettre l'intégrité des LLM et protéger les informations sensibles. Cela aidera à protéger les LLM contre une exploitation à des fins nuisibles.
• Fournissant des informations exploitables : La solution générera des rapports clairs et informatifs qui mettront en évidence les vulnérabilités identifiées et offriront des recommandations pour leur remédiation. Cela permettra aux organisations de prendre des décisions éclairées concernant le déploiement et la gestion des LLM, minimisant les risques et maximisant les avantages.

​​​​​​

Dans le contexte décrit ci-dessus, les objectifs et tâches spécifiques du stage sont les suivants :

• Recherche : Mener des recherches approfondies sur les meilleures pratiques de sécurité des LLM, les méthodologies d’évaluation des vulnérabilités et les techniques de sanitation.
• Développement de la solution : Concevoir et mettre en œuvre une solution de sécurité et de défense pour les LLM en utilisant Python ou d'autres langages de programmation appropriés.
• Cadre de test de sécurité : Créer un cadre complet pour tester les LLM contre diverses menaces de sécurité, y compris les attaques adverses, l'empoisonnement des données et les biais.
• Algorithmes de détection des vulnérabilités : Développer des algorithmes ou utiliser des techniques existantes pour identifier et classer les vulnérabilités dans les sorties des LLM.
• Techniques de sanitation : Mettre en œuvre des techniques efficaces de sanitation des entrées et des sorties pour atténuer les risques de sécurité et protéger les informations sensibles.
• Évaluation et perfectionnement : Évaluer continuellement l’efficacité de la solution et apporter les ajustements nécessaires en fonction des résultats des tests et des menaces émergentes.
• Documentation : Créer une documentation claire et concise pour la solution de sécurité et de défense des LLM, y compris des guides utilisateurs, des spécifications techniques et des meilleures pratiques.

Nous prévoyons que 40 % du temps sera dédié aux activités de recherche et 60 % au développement.

Votre profil

• Master 1 ou 2 en informatique, machine learning
• Connaissances en Python, bases de données SQL/noSQL, PNL (traitement du langage naturel) et bibliothèques de Machine Learning.

• Durée : 6 mois
• Date de début : Février 2025

Conformément à la législation française, pour toute durée supérieure à 2 mois, ce stage fait l'objet d'une gratification, en alignement avec la grille définie par SAP.

Votre équipe

Les clients comptent sur SAP pour fournir des produits sécurisés et fiables. Le « Secure Development Center of Excellence » est responsable du cycle de vie de développement et d'opérations sécurisées des logiciels SAP, ainsi que de la norme de sécurité des produits et de la protection des données.

L'équipe adopte une approche assistée par l'automatisation afin de réduire de manière significative les risques de sécurité émergents lors du développement de logiciels.

​

Faites ressortir le meilleur de vous-même

Les innovations de SAP permettent à plus de quatre cent mille clients dans le monde de travailler ensemble plus efficacement et d'utiliser plus efficacement les informations commerciales. Connu à l'origine pour son leadership en matière de logiciels de planification des ressources d'entreprise (ERP), SAP a évolué pour devenir un leader du marché des logiciels d'application de gestion de bout en bout et des services connexes pour les bases de données, l'analytique, les technologies intelligentes et la gestion de l'expérience. En tant que société en nuage comptant deux-cents millions d'utilisateurs et plus de cent mille employés dans le monde, nous sommes motivés et tournés vers l'avenir, avec une éthique d'équipe hautement collaborative et un engagement envers le développement personnel. Qu'il s'agisse de connecter des industries, des personnes ou des plates-formes mondiales, nous veillons à ce que chaque défi reçoive la solution qu'il mérite. Chez SAP, vous pouvez faire ressortir le meilleur de vous-même.

L’inclusion, au cœur de notre stratégie

La culture d'intégration de SAP, l'accent mis sur la santé et le bien-être, et les modèles de travail flexibles contribuent à ce que chacun, quelle que soit son origine, se sente inclus et puisse donner le meilleur de lui-même. Chez SAP, nous sommes convaincus que les capacités et les qualités uniques que chaque personne apporte à notre entreprise nous rendent plus forts. Nous investissons dans nos employés pour leur inspirer confiance et les aider à réaliser leur plein potentiel. En définitive, nous croyons qu'il faut libérer tous les talents et créer un monde meilleur et plus équitable.

SAP est fier d'être un lieu de travail qui favorise l'égalité des chances et un employeur qui pratique l'action positive. Nous nous engageons à respecter les valeurs de l'égalité des chances en matière d'emploi et proposons des aménagements pour les candidats souffrant d'un handicap physique et/ou mental. Si vous souhaitez postuler chez SAP et que vous avez besoin de mesures d'adaptation ou d'une assistance particulière pour naviguer sur notre site Web ou remplir votre candidature, veuillez envoyer un e-mail à l'adresse suivante: Careers@sap.com

Employés SAP : les candidats ne peuvent être recommandés que pour des postes permanents - vous trouverez d'autres réglementations dans la politique de recommandation SAP. Des règlements particuliers peuvent s'appliquer aux postes de formation.

Réquisition: 415568 Secteur de travail: Software-Research Déplacement escompté: 0 - 10% Statuts de carrière: Étudiant Type d’emploi: Limited Full Time Emplacements Supplémentaires: #LI-Hybrid

​