Jailbreaking Lead

LieuRemote globally, with visa sponsorship for US or Singapore

NiveauConfirmé

Publiéil y a 2 sem.

Ingénierie et technologie

Traduction automatique de l'offre, publiée à l'origine en anglais. L'offre officielle et le formulaire de candidature, sur le site de l'employeur, peuvent être en anglais. Voir l'original en anglais

En bref

FAR.AI recrute un(e) Jailbreaking Lead en télétravail pour piloter et porter le moteur technique central de l'équipe red team, en se concentrant sur la compromission des modèles de pointe les plus protégés et en définissant la référence technique pour la gravité et la généralité des vulnérabilités. La rémunération et les avantages ne sont pas précisés, mais incluent une assurance santé, un régime de retraite, des PTO (temps libre payé) et une indemnité de télétravail (WFH, work from home). Candidatez avant le 28 février 2024.

Poste: Jailbreaking Lead
Organisation: FAR.AI
Lieu: Remote globally, with visa sponsorship for US or Singapore
Niveau: Confirmé
Catégorie: Ingénierie et technologie

Le poste

FAR.AI recherche un(e) Jailbreaking Lead pour piloter et porter le moteur technique central de l'équipe red team, en se concentrant sur la compromission des modèles de pointe les plus protégés et en définissant la référence technique pour la gravité et la généralité des vulnérabilités.

Vos missions

Développer des jailbreaks universels et quasi universels contre les modèles de pointe fermés et à poids ouverts
Démanteler méthodiquement les dispositifs de défense en profondeur
Faire évoluer les vulnérabilités initiales pour en révéler la forme la plus grave
Définir la référence technique pour la gravité et la généralité des vulnérabilités sur chaque grande mission
Concevoir de nouvelles classes d'attaques lorsque les techniques existantes échouent
Assurer une veille et intégrer rapidement les méthodes de pointe issues de la littérature

Le profil recherché

Expérience avérée dans la découverte de vulnérabilités non évidentes et très graves dans les systèmes d'IA de pointe
Solide maîtrise technique, avec le discernement nécessaire pour identifier les vulnérabilités réellement importantes
Expérience des méthodes d'optimisation en boîte noire et des attaques multimodales
Expérience du jailbreaking et solide compréhension des architectures des grands modèles de langage
Excellentes capacités de communication pour amener les laboratoires d'IA de pointe et les gouvernements à agir sur les résultats
Expérience en IA, apprentissage automatique adversarial, sécurité ou autre domaine hautement technique

Vos compétences

Expérience pratique du jailbreakingExpérience des méthodes d'optimisation en boîte noireSolide compréhension des architectures des grands modèles de langageCapacité à découvrir des vulnérabilités non évidentestrès gravesExpérience des attaques multimodales

Les avantages

Assurance santé, régime de retraite, PTO (temps libre payé), congés rémunérés, indemnité de télétravail et équipement (WFH, work from home), repas sur place (bureau de Berkeley uniquement)

Questions fréquentes

Où se situe le poste ?

Le poste est en télétravail à l'échelle mondiale, avec un parrainage de visa pour les États-Unis ou Singapour.

Quelle est la rémunération ?

La rémunération n'est pas précisée.

Quelles sont les principales qualifications requises ?

Les principales qualifications comprennent une expérience avérée dans la découverte de vulnérabilités non évidentes et très graves, une expérience du jailbreaking et une solide compréhension des architectures des grands modèles de langage.

Comment postuler ?

Postulez directement via le formulaire de candidature. N'envoyez pas votre CV par e-mail.

Quel est le temps de travail ?

Le poste est à temps plein, avec jusqu'à un déplacement par mois pour des rencontres, des réunions gouvernementales ou des rassemblements d'équipe.

Comment postuler

Postulez directement sur le site de FAR.AI. Nous vous y renvoyons sans intermédiaire : pas d'analyse de CV, pas de profil à remplir.

Postuler →

Cette offre provient d'une source tierce et son résumé peut avoir été généré automatiquement, puis traduit automatiquement de l'anglais : certains détails peuvent être inexacts ou périmés. ForGood n'est pas l'employeur et n'est pas responsable de son contenu. Vérifiez toutes les informations sur l'offre officielle de FAR.AI avant de postuler.