Responsable Técnico/a de Jailbreaking
Traducción automática de la oferta, publicada originalmente en inglés. La oferta oficial y el formulario de postulación, en el sitio del empleador, pueden estar en inglés. Ver el original en inglés
En resumen
FAR.AI contrata a un/a Responsable Técnico/a de Jailbreaking en remoto para dirigir el motor técnico central del equipo de red team, centrado en vulnerar los modelos de frontera con las defensas más sólidas y en establecer el criterio técnico para evaluar la gravedad y la generalidad de las vulnerabilidades. La remuneración y los beneficios no se especifican, pero incluyen seguro de salud, jubilación, PTO (tiempo libre remunerado), y un estipendio para teletrabajo. Fecha límite de solicitud: 28 de febrero de 2024.
- Puesto
- Responsable Técnico/a de Jailbreaking
- Organización
- FAR.AI
- Ubicación
- Remote globally, with visa sponsorship for US or Singapore
- Nivel
- Sénior
- Categoría
- Ingeniería y tecnología
El puesto
FAR.AI busca un/a Responsable Técnico/a de Jailbreaking para dirigir el motor técnico central del equipo de red team, centrado en vulnerar los modelos de frontera con las defensas más sólidas y en establecer el criterio técnico para evaluar la gravedad y la generalidad de las vulnerabilidades.
Tus funciones
- Desarrollar jailbreaks universales y casi universales contra modelos de frontera de pesos cerrados y abiertos
- Desmontar sistemáticamente las pilas de defensa en profundidad
- Escalar las vulnerabilidades iniciales para revelar su forma más grave
- Asumir el criterio técnico para evaluar la gravedad y la generalidad de las vulnerabilidades en cada proyecto importante
- Crear nuevas clases de ataque cuando las técnicas existentes fallen
- Seguir y incorporar rápidamente los métodos más avanzados de la literatura especializada
El perfil buscado
- Historial comprobado de detección de vulnerabilidades no evidentes y de alta gravedad en sistemas de IA de frontera
- Sólida competencia técnica y criterio para saber qué vulnerabilidades son realmente relevantes
- Experiencia con métodos de optimización de caja negra y con ataques multimodales
- Experiencia en jailbreaking y comprensión profunda de las arquitecturas de los modelos de lenguaje de gran tamaño
- Excelentes habilidades de comunicación para lograr que los laboratorios de frontera y los gobiernos actúen en función de los hallazgos
- Historial en IA, aprendizaje automático adversarial, seguridad u otra materia altamente técnica
Lo que aportarás
Los beneficios
Seguro de salud, jubilación, PTO (tiempo libre remunerado), permiso retribuido, estipendio y equipamiento para teletrabajo, comidas con servicio de catering (solo en la oficina de Berkeley)
Preguntas frecuentes
¿Dónde está ubicado el puesto?
El puesto es remoto a nivel global, con patrocinio de visado para Estados Unidos o Singapur.
¿Cuál es la remuneración?
La remuneración no se especifica.
¿Cuáles son las principales cualificaciones requeridas?
Las principales cualificaciones incluyen un historial comprobado de detección de vulnerabilidades no evidentes y de alta gravedad, experiencia en jailbreaking y una comprensión profunda de las arquitecturas de los modelos de lenguaje de gran tamaño.
¿Cómo me postulo?
Preséntate directamente a través del formulario de solicitud. No envíes tu currículum por correo electrónico.
¿Cuál es el horario de trabajo?
El horario es de jornada completa, con hasta un viaje al mes para reuniones, encuentros con gobiernos o actividades de equipo.
Cómo postularse
Postúlate directamente en el sitio de FAR.AI. Te enlazamos sin intermediarios: sin análisis de currículum ni perfiles que completar.
Esta oferta proviene de una fuente externa y su resumen puede haberse generado automáticamente y traducido del inglés de forma automática, por lo que algunos datos pueden ser inexactos o estar desactualizados. ForGood no es el empleador ni se hace responsable de su contenido. Verifica toda la información en la oferta oficial de FAR.AI antes de postularte.
Más puestos en Ingeniería y tecnología
Associate Professor of Chemical Engineering
Director de Servicios de TI
Gerente de Clerk of Works
Meet people in Engineering & Technology
Upcoming conferences and workshops where people doing this kind of work get together.