Softgic
Senior AI Quality Engineer (LLM Evaluation & Automation) 1754
Rol remoto de AI Quality Engineering con fit claro de ubicación del candidato.
Publicado8 jul 2026
Países elegibles1 país aceptado
Señal de senioritySenior
Modelo de trabajoRemoto
Ubicaciones aceptadas para candidatos
Estados Unidos
Resumen del rol
Senior AI Quality Engineer (LLM Evaluation & Automation) 1754
Requisitos y responsabilidades
Contenido del rol extraído en secciones para revisar más rápido.
Details
- Build and maintain the MVP eval harness: golden tasks, exception tasks, scorecard metrics, and regression packs.
- Wire evals into CI so quality regressions fail builds and releases.
- Define and maintain release-gate thresholds with Product and the Tech Lead.
- Lay the path for later adversarial and drift-testing expansion without overbuilding MVP scope.
- Experience evaluating ML, LLM, or non-deterministic systems.
- Strong test and benchmark design capability.
- Comfort working with noisy metrics, thresholds, and probabilistic behavior.
- Good scripting and automation skills.
- Uses AI to generate candidate eval cases and failure hypotheses, but never confuses generated tests with validated quality.
- Approaches AI quality as an operating system, not a QA afterthought.
- The first reference agent has a published scorecard and gated eval path. • Golden and exception tests run automatically. • The team can explain what “good enough to ship” means in measurable terms.
Roles similares
Mantén una lista de respaldo.
Stack
Usa estas tags para comparar roles remotos similares.
Elegibilidad de ubicación
Candidatos deberían aplicar solo cuando el país del perfil aparece aquí.
Tu perfilPaís no definidoInicia sesión para comparar tu país con este rol.
Flujo de contratación
WithMira muestra el rol y luego envía candidatos a la aplicación de la empresa.
1Revisa fit del rol, stack y elegibilidad de ubicación en WithMira.
2Abre la página de aplicación de la empresa desde el link rastreado.
3Guarda el rol o suscríbete a oportunidades similares antes de salir.