Evaluar apps de IA generativa: evaluaciones de groundedness, relevancia, fluidez y seguridad, y red teaming

Los modelos de ML tradicionales se evalúan con métricas como accuracy o RMSE frente a etiquetas conocidas. La salida de la IA generativa es texto abierto, así que rara vez hay una sola respuesta correcta con la cual comparar. Por eso la evaluación usa una combinación de métricas de calidad, métricas de seguridad, revisión humana y pruebas adversarias, y continúa después del lanzamiento.