La norma DIN 92001 define un metamodelo de calidad a lo largo del ciclo de vida de la IA e identifica el rendimiento, la estabilidad, la funcionalidad y la trazabilidad de la IA como los objetivos generales de la garantía de calidad de la IA.
DIN SPEC 92001-2 está disponible al público desde diciembre de 2020. El documento, de más de 40 páginas, es extenso y detallado. En esta página encontrará un breve, aunque abreviado, resumen. Puede descargar el documento DIN completo aquí.
Este artículo ha sido traducido al alemán y se ha traducido automáticamente a otros idiomas. Nos complacerá recibir sus comentarios al final del artículo.
Definición de IA robusta
Una IA robusta debe ser resistente a las interferencias intencionadas de adversarios malintencionados y a las interferencias
no intencionadas por cambios en los datos de entrada. Ambas perturbaciones plantean un problema de seguridad.
La IA tiene que hacer frente a fallos, ruidos, desconocidos o
datos de entrada construidos. En entornos complejos, la robustez es un criterio clave de calidad de la IA. Incluso los módulos de IA más avanzados son propensos a este tipo de fallos. Cuando las empresas quieren que la IA sea sólida, deben centrarse en dos dimensiones.
- Perturbación intencionada por adversarios perjudiciales
- Mal funcionamiento involuntario debido a cambios en la introducción de datos
6 pasos para una mayor calidad de la IA
¿Cómo implantar un ciclo de calidad para la inteligencia artificial robusta basado en la norma DIN SPEC 92001-2?
- Las tareas que debe realizar la IA deben ajustarse a la propensión al riesgo de su organización.
- Definir lo que significa "fallo de IA" por tarea automatizada
- Identificar a los adversarios, pensar en posibles ataques y preparar estrategias de defensa
- Controla los datos de entrada y prepárate para reentrenar tu IA en función de los cambios de datos.
- Añade datos que causen errores a tus datos de prueba y calcula su impacto después de cada entrenamiento de la IA.
- Documente su estrategia y repita los pasos anteriores con regularidad
En noviembre, Informatik Aktuell en un extenso artículo sobre nuestro KI-Dreieck®, que se basa en la norma DIN SPEC 92001. Esto, al igual que nuestro software Konfuzio, ampliado continuamente para superar incluso las últimas exigencias de calidad y robustez.
