Qualité KI grâce à la norme DIN SPEC 92001-2

La norme DIN 92001 définit un métamodèle de qualité sur le cycle de vie de l'IA et identifie la performance, la stabilité, la fonctionnalité et la traçabilité de l'IA comme objectifs supérieurs de l'assurance qualité de l'IA.

Depuis décembre 2020, la norme DIN SPEC 92001-2 peut être consultée publiquement. Ce document de plus de 40 pages est très complet et détaillé. Vous en trouverez sur cette page un bref aperçu, même s'il est abrégé. Vous pouvez télécharger le document DIN complet ici.

Vous avez lu une version traduite automatiquement du post original en allemand.

Définition de l'IA robuste

Qu'est-ce que l'IA robuste ?

Une IA robuste doit être capable de résister aux perturbations intentionnelles causées par des adversaires malveillants et aux
perturbations involontaires causées par des modifications des données d'entrée. Ces deux perturbations posent un problème de sécurité et de protection.

L'IA doit gérer des données erronées, bruyantes, inconnues ou
des données d'entrée construites. Dans les environnements complexes, la robustesse est un critère de qualité essentiel de l'IA. Même les modules d'IA à la pointe de la technologie sont vulnérables à ce type de perturbations. Lorsque les entreprises veulent rendre l'IA robuste, elles doivent se concentrer sur deux dimensions.

  • perturbation intentionnelle par des adversaires nuisibles
  • perturbation involontaire due à des modifications de la saisie des données

6 étapes pour une meilleure qualité d'IA

Comment mettre en place un cycle de qualité pour l'intelligence artificielle robuste, basé sur la norme DIN SPEC 92001-2 ?

  1. Les tâches à assumer par l'IA doivent être comparées à la tolérance au risque de votre organisation.

  2. Définir ce que signifie "perturbation de l'IA" par tâche automatisée

  3. Identifiez les adversaires, réfléchissez aux attaques possibles et préparez des stratégies de défense.

  4. Surveillez vos données d'entrée et soyez prêt à réentraîner votre IA sur des données changeantes.

  5. Ajoutez des données génératrices d'erreurs à vos données de test et calculez leur impact après chaque entraînement de l'IA.

  6. Documentez votre stratégie et répétez régulièrement les étapes mentionnées.

En novembre déjà, Actualités de l'informatique dans un article complet sur notre Triangle IA®, qui s'inspire de la norme DIN SPEC 92001. Celui-ci, tout comme notre logiciel Konfuzio, La gamme de produits s'est continuellement élargie afin de répondre aux exigences les plus récentes en matière de qualité et de robustesse.

"
"
Avatar de Maximilian Schneider

Derniers articles