Lancement / Blog / Instructions / Qualité KI grâce à la norme DIN SPEC 92001-2

Qualité KI grâce à la norme DIN SPEC 92001-2

Publication :

03. Février 2021

- mise à jour : 16. Février 2025

La norme DIN 92001 définit un métamodèle de qualité sur le cycle de vie de l'IA et identifie la performance, la stabilité, la fonctionnalité et la traçabilité de l'IA comme objectifs supérieurs de l'assurance qualité de l'IA.

Depuis décembre 2020, la norme DIN SPEC 92001-2 peut être consultée publiquement. Ce document de plus de 40 pages est très complet et détaillé. Vous en trouverez sur cette page un bref aperçu, même s'il est abrégé. Vous pouvez télécharger le document DIN complet ici.

Table des matières

Définition de l'IA robuste

Qu'est-ce que l'IA robuste ?

Une IA robuste doit être capable de résister aux perturbations intentionnelles causées par des adversaires malveillants et aux
perturbations involontaires causées par des modifications des données d'entrée. Ces deux perturbations posent un problème de sécurité et de protection.

L'IA doit gérer des données erronées, bruyantes, inconnues ou
des données d'entrée construites. Dans les environnements complexes, la robustesse est un critère de qualité essentiel de l'IA. Même les modules d'IA à la pointe de la technologie sont vulnérables à ce type de perturbations. Lorsque les entreprises veulent rendre l'IA robuste, elles doivent se concentrer sur deux dimensions.

perturbation intentionnelle par des adversaires nuisibles
perturbation involontaire due à des modifications de la saisie des données

6 étapes pour une meilleure qualité d'IA

Comment mettre en place un cycle de qualité pour l'intelligence artificielle robuste, basé sur la norme DIN SPEC 92001-2 ?

Les tâches à assumer par l'IA doivent être comparées à la tolérance au risque de votre organisation.
Définir ce que signifie "perturbation de l'IA" par tâche automatisée
Identifiez les adversaires, réfléchissez aux attaques possibles et préparez des stratégies de défense.
Surveillez vos données d'entrée et soyez prêt à réentraîner votre IA sur des données changeantes.
Ajoutez des données génératrices d'erreurs à vos données de test et calculez leur impact après chaque entraînement de l'IA.
Documentez votre stratégie et répétez régulièrement les étapes mentionnées.

En novembre déjà, Actualités de l'informatique dans un article complet sur notre Triangle IA®, qui s'inspire de la norme DIN SPEC 92001. Celui-ci, tout comme notre logiciel Konfuzio, La gamme de produits s'est continuellement élargie afin de répondre aux exigences les plus récentes en matière de qualité et de robustesse.

Avez-vous trouvé cette page utile ?

Merci beaucoup pour vos commentaires !

Voulez-vous me donner un feedback ? (anonyme)

Nous développons des logiciels d'intelligence artificielle pour les entreprises et renonçons délibérément aux bannières publicitaires gênantes. Par le biais de nos articles, nous documentons des thèmes qui nous préoccupent, nous intéressent et financent également notre pain quotidien.

Comme nos contenus sont gratuits, vos commentaires sont nos félicitations.

Chaque auteur lit personnellement vos commentaires anonymes, même si les IA pourraient les automatiser, et intègre directement les suggestions constructives dans la prochaine révision ou les utilise comme source d'inspiration pour le prochain article.