Die DIN 92001 definiert ein Qualitäts-Metamodell über den Lebenszyklus der KI und identifiziert Leistung, Stabilität, Funktionalität und Nachvollziehbarkeit der KI als übergeordnete Ziele der KI Qualitätssicherung.
Seit Dezember 2020 ist die DIN SPEC 92001-2 öffentlich einsehbar. Das mehr als 40 Seiten umfassende Dokument ist umfangreich und detailliert. Auf dieser Seite finden Sie dazu einen kurzen und wenn auch verkürzten Überblick. Das gesamte DIN Dokument können Sie hier herunterladen.
Definition von robuster KI
Robuste KI sollte gegen beabsichtigte Störung durch schädliche Gegner und
unbeabsichtigte Störung durch Änderungen der Input Daten widerstandsfähig sein. Beide Störungen stellen ein Sicherheits- und ein Schutzproblem dar.
KI muss mit fehlerhaften, verrauschten, unbekannten oder
konstruierten Eingabedaten umgehen. In komplexen Umgebungen ist Robustheit ein zentrales KI-Qualitätskriterium. Selbst KI-Module auf dem neuesten Stand der Technik sind anfällig für diese Art von Störungen. Wenn Unternehmen KI robust machen wollen, stehen zwei Dimensionen im Vordergrund konzentrieren.
- beabsichtigte Störung durch schädliche Gegner
- unbeabsichtigte Störung durch Änderungen der Dateneingabe
6 Schritte für mehr KI Qualität
Wie implementiert man einen and die DIN SPEC 92001-2 angelehnten Qualitätszyklus für robuste Künstliche Intelligenz?
- Die von der KI zu übernehmenden Aufgaben sind mit der Risikobereitschaft Ihrer Organisation abzugleichen.
- Definieren Sie, was „KI-Störung“ pro automatisierter Aufgabe bedeutet
- Identifizieren Sie Gegner, denken Sie über mögliche Angriffe nach und bereiten Sie Verteidigungsstrategien vor
- Überwachen Sie Ihre Eingabedaten und seien Sie bereit, Ihre KI auf sich verändernden Daten neu zu trainieren
- Fügen Sie Fehler verursachende Daten zu Ihren Testdaten hinzu und berechnen Sie deren Auswirkungen nach jedem Training der KI
- Dokumentieren Sie Ihre Strategie und wiederholen Sie die genannten Schritte regelmäßig
Bereits im November hat die Informatik Aktuell in einem umfangreichen Artikel über unser an der DIN SPEC 92001 angelehntes KI-Dreieck® berichtet. Dieses wird, wie auch unsere Software Konfuzio, kontinuierlich erweitert, um so auch die neuesten Ansprüche an Qualität und Robustheit zu übertreffen.
