Automated Data Processing

KI Qualität durch die DIN SPEC 92001-2

Maximilian Schneider

Die DIN 92001 definiert ein Qualitäts-Metamodell über den Lebenszyklus der KI und identifiziert Leistung, Stabilität, Funktionalität und Nachvollziehbarkeit der KI als übergeordnete Ziele der KI Qualitätssicherung.

Seit Dezember 2020 ist die DIN SPEC 92001-2 öffentlich einsehbar. Das mehr als 40 Seiten umfassende Dokument ist umfangreich und detailliert. Auf dieser Seite finden Sie dazu einen kurzen und wenn auch verkürzten Überblick. Das gesamte DIN Dokument können Sie hier herunterladen.

Dieser Artikel wurde auf Deutsch verfasst und redaktionell überprüft. Weitere Sprachen stehen als automatische Übersetzung zur Verfügung. Wir freuen uns über Feedback am Ende des Artikels.

Definition von robuster KI

Was ist robuste KI?

Robuste KI sollte gegen beabsichtigte Störung durch schädliche Gegner und
unbeabsichtigte Störung durch Änderungen der Input Daten widerstandsfähig sein. Beide Störungen stellen ein Sicherheits- und ein Schutzproblem dar.

KI muss mit fehlerhaften, verrauschten, unbekannten oder
konstruierten Eingabedaten umgehen. In komplexen Umgebungen ist Robustheit ein zentrales KI-Qualitätskriterium. Selbst KI-Module auf dem neuesten Stand der Technik sind anfällig für diese Art von Störungen. Wenn Unternehmen KI robust machen wollen, stehen zwei Dimensionen im Vordergrund konzentrieren.

  • beabsichtigte Störung durch schädliche Gegner
  • unbeabsichtigte Störung durch Änderungen der Dateneingabe

6 Schritte für mehr KI Qualität

Wie implementiert man einen and die DIN SPEC 92001-2 angelehnten Qualitätszyklus für robuste Künstliche Intelligenz?

  1. Die von der KI zu übernehmenden Aufgaben sind mit der Risikobereitschaft Ihrer Organisation abzugleichen.

  2. Definieren Sie, was „KI-Störung“ pro automatisierter Aufgabe bedeutet

  3. Identifizieren Sie Gegner, denken Sie über mögliche Angriffe nach und bereiten Sie Verteidigungsstrategien vor

  4. Überwachen Sie Ihre Eingabedaten und seien Sie bereit, Ihre KI auf sich verändernden Daten neu zu trainieren

  5. Fügen Sie Fehler verursachende Daten zu Ihren Testdaten hinzu und berechnen Sie deren Auswirkungen nach jedem Training der KI

  6. Dokumentieren Sie Ihre Strategie und wiederholen Sie die genannten Schritte regelmäßig

Bereits im November hat die Informatik Aktuell in einem umfangreichen Artikel über unser an der DIN SPEC 92001 angelehntes KI-Dreieck® berichtet. Dieses wird, wie auch unsere Software Konfuzio, kontinuierlich erweitert, um so auch die neuesten Ansprüche an Qualität und Robustheit zu übertreffen.

Über mich

Weitere Artikel

Pygmalion AI Tutorial: Features, Funktionen und Setup der KI

Chatbots zeigen anschaulich, wie rasant sich Künstliche Intelligenz in den letzten Jahren entwickelt hat. So haben sich Bots von einfachen...

Zum Artikel
Data Model Titel

Data Model: Anwendungsmöglichkeiten im Unternehmen

Mit einem Data Model oder Data Modeling können Sie Beziehungen zwischen unterschiedlichen Informationstypen in Unternehmen grafisch modellieren.  Die Datenmodelle helfen...

Zum Artikel
Document Splitting

Klassifikation von Dokumenten und Dokumententrennung durch KI

Eines der häufig übersehenen und wirklich schwierigen Probleme bei der Dokumentenautomatisierung, das auch im täglichen Betrieb wirklich nervig ist, ist...

Zum Artikel
Arrow-up