Automated Data Processing

KI Qualität durch die DIN SPEC 92001-2

Konfuzio

Die DIN 92001 definiert ein Qualitäts-Metamodell über den Lebenszyklus der KI und identifiziert Leistung, Stabilität, Funktionalität und Nachvollziehbarkeit der KI als übergeordnete Ziele der KI Qualitätssicherung.

Seit Dezember 2020 ist die DIN SPEC 92001-2 öffentlich einsehbar. Das mehr als 40 Seiten umfassende Dokument ist umfangreich und detailliert. Auf dieser Seite finden Sie dazu einen kurzen und wenn auch verkürzten Überblick. Das gesamte DIN Dokument können Sie hier herunterladen.

Definition von robuster KI

Was ist robuste KI?

Robuste KI sollte gegen beabsichtigte Störung durch schädliche Gegner und
unbeabsichtigte Störung durch Änderungen der Input Daten widerstandsfähig sein. Beide Störungen stellen ein Sicherheits- und ein Schutzproblem dar.

KI muss mit fehlerhaften, verrauschten, unbekannten oder
konstruierten Eingabedaten umgehen. In komplexen Umgebungen ist Robustheit ein zentrales KI-Qualitätskriterium. Selbst KI-Module auf dem neuesten Stand der Technik sind anfällig für diese Art von Störungen. Wenn Unternehmen KI robust machen wollen, stehen zwei Dimensionen im Vordergrund konzentrieren.

  • beabsichtigte Störung durch schädliche Gegner
  • unbeabsichtigte Störung durch Änderungen der Dateneingabe

6 Schritte für mehr KI Qualität

Wie implementiert man einen and die DIN SPEC 92001-2 angelehnten Qualitätszyklus für robuste Künstliche Intelligenz?

  1. Die von der KI zu übernehmenden Aufgaben sind mit der Risikobereitschaft Ihrer Organisation abzugleichen.

  2. Definieren Sie, was „KI-Störung“ pro automatisierter Aufgabe bedeutet

  3. Identifizieren Sie Gegner, denken Sie über mögliche Angriffe nach und bereiten Sie Verteidigungsstrategien vor

  4. Überwachen Sie Ihre Eingabedaten und seien Sie bereit, Ihre KI auf sich verändernden Daten neu zu trainieren

  5. Fügen Sie Fehler verursachende Daten zu Ihren Testdaten hinzu und berechnen Sie deren Auswirkungen nach jedem Training der KI

  6. Dokumentieren Sie Ihre Strategie und wiederholen Sie die genannten Schritte regelmäßig

Bereits im November hat die Informatik Aktuell in einem umfangreichen Artikel über unser an der DIN SPEC 92001 angelehntes KI-Dreieck® berichtet. Dieses wird, wie auch unsere Software Konfuzio, kontinuierlich erweitert, um so auch die neuesten Ansprüche an Qualität und Robustheit zu übertreffen.

Weitere Artikel

Digitale Transformation Titelbild

Digitale Transformation: Definition, Beispiele und Umsetzung

Möchten Sie mit Ihrem Unternehmen langfristig nachhaltig erfolgreich sein, enge Kundenbeziehungen aufbauen und zufriedene Mitarbeiter beschäftigen? Dann müssen Sie stetig…

Zum Artikel

FUNSD+ | A larger and revised FUNSD dataset

When creating the FUNSD+ dataset we aimed to enlarge the FUNSD. In addition, we wanted to set-up the labeling tool,…

Zum Artikel

Fahrzeugschein scannen und digital mit KI verarbeiten

KI-Scanner Software erfasst sämtliche Daten in wenigen Sekunden für die Kfz-Branche, Versicherungen und Behörden Viele Werkstätten nehmen die Informationen aus…

Zum Artikel

    Nehmen Sie Kontakt zu uns auf.

    Arrow-up