Data Engineer bei der Arbeit

KI Qualität durch die DIN SPEC 92001-2

Team Konfuzio

Die DIN 92001 definiert ein Qualitäts-Metamodell über den Lebenszyklus der KI und identifiziert Leistung, Stabilität, Funktionalität und Nachvollziehbarkeit der KI als übergeordnete Ziele der KI Qualitätssicherung.

Seit Dezember 2020 ist die DIN SPEC 92001-2 öffentlich einsehbar. Das mehr als 40 Seiten umfassende Dokument ist umfangreich und detailliert. Auf dieser Seite finden Sie dazu einen kurzen und wenn auch verkürzten Überblick. Das gesamte DIN Dokument können Sie hier herunterladen.

Definition von robuster KI

Was ist robuste KI?

Robuste KI sollte gegen beabsichtigte Störung durch schädliche Gegner und
unbeabsichtigte Störung durch Änderungen der Input Daten widerstandsfähig sein. Beide Störungen stellen ein Sicherheits- und ein Schutzproblem dar.

KI muss mit fehlerhaften, verrauschten, unbekannten oder
konstruierten Eingabedaten umgehen. In komplexen Umgebungen ist Robustheit ein zentrales KI-Qualitätskriterium. Selbst KI-Module auf dem neuesten Stand der Technik sind anfällig für diese Art von Störungen. Wenn Unternehmen KI robust machen wollen, stehen zwei Dimensionen im Vordergrund konzentrieren.

  • beabsichtigte Störung durch schädliche Gegner
  • unbeabsichtigte Störung durch Änderungen der Dateneingabe

6 Schritte für mehr KI Qualität

Wie implementiert man einen and die DIN SPEC 92001-2 angelehnten Qualitätszyklus für robuste Künstliche Intelligenz?

  1. Die von der KI zu übernehmenden Aufgaben sind mit der Risikobereitschaft Ihrer Organisation abzugleichen.

  2. Definieren Sie, was „KI-Störung“ pro automatisierter Aufgabe bedeutet

  3. Identifizieren Sie Gegner, denken Sie über mögliche Angriffe nach und bereiten Sie Verteidigungsstrategien vor

  4. Überwachen Sie Ihre Eingabedaten und seien Sie bereit, Ihre KI auf sich verändernden Daten neu zu trainieren

  5. Fügen Sie Fehler verursachende Daten zu Ihren Testdaten hinzu und berechnen Sie deren Auswirkungen nach jedem Training der KI

  6. Dokumentieren Sie Ihre Strategie und wiederholen Sie die genannten Schritte regelmäßig

Bereits im November hat die Informatik Aktuell in einem umfangreichen Artikel über unser an der DIN SPEC 92001 angelehntes KI-Dreieck® berichtet. Dieses wird, wie auch unsere Software Konfuzio, kontinuierlich erweitert, um so auch die neuesten Ansprüche an Qualität und Robustheit zu übertreffen.

Weitere Artikel

Faster R-CNN for page segmentation

Automatische Textzusammenfassung in Dokumenten mit faster R-CNN und PEGASUS

Steigende Mengen an Dokumenten und die darin enthaltenen Informationen müssen heute von Unternehmen verarbeitet werden, um die verborgenen Inhalte nutzen…

Zum Artikel
Lexikonseite

Annotationen in Dokumenten mit kostenlosen NLP Tools in 2021

Welches Annotationstool ist das beste für Ihr nächstes Natural Language Processing Projekt, um Annotationen in Dokumenten zu ermöglichen? Annotationen in…

Zum Artikel
Verkehr in der Nacht

Dokumentenverarbeitung mit KI, Prozesse automatisieren und Erkenntnisse generieren

Warum verarbeiten Unternehmen Dokumente mit KI? Heutzutage gelten Daten als eine der wertvollsten Ressourcen der Welt. Im Gegensatz dazu ist…

Zum Artikel

    Suchen Sie nach weiteren Informationen?

    Gerne können Sie uns auch eine E-Mail an [email protected] senden, uns telefonisch unter +49 6441 8994005 kontaktieren oder direkt ein Meeting buchen.
    Arrow-up