Data Engineer at Work

KI Qualität durch die DIN SPEC 92001-2

Team Konfuzio

Die DIN 92001 definiert ein Qualitäts-Metamodell über den Lebenszyklus der KI und identifiziert Leistung, Stabilität, Funktionalität und Nachvollziehbarkeit der KI als übergeordnete Ziele der KI Qualitätssicherung.

Seit Dezember 2020 ist die DIN SPEC 92001-2 öffentlich einsehbar. Das mehr als 40 Seiten umfassende Dokument ist umfangreich und detailliert. Auf dieser Seite finden Sie dazu einen kurzen und wenn auch verkürzten Überblick. Das gesamte DIN Dokument können Sie hier herunterladen.

Definition von robuster KI

Was ist robuste KI?

Robuste KI sollte gegen beabsichtigte Störung durch schädliche Gegner und
unbeabsichtigte Störung durch Änderungen der Input Daten widerstandsfähig sein. Beide Störungen stellen ein Sicherheits- und ein Schutzproblem dar.

KI muss mit fehlerhaften, verrauschten, unbekannten oder
konstruierten Eingabedaten umgehen. In komplexen Umgebungen ist Robustheit ein zentrales KI-Qualitätskriterium. Selbst KI-Module auf dem neuesten Stand der Technik sind anfällig für diese Art von Störungen. Wenn Unternehmen KI robust machen wollen, stehen zwei Dimensionen im Vordergrund konzentrieren.

  • beabsichtigte Störung durch schädliche Gegner
  • unbeabsichtigte Störung durch Änderungen der Dateneingabe

6 Schritte für mehr KI Qualität

Wie implementiert man einen and die DIN SPEC 92001-2 angelehnten Qualitätszyklus für robuste Künstliche Intelligenz?

  1. Die von der KI zu übernehmenden Aufgaben sind mit der Risikobereitschaft Ihrer Organisation abzugleichen.

  2. Definieren Sie, was „KI-Störung“ pro automatisierter Aufgabe bedeutet

  3. Identifizieren Sie Gegner, denken Sie über mögliche Angriffe nach und bereiten Sie Verteidigungsstrategien vor

  4. Überwachen Sie Ihre Eingabedaten und seien Sie bereit, Ihre KI auf sich verändernden Daten neu zu trainieren

  5. Fügen Sie Fehler verursachende Daten zu Ihren Testdaten hinzu und berechnen Sie deren Auswirkungen nach jedem Training der KI

  6. Dokumentieren Sie Ihre Strategie und wiederholen Sie die genannten Schritte regelmäßig

Bereits im November hat die Informatik Aktuell in einem umfangreichen Artikel über unser an der DIN SPEC 92001 angelehntes KI-Dreieck® berichtet. Dieses wird, wie auch unsere Software Konfuzio, kontinuierlich erweitert, um so auch die neuesten Ansprüche an Qualität und Robustheit zu übertreffen.

0 Kommentare

    Schreiben Sie einen Kommentar

    Weitere tolle Artikel

    Lexikonseite

    Annotationen in Dokumenten mit kostenlosen NLP Tools in 2021

    Welches Annotationstool ist das beste für Ihr nächstes Natural Language Processing Projekt, um Annotationen in Dokumenten zu ermöglichen? Annotationen in…

    Geschichte lesen

    Datenextraktion aus Dokumenten – How To III

    Einheitliche Trainingsdaten: Theorie und Praxis Kostenlos testen Nachdem Sie die Grundlagen in Anleitung 1 und Sektionen in Anleitung 2 kennengelernt…

    Geschichte lesen

    Datenextraktion aus Dokumenten – How To II

    So optimieren Sie Ihr Projekt durch die Nutzung von Templates Kostenlos testen Nachdem Sie in der ersten Anleitung die Grundlagen…

    Geschichte lesen

    Newsletter abonnieren

    Erhalten Sie Neuigkeiten über Konfuzio direkt in Ihrem Postfach.

    Arrow-up