IT-Sicherheit im KI-Zeitalter: Technik, Regeln, Schulung

Unternehmen in Deutschland verarbeiten täglich Rechnungen, Verträge, Personalakten und Kundendaten. Ein wachsender Teil dieser Arbeit läuft über KI-Systeme. Durch die steigende die Summe aller Systeme, Zugänge und Personen, wächst die Angriffsfläche über die ein Angreifer ins Unternehmen gelangen kann.

Für die Studie „Wirtschaftsschutz 2025“ zur Unternehmenssicherheit ließ der Digitalverband Bitkom von April bis Juni 2025 insgesamt 1.002 Unternehmen ab zehn Beschäftigten telefonisch befragen. Das Ergebnis: 87 Prozent waren in den vergangenen zwölf Monaten von Datendiebstahl, Industriespionage oder Sabotage betroffen, weitere zehn Prozent vermuteten es. Der Schaden lag bei 289,2 Milliarden Euro, 70 Prozent davon entfielen auf Cyberattacken.

Künstliche Intelligenz verändert dabei beide Seiten. Angreifer formulieren Phishing-Mails fehlerfrei, klonen Stimmen und finden Schwachstellen schneller. Verteidiger setzen KI ein, um ungewöhnliche Vorgänge im eigenen Netz zu erkennen. Zwei Drittel der befragten Unternehmen (66 Prozent) haben den Eindruck, dass bei Angriffen auf sie verstärkt KI zum Einsatz kommt. Zugleich nutzen erst sechs Prozent KI, um die eigene IT-Sicherheit zu verbessern.

Dieser Beitrag beschreibt, wie sich die Bedrohungslage verschoben hat und worauf Unternehmen bei Technik, Daten und Anbietern achten sollten. Dazu zeigt er, warum die Schulung der eigenen Beschäftigten im KI-Zeitalter zur gesetzlichen Pflicht geworden ist. Eine Einordnung der Werkzeuge auf der Verteidigungsseite gibt der Beitrag zur Cybersicherheit unter dem Einfluss von KI.

Die Bedrohungslage im KI-Zeitalter

Mehr Schwachstellen, kleinere Ziele

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt in seinem Lagebericht 2025 für den Zeitraum Juli 2024 bis Juni 2025 eine Lage, die „weiterhin auf angespanntem Niveau“ bleibt. Täglich wurden durchschnittlich 119 neue Schwachstellen in IT-Systemen bekannt, ein Plus von rund 24 Prozent gegenüber dem vorigen Berichtszeitraum.

Von den bei den Behörden angezeigten Angriffen, etwa mit Ransomware (Erpressungssoftware, die Daten verschlüsselt), richteten sich rund 80 Prozent gegen kleine und mittlere Unternehmen (KMU). Diesen fehlen nach Einschätzung des BSI häufig Mittel und Wissen für den eigenen Schutz.

Die Angreifer wählen also den einfachsten Weg, und dieser führt oft über Systeme ohne aktuelle Sicherheitsupdates und über Menschen. Der Data Breach Investigations Report 2026 von Verizon wertet Sicherheitsvorfälle weltweit zwischen November 2024 und Oktober 2025 aus. Er nennt Software-Schwachstellen mit 31 Prozent als häufigsten Einstiegspunkt vor gestohlenen Zugangsdaten, und bei 48 Prozent aller untersuchten Datenpannen war Ransomware im Spiel.

KI auf beiden Seiten

Wie teuer ein Vorfall wird, misst IBM jährlich mit dem Ponemon Institute anhand realer Datenpannen in Unternehmen weltweit. Im Cost of a Data Breach Report 2026 liegt der weltweite Durchschnittsschaden einer Datenpanne bei 4,99 Millionen US-Dollar, zwölf Prozent mehr als im Vorjahr und ein Rekordwert.

Die Zahl KI-gestützter Angriffe stieg nach demselben Bericht um 56 Prozent, vor allem durch Deepfake-Imitationen (mit KI gefälschte Stimmen oder Videos) und KI-gestützte Schadsoftware. Verizon zählt 15 Angriffstechniken, die inzwischen durch generative KI verstärkt werden.

Bitkom-Präsident Dr. Ralf Wintergerst sagte dazu in der Presseinformation zur Studie vom 18. September 2025: „Künstliche Intelligenz erlaubt völlig neue Angriffsmethoden, etwa mit Deepfakes, verbessert aber auch klassische Angriffe, zum Beispiel durch viel glaubwürdigere Phishing-Mails.“ Und: „Wichtig ist, die Beschäftigten hierfür zu schulen und zu sensibilisieren.“

Noch verursachen Deepfakes nur bei vier Prozent der befragten Unternehmen Schaden. Elf Prozent berichten aber bereits von Deepfake-Attacken, die ohne Schaden blieben.

Worauf Unternehmen bei der IT- und Datensicherheit achten sollten

Die Berichte von BSI, Bitkom und Verizon zeichnen ein ähnliches Bild: Die meisten erfolgreichen Angriffe nutzen bekannte Lücken, schwache Zugänge oder menschliche Fehler. Daraus ergeben sich sechs Prüfpunkte, die für Unternehmen jeder Größe gelten.

• Angriffsflächenmanagement: Das BSI nennt den Schutz der eigenen Angriffsflächen den entscheidenden Hebel für 2026: zeitnahe Updates, ein restriktives Zugangsmanagement und möglichst wenige öffentlich erreichbare Systeme.
• Zugriffe nach dem Minimalprinzip: Jede Person erhält nur die Rechte, die ihre Rolle braucht, und jeder Zugriff wird protokolliert. Das Prinzip ist der Kern von Zero-Trust-Architekturen, in denen jeder Zugriff geprüft wird, auch aus dem eigenen Netz.
• Datenhaltung und Anbieterwahl: Wo Daten liegen, welche Unterauftragsverarbeiter (Subprozessoren) beteiligt sind und welche Zertifizierung der Anbieter nachweist, gehört in jede Beschaffung, weil dort die Datensicherheit entschieden wird. 67 Prozent der von Bitkom befragten Unternehmen sehen sich abhängig von Sicherheitslösungen aus den USA.
• Notfallplan: Sechs von zehn Unternehmen haben laut Bitkom einen Notfallplan für Sicherheitsvorfälle, 39 Prozent sind unvorbereitet. Ein Plan regelt Meldewege, Wiederanlauf und Kommunikation, bevor der Ernstfall eintritt.
• Prüfung durch Dritte: Penetrationstests (beauftragte Angriffe auf die eigenen Systeme) und Code-Reviews finden, was intern unsichtbar bleibt. Das gilt besonders für Lösungen, die Teams mit KI-Unterstützung selbst entwickeln.
• Regeln für KI-Werkzeuge: Festzulegen ist, welche Daten in ein KI-Werkzeug eingegeben werden dürfen, welche Werkzeuge freigegeben sind und wer die Ergebnisse prüft. Ohne diese Regeln wandern Kundendaten unbemerkt in fremde Modelle.

Fünf der sechs Punkte lassen sich einkaufen, einrichten und dokumentieren. Ob die Regeln für KI-Werkzeuge eingehalten werden, entscheidet sich dagegen jeden Tag an jedem Arbeitsplatz, und damit bei den Beschäftigten.

Warum die Schulung der Mitarbeiter entscheidet

Der Mensch als Angriffsfläche

Social Engineering bezeichnet Techniken, bei denen Angreifer menschliches Verhalten ausnutzen, um an Zugänge oder Informationen zu kommen, etwa mit gefälschten E-Mails oder täuschenden Anrufen.

Knapp jedes zweite Unternehmen hat laut Bitkom in den vergangenen zwölf Monaten solche Versuche erlebt: 21 Prozent häufig, 28 Prozent vereinzelt. Phishing-Angriffe verursachten bei 22 Prozent der Unternehmen Schaden, Angriffe auf Passwörter bei 21 Prozent.

Generative KI senkt die Kosten dieser Angriffe. Eine Phishing-Mail in fehlerfreiem Deutsch, im Tonfall des Vorgesetzten und mit Bezug auf ein echtes Projekt lässt sich heute in Sekunden erzeugen.

Auf dem Smartphone fällt das Erkennen zusätzlich schwer: Verizon berichtet für mobile Geräte um 40 Prozent höhere Klickraten, weshalb Angreifer auf SMS und Anrufe ausweichen. Den Spamfilter passiert eine solche Mail meist. Dann können nur noch die Beschäftigten den Angriff stoppen.

Die Schulungslücke in Zahlen

Die Mehrheit der Unternehmen schult nach der Bitkom-Studie zwar regelmäßig zu Phishing oder Social Engineering, aber nicht flächendeckend. 55 Prozent schulen nur ausgewählte Bereiche oder Positionen, 24 Prozent alle Beschäftigten. 20 Prozent verzichten vollständig auf IT-Sicherheitsschulungen.

Beim Umgang mit KI selbst ist die Lücke größer. Der TÜV-Verband ließ von Januar bis März 2026 von Forsa 500 Unternehmen ab 20 Beschäftigten befragen. 27 Prozent hatten ihre Beschäftigten im Umgang mit KI geschult, mehr als doppelt so viele wie 2024 (zwölf Prozent). 45 Prozent sahen keinen Bedarf.

Eine Bitkom-Befragung von 603 Unternehmen im Sommer 2026 kommt auf 70 Prozent, die ihre Beschäftigten inzwischen im Umgang mit KI schulen. Davon entfallen 37 Prozentpunkte auf Unternehmen, die nur ausgewählte Beschäftigte schulen. Die Spanne zwischen beiden Werten erklärt sich aus dem späteren Befragungszeitpunkt, anderen Befragten und einem weiten Begriff von Schulung, von der einmaligen Information bis zum Programm mit Übungen.

Pflichten aus NIS2 und KI-Verordnung

Schulung ist inzwischen auch eine Rechtspflicht. Das NIS2-Umsetzungsgesetz nennt die betroffenen Unternehmen „besonders wichtige und wichtige Einrichtungen“. Deren Geschäftsleitungen schreibt § 38 des BSI-Gesetzes vor, regelmäßig an Schulungen teilzunehmen, um Cyberrisiken und die Gegenmaßnahmen beurteilen zu können.

Nach Absatz 2 haften Geschäftsleitungen gegenüber ihrer Einrichtung für Schäden, die sie schuldhaft verursachen, indem sie die Risikomanagementmaßnahmen aus Absatz 1 nicht umsetzen oder überwachen.

Die KI-Verordnung ergänzt das für alle, die KI-Systeme einsetzen. Artikel 4 verpflichtet Anbieter und Betreiber seit der Fassung vom 27. Juli 2026 dazu, Maßnahmen zu ergreifen, um die KI-Kompetenz ihres Personals zu fördern, abgestuft nach Vorwissen und Einsatzkontext.

Ein bestimmtes Kompetenzniveau schreibt die Verordnung nicht vor, Untätigkeit lässt sie aber auch nicht zu. Was die Verordnung darüber hinaus verlangt, beschreibt der Beitrag zum EU AI Act für Unternehmen.

So sieht ein wirksames Schulungsprogramm aus

Herkömmliche Unterweisung: einmal im Jahr eine Präsentation zu Passwörtern und Phishing, Teilnahme per Unterschrift bestätigt, Inhalte für alle gleich. Gegen KI-gestützte Angriffe greift dieses Format zu kurz, weil sie auf Aktualität, Personalisierung und Tempo setzen. Ein Programm, das dagegenhält, folgt der Logik der Angreifer.

• Zielgruppen trennen: Geschäftsleitung (bei NIS2-Einrichtungen Pflichtschulung nach § 38 BSIG, Haftung, Entscheidungen im Ernstfall), Fachbereiche (Phishing, Anrufe, Datenweitergabe) und Entwickler (sichere Nutzung von KI-Werkzeugen beim Programmieren).
• Aktuelle Angriffsmuster üben: Deepfake-Anrufe, gefälschte Rechnungen mit geänderter Bankverbindung, Nachrichten im Namen der Geschäftsführung.
• Umgang mit KI-Werkzeugen regeln: Die Regeln aus dem Prüfpunkt oben an Beispielen aus dem eigenen Arbeitsalltag durchspielen, bis sie sitzen.
• Meldewege einüben: Ein Verdachtsfall muss in einer Minute meldbar sein, ohne Schuldzuweisung. Je früher eine Meldung kommt, desto kleiner der Schaden.
• Wiederholen und messen: Kurze Einheiten mehrmals im Jahr, Phishing-Simulationen (selbst verschickte Test-Phishing-Mails) mit Auswertung je Abteilung, Nachschulung dort, wo die Klickrate hoch bleibt.

Tipp: Die Klickrate der eigenen Phishing-Simulation ist die aussagekräftigste Kennzahl, weil sie Verhalten misst, statt Teilnahmen zu zählen. Sie gehört neben dem Stand der Updates und dem Backup-Test in jeden Sicherheitsbericht an die Geschäftsführung.

Beispiel: Ein Entwicklungsteam, das mit KI-Unterstützung eine interne Anwendung baut, lernt in der Konfuzio Academy an einem Fall aus der eigenen Aufgabenliste. Dort geht es um die Leitplanken für KI-Werkzeuge im Alltag: welche Daten in welches Werkzeug dürfen, wer prüft, was protokolliert wird. Danach prüft ein Penetrationstest das laufende System, und der Prüfbericht geht an dasselbe Team zurück.

Sicherheit beim Dienstleister: das Beispiel Konfuzio

Für Anbieter von Dokumentenverarbeitung gelten diese Anforderungen doppelt, weil sie die sensibelsten Daten ihrer Kunden lesen. Konfuzio wird von der Helm & Nagel GmbH in Deutschland entwickelt, nach ISO 27001 (der internationalen Norm für Informationssicherheit) betrieben und in deutschen Rechenzentren gehostet.

Zertifikat, Sicherheitsmaßnahmen und Unterauftragsverarbeiter sind im Trust Center einsehbar; Details stehen auf der Seite zu Sicherheit und Compliance. Die Erfahrung aus dem eigenen Betrieb bietet Helm & Nagel auch als Dienstleistung an, von der Compliance-Beratung bis zum Penetrationstest.

Fazit

Die Bedrohungslage hat sich im KI-Zeitalter verschoben, und zwar hin zu mehr Angriffen mit bekannten Methoden.

Täglich 119 neue Schwachstellen, 80 Prozent der angezeigten Angriffe gegen KMU und 87 Prozent betroffene Unternehmen zeigen die Richtung. Angreifer suchen schlecht geschützte Stellen und nutzen KI, um bekannte Methoden schneller und glaubwürdiger zu machen. Technik und Regeln bleiben die Grundlage der Unternehmenssicherheit, von Angriffsflächenmanagement über Zugriffsrechte bis zur Anbieterwahl.

Die Beschäftigten sind eine Angriffsfläche, die selten systematisch geschützt wird. Nur 24 Prozent der Unternehmen schulen alle Beschäftigten zu IT-Sicherheit, und beim Umgang mit KI liegt der Anteil je nach Befragung und Definition zwischen 27 und 70 Prozent.

Gleichzeitig verlangt § 38 BSIG von Geschäftsleitungen der NIS2-Einrichtungen regelmäßige Schulung, und Artikel 4 der KI-Verordnung fordert von Anbietern und Betreibern Maßnahmen für die KI-Kompetenz aller, die KI-Systeme bedienen. Ein Programm mit Zielgruppen, aktuellen Angriffsmustern und messbaren Ergebnissen ist deshalb eine Investition, deren Wirkung sich nach jeder Einheit an der Klickrate ablesen lässt.

Möchten Sie wissen, wo Ihre eigene IT und Ihre Teams stehen, von der Anbieterprüfung bis zum Penetrationstest? Eine Nachricht an Konfuzio genügt, um sich von Experten beraten zu lassen.