← Zurück zu AI MEDIA

Datenschutz & Sicherheit

KI-Vorfälle erkennen und nachvollziehbar dokumentieren

Legen Sie Meldestelle, Stoppweg und eine kurze Vorfallsakte an, bevor es zum ersten ernsthaften Problem kommt.

Ein Assistent hat einen falschen Anhang für mehrere E-Mail-Entwürfe ausgewählt. Einige sind noch im System, andere könnten bereits verschickt sein. Das Team braucht zuerst Klarheit über Umfang und den nächsten sicheren Schritt.

Fehlerbild und betroffene Vorgänge festhalten

Notieren Sie Zeitpunkt, erkennbare Auswirkung, verdächtige Vorgangs-IDs und den aktuellen Stand. Trennen Sie bestätigte Beobachtung und Vermutung. Schalten Sie bei einer akuten Gefahr den betroffenen automatischen Folgeschritt über den vorgesehenen Weg ab. Verantwortliche können dann prüfen, welche Ergebnisse bereits wirksam wurden.

Spielen Sie diesen Ablauf mit einem Testfall durch. Kann jemand die Verarbeitung stoppen, ohne offene Vorgänge zu verlieren? Weiß die nächste Person, welche Quelle und Konfiguration betroffen waren? Sichern Sie nur die für die Bearbeitung nötigen Informationen und bewahren Sie sie mit passenden Rechten auf.

Ursache und Nacharbeit getrennt verfolgen

Dokumentieren Sie Korrekturmaßnahmen, Verantwortliche und die Bedingung für Wiederaufnahme. Zuständige Stellen prüfen separat, ob gesetzliche Meldungen erforderlich sind. Das NIST Cybersecurity Framework dient als Rahmen für Erkennen, Reaktion und Wiederherstellung. Weitere betriebliche Checklisten stehen in AI MEDIA.

Quellen