Das BSI beschreibt in „Generative KI-Modelle“ unter anderem Risiken für die Vertraulichkeit von Eingaben und die Qualität der Ausgaben. Für ein kleines Team beginnt der Nutzen derartiger Hinweise mit der Frage, wo ein konkreter Prozess betroffen ist.
Zwei Risiken am eigenen Fall festmachen
Bei einem Assistenten für Angebotstexte heißt Vertraulichkeit: Welche Preise, Kundendaten und Anhänge gehen an welchen Dienst? Arbeiten Sie ein Beispiel entlang der Links, Dateien und Freigaben durch. Halten Sie fest, welche Eingaben für den Text nicht erforderlich sind. Prüfen Sie, ob sie bei der Aufbereitung tatsächlich entfernt werden.
Falsche Ausgaben betreffen im selben Beispiel womöglich eine veraltete Preisbedingung. Formulieren Sie einen Testfall, in dem alte und neue Vorlage vorhanden sind. Legen Sie das erwartete Verhalten und die zuständige Prüfung vor dem Test fest. Prüfen Sie auch, ob die Ausgabe eine Fundstelle nennt, die tatsächlich zur Behauptung passt.
Dokumentation mit einer Entscheidung verbinden
Markieren Sie Erkenntnisse, offene Punkte und den nächsten Prüftermin. Das BSI-Dokument beurteilt nicht Ihren einzelnen Ablauf. Über AI BUSINESS lässt sich ein begrenzter Einsatz mit Datenfluss und menschlicher Abnahme beschreiben.