Der kompromittierte KI-Assistent

Die Bedrohung

Unter Termindruck lädt ein Mitarbeiter einen kostenlosen KI-Produktivitätsassistenten außerhalb des Software-Katalogs herunter und gewährt ihm weitreichenden Zugriff: lokale Dateien, Browser-Sitzungen und eine OAuth-Verbindung zum Firmen-Workspace. Das Tool ist eine Nachahmung mit eingebautem Infostealer. Eine Woche lang liest es unbemerkt Mails, Dokumente und Zugangstokens und streamt sie an einen Angreifer, der nun einen gültigen Zugang in Ihrem Tenant hat.

Zentrale Injects

• 01DLP meldet einen großen Upload von einem Arbeitsplatz in eine unbekannte private Cloud; EDR sieht einen neuen signierten Helfer, der nach außen funkt.
• 02Der Mitarbeiter gibt zu, letzte Woche einen kostenlosen KI-Assistenten installiert und mit allem verbunden zu haben, um Berichte schneller zu schreiben.
• 03Die Identity-Logs zeigen aktive OAuth-Tokens des Tools zum Firmen-Workspace; die Sitzungen laufen noch.
• 04Ein Threat-Intel-Feed meldet, dass der Anbieter des Tools wegen eingebauter Schadsoftware entfernt wurde, und ein Auszug Ihrer Daten taucht in einem Paste auf.

Was bewertet wird

• Schnelles Einschätzen, worauf ein fremdes Tool zugreifen konnte: Konten, Daten und Tokens
• Entscheidungen zum Entzug von Tokens und Sitzungen im Tenant unter Unsicherheit
• Bewertung der Meldepflicht (DSGVO, NIS2), wenn ein Abfluss wahrscheinlich, aber nicht bewiesen ist
• KI- und Tool-Governance und eine ehrliche interne Botschaft, die den nächsten Fall ans Licht bringt statt ihn zu verbergen

Übungsziele

• Binnen 30 Minuten feststellen und dokumentieren, worauf das KI-Tool zugreifen konnte (Konten, Datenspeicher, Tokens), und seinen Zugang entziehen.
• Identitäts- und Token-Missbrauch im Tenant innerhalb der ersten Stunde eindämmen, mit protokollierter Entscheidung über eine erzwungene Neuanmeldung.
• Vor Übungsende entscheiden, ob der Vorfall eine meldepflichtige Datenpanne nach DSGVO Art. 33 (72 Stunden) und eine erhebliche Störung nach §32 BSIG (24-Stunden-Frühwarnung) ist.
• Eine Governance-Entscheidung zu KI-Tools und eine interne Botschaft abstimmen, die den Nächsten dazu bringt, sich zu melden, statt die Installation zu verschweigen.

Rollen am Tisch

• ●Krisenstabsleitung · Verantwortet Takt, Entscheidungslog und Eskalationen; hält den Raum bei Entscheidungen, solange das Schadensausmaß noch wächst.
• ●IT / SOC / Identity-Lead · Schätzt den Zugriff des Tools ein, entzieht Tokens und Sitzungen und gibt die ehrliche Antwort darauf, was es schon abgegriffen haben könnte.
• ●Recht / Datenschutz (DSB) · Bewertung nach DSGVO Art. 33/34, Erheblichkeit nach §32 BSIG, Beweissicherung und die Definition von wahrscheinlich.
• ●Kommunikation · Die interne Botschaft und eine externe Sprachregelung, falls die Daten öffentlich auftauchen.
• ●HR / Personal · Das Gespräch mit dem Mitarbeiter und die Kulturfrage: wie die nächste Schatten-KI gemeldet und nicht vertuscht wird.
• ●Geschäftsleitung · Haltung zur Offenlegung, Ausgabenfreigaben und die letzte Entscheidung, wenn Tempo und Gewissheit gegeneinander ziehen.

Diskussionsfragen

• 01Das Tool hatte eine Woche lang Workspace-Zugriff. Wovon gehen Sie aus, dass es abgegriffen wurde, und wie würden Sie das Gegenteil gegenüber einer Aufsicht belegen?
• 02Sie können sicherheitshalber eine Neuanmeldung erzwingen und alle Sitzungen beenden, aber das loggt die ganze Firma mitten am Tag aus. Wer autorisiert das, und wann?
• 03Ein Abfluss ist nicht bewiesen, nur möglich. Läuft die 72-Stunden-Frist nach DSGVO Art. 33 an, und wer entscheidet, was wahrscheinlich heißt?
• 04Der Mitarbeiter handelte unter Termindruck, nicht in Schädigungsabsicht. Wie gehen Sie mit ihm um, damit sich der Nächste trotzdem meldet?
• 05Wie viele weitere ungeprüfte KI-Tools sind gerade firmenweit installiert, und wie finden Sie sie ohne Hexenjagd?
• 06Könnten Sie einer Aufsicht genau zeigen, auf welche Daten das Tool zugreifen konnte und was Sie in der ersten Stunde entschieden haben?

Empfohlener Ablauf

• 00:00–00:20Detektion & Triage: DLP/EDR-Alarm, Erst-Einschätzung, Krisenstab tritt zusammen
• 00:20–01:00Eindämmung: Tool-Zugang entziehen, Token- und Sitzungsentscheidungen, Schadensausmaß kartieren
• 01:00–02:00Eskalationsspitze: Threat-Intel bestätigt Schadsoftware, Datenauszug taucht auf, Offenlegungsdruck
• 02:00–02:40Meldung & Kommunikation: DSGVO- und §32-Bewertung, interne Botschaft, KI-Governance-Entscheidung
• 02:40–03:00Hot Wash: Entscheidungen am zeitgestempelten Protokoll überprüft