Offenlegung sensibler Daten durch KI

Was ist Offenlegung sensibler Daten durch KI?

Ein Prompt ist kein privater Gedanke. Text, den Sie in ein KI-Tool für Privatkunden eingeben, verlässt Ihre Umgebung: Er wird an einen Dritten übermittelt und in Unterhaltungsverläufen und Protokollen gespeichert. 2023 schränkte Samsung die Nutzung externer KI-Chatbots durch Beschäftigte ein, nachdem Ingenieure proprietären Quellcode eingegeben hatten. Sie hängen einen Kundenbericht mit Kontaktdaten, Vertragswerten und einem API-Schlüssel an einen öffentlichen Chatbot an, lesen dessen Aufbewahrungsbedingungen und erleben die Folgen. Danach lernen Sie, Daten danach zu klassifizieren, was überhaupt eingegeben werden darf.

Was Sie lernen in Offenlegung sensibler Daten durch KI

• Kategorien sensibler Daten erkennen – darunter personenbezogene Daten, Zugangsdaten, Finanzunterlagen und Geschäftsgeheimnisse –, die niemals in KI-Tools für Privatkunden eingegeben werden dürfen
• Nachvollziehen, wo an ein KI-Tool für Privatkunden übermittelte Daten weiterhin gespeichert bleiben: in Protokollen des Anbieters, in Trainingsdatensätzen und in Backups, die das Löschen des Chats nicht entfernt
• Zwischen Unternehmens-KI mit Auftragsverarbeitungsvereinbarungen und KI-Tools für Privatkunden mit weitreichenden Datennutzungsrichtlinien unterscheiden
• Datenklassifizierung anwenden, um zu entscheiden, welche Informationen sicher mit KI verarbeitet werden können
• Folgen von Datenlecks durch KI für das Unternehmen bewerten, darunter aufsichtsrechtliche Sanktionen, Vertrauensverlust bei Kunden und Nachteile im Wettbewerb

Offenlegung sensibler Daten durch KI — Trainingsschritte

1. Ein arbeitsreicher Tag bei Meridian Analytics

   Ihr Team kann für interne Aufgaben ein zugelassenes KI-Tool für Unternehmen nutzen. Heute stehen Sie jedoch unter Zeitdruck und greifen gleich zu einer gefährlichen Abkürzung.

2. Eine dringende Anfrage von David

   Alice erhält eine E-Mail von ihrem Vorgesetzten David Chen. Die Vorstandssitzung beginnt in drei Stunden, und er benötigt sofort eine überzeugende Zusammenfassung der Kundenentwicklung im dritten Quartal.

3. Kundendaten öffnen

   David hat erwähnt, dass die Rohdaten im freigegebenen Laufwerk liegen. Alice öffnet den Kundenbericht für das dritte Quartal, um zu prüfen, was sie zusammenfassen muss.

4. Sensible Daten prüfen

   Der Bericht ist deutlich als „Vertraulich“ gekennzeichnet. Er enthält Kundennamen, Umsatzzahlen, persönliche Kontaktdaten, produktive API-Schlüssel und durch NDAs geschützte Prognosen.

5. Die verlockende Abkürzung

   Alice wägt ihre Möglichkeiten ab. Das zugelassene KI-Tool des Unternehmens erfordert VPN-Zugriff und begrenzt Eingaben in seinem aktuellen Tarif auf 500 Wörter. SmartGen AI hingegen ist ein beliebter Chatbot für Privatkunden: schnell, kostenlos und für große Textmengen geeignet. Unter Zeitdruck entscheidet sich Alice, die Kundendaten mit SmartGen AI zusammenzufassen.

6. Sensible Daten einfügen

   Alice hängt den Q3-Kundenbericht an den Chat mit SmartGen AI an und gibt einen Prompt für eine Zusammenfassung für den Vorstand ein.

7. Antwort von SmartGen AI

   SmartGen AI verarbeitet die Anfrage und liefert eine ausgefeilte Zusammenfassung. Sie ist klar aufgebaut und könnte direkt in die Vorstandspräsentation übernommen werden. Dann erscheint oben im Chat ein Warnbanner zur Datenaufbewahrung.

8. Warnung zur Datenaufbewahrung

   Oben im Chat steht ein Warnhinweis: „Ihre Unterhaltung kann zur Verbesserung von SmartGen AI verwendet werden.“ Diese scheinbar harmlose Mitteilung bedeutet, dass alles, was Alice gerade eingefügt hat – Kundennamen, Umsatzzahlen, geschäftliche E-Mail-Adressen, API-Schlüssel und NDA-geschützte Prognosen –, nun in der Trainingspipeline von SmartGen AI gespeichert sein kann.

9. Die offengelegten Daten

   Sehen wir uns genau an, was Alice an einen externen Dienst ohne Auftragsverarbeitungsvereinbarung geschickt hat. Ihre Nachricht enthielt verschiedene Kategorien sensibler Daten, die die zugelassenen Systeme des Unternehmens nie hätten verlassen dürfen.

10. Einige Zeit später

    Alice stellt die Zusammenfassung fertig und sendet sie David. Sie freut sich, die Frist eingehalten zu haben. Währenddessen hat das Data-Loss-Prevention-System (DLP) von Meridian Analytics die ausgehende Übertragung an chat.smartgenai.com erkannt.