Vertrauliche Arbeitsdaten gehören nicht in ein privates KI-Konto

Eine Ingenieurin kommt bei einem Fehler im Code eines noch unveröffentlichten Produkts ihres Arbeitgebers nicht weiter. Es ist neun Uhr abends, ChatGPT ist im privaten Konto bereits geöffnet, und das Einfügen der gesamten Funktion scheint der schnellste Weg zu einer Antwort. Im März 2023 stellte Samsung innerhalb von etwa drei Wochen nach der Freigabe von ChatGPT in seiner Halbleitersparte drei solche Fälle fest: Eine Person ließ Quellcode aus einem Datenbankprogramm für Halbleiter auf Fehler prüfen. Eine zweite reichte Code für Anlagen ein und bat um „Codeoptimierung“. Eine dritte lud die Aufzeichnung einer Besprechung hoch, um daraus ein Protokoll erstellen zu lassen. Samsung begrenzte daraufhin Eingaben umgehend auf 1.024 Byte (Bericht von The Economist Korea, englisch zusammengefasst von Mashable). Bis zum 1. Mai 2023 ging das Unternehmen weiter und schränkte generative KI-Werkzeuge auf firmeneigenen Geräten vorübergehend vollständig ein (TechCrunch, „Samsung bans use of generative AI tools like ChatGPT after April internal data leak“, 2023).

Für keinen dieser berichteten Vorfälle war eine böswillige Absicht nötig. Die Übermittlung vertraulicher Inhalte an einen Drittanbieter kann gegen Richtlinien oder Verträge verstoßen und die Kontrolle des Unternehmens schwächen, auch wenn die Inhalte nicht veröffentlicht werden. Welche rechtlichen Folgen und Meldepflichten im Einzelfall entstehen, hängt vom Sachverhalt und der jeweiligen Rechtsordnung ab.

Welche Arbeitsdaten tatsächlich vertraulich sind

Nicht alle arbeitsbezogenen Informationen sind im Sinne dieses Artikels geheim. Innehalten sollten Sie bei den folgenden engeren Kategorien:

• Quellcode aus einem proprietären, unveröffentlichten oder wettbewerbsrelevanten System.
• Unveröffentlichte Finanzzahlen, etwa Quartalszahlen vor ihrer Bekanntgabe, interne Prognosen oder die Preisstrategie.
• Noch nicht angekündigte Produkt- oder Geschäftspläne, etwa eine Funktionsplanung, ein Übernahmeziel oder eine bevorstehende Partnerschaft.
• Sicherheitsdetails — Schwachstellen, Zugangsdaten, Token, nicht öffentliche URLs, Architekturdiagramme oder Produktionskonfigurationen.
• Verträge und Bedingungen, die einer Geheimhaltungsvereinbarung unterliegen, darunter Kundenverträge, Lieferantenvereinbarungen und alles, dessen Vertraulichkeit bereits vertraglich zugesichert wurde.
• Dokumentierte Geschäftsgeheimnisse, die Ihr Arbeitgeber speziell als solche gekennzeichnet oder behandelt hat (eine Formel, ein Prozess, eine Kundenliste, die mit realem Aufwand aufgebaut wurde).
• Personenbezogene oder regulierte Daten über Kundinnen und Kunden, Beschäftigte, Patientinnen und Patienten, Studierende oder andere Personen, auch wenn es sich nicht um ein Geschäftsgeheimnis handelt.

Der erste Entwurf einer alltäglichen internen Mitteilung, eine öffentliche Stellenbeschreibung oder eine allgemeine Prozessfrage gehören nicht zwingend in diese Kategorie. Es geht nicht darum, Angst vor KI zu haben, sondern die Informationen zu erkennen, für die ein anderer, freigegebener Weg erforderlich ist.

Warum es um mehr als eine IT-Regel geht

Viele Leitlinien zur KI-Nutzung am Arbeitsplatz behandeln das Thema als Einhaltung interner Richtlinien. Das ist richtig, greift bei echten Geschäftsgeheimnissen aber zu kurz. Nach US-Recht genießen Informationen nur dann Schutz als Geschäftsgeheimnis, wenn ihre Inhaberin oder ihr Inhaber „reasonable measures to keep such information secret“ ergriffen hat (18 U.S.C. § 1839(3)(A), erlassen mit dem Economic Espionage Act und geändert durch den Defend Trade Secrets Act). Der Schutz setzt also voraus, dass die Informationen fortlaufend kontrolliert werden, nicht nur, dass sie wertvoll oder unveröffentlicht sind. Das EU-Recht stellt eine vergleichbare Anforderung: Ein Geschäftsgeheimnis muss „Gegenstand von den unter den Umständen angemessenen Geheimhaltungsmaßnahmen durch die Person [gewesen sein], die die rechtmäßige Kontrolle über die Informationen hat“ (Richtlinie (EU) 2016/943, Artikel 2 Absatz 1 Buchstabe c).

Auch Dienste für Privatkundinnen und Privatkunden haben Nutzungsbedingungen. Diese entsprechen aber möglicherweise nicht den vom Arbeitgeber vereinbarten Anforderungen an Vertraulichkeit, Sicherheit, Aufbewahrung, Speicherort und Datenverarbeitung. Die Übermittlung eines Geschäftsgeheimnisses an einen nicht freigegebenen Anbieter kann den angemessenen Geheimhaltungsmaßnahmen des Unternehmens entgegenwirken. Ob ein bestimmter Vorfall rechtlich als Offenlegung gilt oder den Schutz beeinträchtigt, hängt von Vertragsbedingungen, technischen und organisatorischen Kontrollen, dem konkreten Sachverhalt und der Rechtsordnung ab. Beschäftigte sollten dies nicht anhand einer Produktbezeichnung selbst entscheiden.

Den sichtbaren Chat zu löschen, macht die Übertragung nicht rückgängig und erfüllt möglicherweise nicht die Pflichten zur Vorfallbehandlung und Beweissicherung. Wenn versehentlich etwas eingefügt wurde, halten Sie inne, notieren Sie Werkzeug, Konto, Zeitpunkt und Datenkategorie, ohne das Geheimnis erneut zu kopieren, und melden Sie den Vorfall umgehend über den Sicherheits- oder Datenschutzprozess Ihres Arbeitgebers. Folgen Sie dessen Anweisungen zu Löschung, Wechsel von Zugangsdaten, Kontakt zum Anbieter, Beweissicherung und Benachrichtigungen.

Die Missverständnisse, die zum Schaden führen

Der erste Fehler besteht darin, das Risiko nur danach zu beurteilen, ob das Geheimnis öffentlich geworden ist. Bereits die Übermittlung an einen nicht autorisierten Drittanbieter kann relevant sein, auch wenn der Inhalt später nicht veröffentlicht wird. Produktstufe, Mandantenkonfiguration, Verträge und Kontrollen des Anbieters unterscheiden sich. Eine bekannte Marke oder die Bezeichnung „Enterprise“ belegt allein keine Freigabe. Nur die zuständige Stelle Ihres Arbeitgebers kann den konkreten Weg bewerten. Datenschutz und Datenhygiene beim Einsatz von KI am Arbeitsplatz erklärt, wie Sie die tatsächlichen Bedingungen zur Datenverarbeitung eines bestimmten Werkzeugs prüfen. Hier gilt die engere Regel: Geben Sie vertrauliche Informationen nicht ein, solange die Freigabe unklar ist.

Der zweite Fehler ist, „Alle in meinem Team machen das“ als Freigabe zu verstehen. Im Samsung-Fall trafen mehrere Beschäftigte unabhängig voneinander dieselbe scheinbar vernünftige Entscheidung, bevor das Unternehmen sie bemerkte. Das Verhalten anderer ersetzt keine verbindliche Prüfung.

Der dritte Fehler ist die Annahme, die Regel betreffe nur Softwareentwicklung und Quellcode. Finanzzahlen, der frühe Entwurf eines Übernahmevermerks oder eine Tabelle mit noch unveröffentlichten Preisstufen werden ebenso offengelegt, sobald sie in ein privates Konto eingegeben werden. Verantwortlich sind dabei oft Menschen aus Finanzen, Vertrieb oder Betrieb statt aus der Entwicklung. Die folgende Prüfung gilt unabhängig von Rolle und Abteilung.

Die Prüfung mit sechs Kategorien

Bevor Sie etwas in ein KI-Werkzeug eingeben, das nicht ausdrücklich als Unternehmenskonto Ihres Arbeitgebers freigegeben und eingerichtet wurde, prüfen Sie, ob der Inhalt in eine dieser Kategorien fällt:

1. Quellcode aus einem unveröffentlichten oder proprietären System.
2. Finanzzahlen, die noch nicht öffentlich offengelegt sind.
3. Ein noch nicht angekündigtes Produkt, eine Funktion oder ein Geschäftsplan.
4. Sicherheitsrelevante Angaben wie eine Schwachstelle, Zugangsdaten oder die Produktionsarchitektur.
5. Alles, was einer unterzeichneten Geheimhaltungsvereinbarung oder Vertraulichkeitsklausel unterliegt.
6. Alles, was Ihr Arbeitgeber als vertraulich eingestuft hat, sowie personenbezogene oder regulierte Daten, die Richtlinien oder Gesetzen unterliegen.

Trifft eine Kategorie zu, halten Sie inne. Die KI-Richtlinie Ihres Arbeitgebers finden und lesen ist der erste Schritt, um festzustellen, ob für diese Art von Inhalt überhaupt ein freigegebenes Werkzeug existiert. Manche Unternehmen haben ein solches Werkzeug, andere noch nicht. Beides sollten Sie nicht einfach annehmen.

Was Sie stattdessen tun

• Verwenden Sie nur genau das Werkzeug, den Mandanten, das Konto und die Datenklasse, die Ihr Arbeitgeber freigegeben hat. Eine dienstliche E-Mail-Adresse oder die Werbebezeichnung „Enterprise“ reichen allein nicht aus.
• Gibt es für diese Art von Inhalt kein freigegebenes Werkzeug, verwenden Sie dafür vorerst keine KI. Fragen Sie Ihre Führungskraft oder die IT- beziehungsweise Sicherheitsstelle nach einem möglichen Ausnahmeverfahren, statt das Risiko allein abzuwägen.
• Erlaubt die Richtlinie eine abstrakte Frage nach einem Muster, verwenden Sie synthetische oder auf das notwendige Mindestmaß beschränkte Daten. Prüfen Sie erneut auf mögliche Reidentifizierung, vertrauliche Geschäftslogik, Geheimnisse und personenbezogene Daten. Anonymisierung ist eine Risikobewertung und keine einfache Suchen-und-Ersetzen-Aufgabe.

Prüfen Sie Ihr letztes KI-Gespräch

Überprüfen Sie Ihre jüngste arbeitsbezogene KI-Nutzung, ohne sensible Inhalte an einen weiteren Ort zu kopieren. Könnten Daten in ein nicht freigegebenes Werkzeug gelangt sein, nutzen Sie umgehend den vorgesehenen Meldeweg Ihres Arbeitgebers. Löschen oder verändern Sie Beweise nicht eigenmächtig, sofern Sie keine entsprechende Anweisung erhalten. Ersetzen Sie offengelegte Zugangsdaten über das freigegebene Notfallverfahren. Die Stoppkarte für vertrauliche Arbeitsdaten fasst die Prüfung vor einer Eingabe zusammen.

Die interne KI-Nutzungsrichtlinie des ICO, die NCSC-Leitlinien für sichere KI und die ICO-Leitlinie zur Datenminimierung stützen Kontrollen zu freigegebenen Systemen, Vorfällen, Sicherheit und dem notwendigen Mindestmaß an Daten. Sie entscheiden nicht über die rechtliche Wirkung einer konkreten Offenlegung.