Kurz zusammengefasst
- Verarbeitung, Speicherung und Modelltraining sind unterschiedliche Vorgänge und müssen getrennt geprüft werden.
- Neben der sichtbaren Eingabe können Dokumente, Systemanweisungen, Suchresultate und Metadaten verarbeitet werden.
- Schnittstellen, Websuche und angebundene Fachsysteme erweitern den Datenfluss über das eigentliche Modell hinaus.
- Das Unternehmen bleibt für Zweck, zulässige Daten, Berechtigungen und angemessene Schutzmassnahmen verantwortlich.
Der Datenfluss beginnt vor dem Modell
Eine KI-Anfrage besteht meist aus mehr als dem Text, den eine Person eingibt. Die Anwendung kann Systemanweisungen, Gesprächsverlauf, Benutzerinformationen oder Passagen aus internen Quellen ergänzen. Erst dieses Gesamtpaket wird verarbeitet.
Für eine belastbare Beurteilung muss deshalb der Weg vom Ursprung der Daten bis zum letzten Speicher- oder Aktionssystem sichtbar sein – nicht nur die Verbindung zum Modellanbieter.
- Schritt 1
Eingabe
Eine Person schreibt eine Frage, fügt Inhalte ein oder lädt ein Dokument hoch.
- Schritt 2
Kontext
Die Anwendung ergänzt Regeln, frühere Nachrichten oder freigegebenes Unternehmenswissen.
- Schritt 3
Verarbeitung
Das Modell verarbeitet die übermittelten Inhalte und erzeugt ein Ergebnis.
- Schritt 4
Rückgabe
Die Anwendung zeigt das Ergebnis an oder bereitet es für einen weiteren Arbeitsschritt auf.
- Schritt 5
Folgesysteme
Ergebnis und Metadaten können anschliessend in Protokollen, Datenbanken, Tickets oder Fachsystemen landen.
Verarbeiten, speichern und trainieren bedeutet nicht dasselbe
Ein Anbieter muss Daten technisch verarbeiten, damit ein Modell eine Antwort erzeugen kann. Daraus folgt jedoch nicht automatisch, dass er die Inhalte dauerhaft speichert oder für das Training verwendet. Umgekehrt bedeutet der Ausschluss vom Training nicht, dass keine Protokolle oder Anwendungsdaten gespeichert werden.
- Modellverarbeitung: Die Inhalte werden für die aktuelle Anfrage ausgewertet.
- Anwendungszustand: Gespräche, Dateien oder Assistenten können für eine spätere Nutzung gespeichert werden.
- Sicherheitsprotokolle: Anbieter können Inhalte oder abgeleitete Signale zur Erkennung von Missbrauch aufbewahren.
- Training und Verbesserung: Ob Kundendaten dafür verwendet werden dürfen, ist eine eigene Vertrags- und Produkteinstellung.
- Betriebsmetadaten: Zeitstempel, Konto, Modell, Tokenmenge, Fehler und Kosten können auch ohne vollständigen Inhalt protokolliert werden.
Nicht alle Unternehmensdaten brauchen denselben Schutz
Die zulässige Nutzung lässt sich nicht pauschal für ein ganzes KI-Werkzeug festlegen. Ein öffentliches Produktblatt, ein interner Prozessbeschrieb und ein Vertrag mit Personendaten stellen unterschiedliche Anforderungen. Eine einfache Datenklassifikation schafft verständliche Regeln für Mitarbeitende und Projekte.
- Öffentlich: bereits veröffentlichte und freigegebene Informationen
- Intern: Arbeitsunterlagen ohne besondere Vertraulichkeit
- Vertraulich: Verträge, Kalkulationen, Strategien, Quellcode oder Geschäftsgeheimnisse
- Personenbezogen: Informationen, die sich auf eine bestimmte oder bestimmbare Person beziehen
- Besonders geschützt: beispielsweise Gesundheitsdaten sowie Informationen unter Berufs- oder Amtsgeheimnis
Verantwortlichkeiten folgen dem gesamten Datenfluss
Bei einem Cloud- oder KI-Dienst bleibt das nutzende Unternehmen für seine Datenbearbeitung verantwortlich. Es muss wissen, welche Parteien welche Daten zu welchem Zweck verarbeiten, wo dies geschieht und welche Unterauftragnehmer oder Drittanbieter beteiligt sind.
Werden Personendaten in andere Länder bekanntgegeben, müssen zudem die dafür geltenden schweizerischen Anforderungen und Garantien geprüft werden.
| Station | Welche Daten fliessen? | Mögliche Empfänger oder Speicherorte | Erforderliche Kontrolle |
|---|---|---|---|
| Eingabe und Oberfläche | Frage, Upload, Nutzerkennung und Geräte- oder Sitzungsdaten | Eigene Anwendung, SaaS-Oberfläche, Browser-Telemetrie und Supportsystem | Daten klassifizieren, unnötige Felder entfernen und inhaltshaltige Logs bewusst konfigurieren |
| Wissenszugriff | Suchanfrage, gefundene Passagen, Metadaten und Berechtigungsinformationen | Quellsystem, Suchindex, Vector Store, Connector oder Integrationsdienst | Rechte bei jeder Anfrage prüfen, Quellenverantwortung festlegen und Rechteentzug testen |
| Modellverarbeitung | Systemanweisung, Nutzerfrage, Kontext, Tool-Ergebnisse und erzeugte Antwort | Modellanbieter, gewählte Region und dessen genehmigte Unterauftragnehmer | Produkt, Vertrag, Region, Trainingsnutzung und Aufbewahrung für den konkreten Endpunkt belegen |
| Ausgabe und Folgesysteme | Antwort, Quellen, vorgeschlagene Aktion, Feedback und Betriebsmetadaten | Ticketing, E-Mail, Datenbank, Monitoring, Analytics oder Archiv | Zielberechtigung und Freigabe prüfen, Protokolle minimieren sowie Export und Löschung testen |
Schutz entsteht durch Architektur und klare Regeln
Eine interne Richtlinie ist hilfreich, reicht allein aber nicht. Gute Lösungen reduzieren unnötige Daten bereits vor der Modellanfrage und begrenzen Zugriff, Speicherung und Weitergabe technisch.
- Schritt 1
Klassifizieren
Festlegen, welche Daten für den Anwendungsfall zulässig sind.
- Schritt 2
Minimieren
Nur benötigte Passagen und Felder übermitteln; Daten nach Möglichkeit anonymisieren oder pseudonymisieren.
- Schritt 3
Konfigurieren
Training, Aufbewahrung, Regionen und zustandsbehaftete Funktionen bewusst einstellen.
- Schritt 4
Begrenzen
Rollen, Quellen und Aktionen nach dem Prinzip der geringsten Rechte freigeben.
- Schritt 5
Nachweisen
Datenflüsse, Einstellungen, Löschung und Protokolle testen und bei Produktänderungen erneut prüfen.
Beispiel: Vertragsfragen im Kundendienst
Ein Kundendienstassistent soll Fragen zu bestehenden Verträgen vorbereiten. Die Anwendung sucht nur freigegebene Vertragsabschnitte, entfernt für die Aufgabe unnötige Personendaten und übermittelt die relevanten Passagen an das Modell. Rollen bestimmen, wer welche Verträge sehen darf. Antworten enthalten Quellen und werden vor dem Versand geprüft. Vertraglich und technisch ist festgelegt, ob Inhalte gespeichert oder für Training verwendet werden; die eigenen Protokolle enthalten nur die für Qualität und Betrieb benötigten Angaben.
Was Sie mitnehmen sollten
Zeichnen Sie für einen konkreten Anwendungsfall den vollständigen Datenweg vom Benutzer bis zu allen Folgesystemen. Erst danach lässt sich entscheiden, welche Daten zulässig sind und welche technischen, organisatorischen und vertraglichen Kontrollen erforderlich sind.
Quellen und Vertiefung
Diese Primärquellen vertiefen Definitionen, technische Grundlagen oder verantwortlichen Einsatz.
Inhaltlich geprüft
Fachliche Einordnung auf Basis offizieller Quellen. Keine Rechtsberatung; Anforderungen sind für den konkreten Anwendungsfall und Geltungsbereich zu prüfen.