Kurz zusammengefasst
- Entscheidend sind ausschliessliche Automatisierung und erhebliche Wirkung, nicht das Etikett KI.
- Eine formale Klickfreigabe ist keine wirksame menschliche Prüfung, wenn sie das Ergebnis faktisch nur bestätigt.
- Betroffene benötigen verständliche Information und einen tatsächlich nutzbaren Überprüfungsweg.
- Im Beschäftigungs-, Kredit- oder Zugangsbereich können zusätzliche Regeln gelten.
Den tatsächlichen Entscheidungsprozess untersuchen
Eine technische Empfehlung kann praktisch entscheidend sein, wenn Mitarbeitende sie fast immer ungeprüft übernehmen. Umgekehrt kann Automatisierung viele Vorarbeiten erledigen, während eine fachlich zuständige Person die wesentlichen Informationen eigenständig beurteilt.
- Wer oder was trifft den endgültigen Entscheid?
- Welche rechtlichen oder ähnlich erheblichen Folgen entstehen für die Person?
- Hat die prüfende Person Zeit, Kompetenz und Befugnis zur Abweichung?
- Sind Eingaben, Regeln, Unsicherheit und relevante Gründe sichtbar?
- Wird gemessen, wie oft Menschen abweichen oder nur bestätigen?
Den Dreiteiltest auf den tatsächlichen Ablauf anwenden
Die besonderen Regeln von Artikel 21 DSG betreffen das Ergebnis eines konkreten Prozesses und nicht jeden Score oder jede KI-Ausgabe. Die drei Elemente müssen gemeinsam geprüft werden; eine Produktbeschreibung kann sie nicht beantworten.
- 1. Ein Entscheid über eine einzelne Person
- Der Prozess erzeugt einen konkreten Entscheid, der eine Person betrifft. Eine reine Analyse oder Vorbereitung genügt allein nicht; ein angeblich beratender Score kann aber faktisch entscheidend sein, wenn der Folgeprozess ihn praktisch übernimmt.
- 2. Ausschliesslich automatisierte Bearbeitung
- Vor dem endgültigen Ergebnis nimmt kein Mensch eine echte inhaltliche Beurteilung vor. Dass eine Person den maschinell gefällten Entscheid nur mitteilt oder durchklickt, unterbricht die ausschliessliche Automatisierung nicht automatisch.
- 3. Rechtsfolge oder ähnlich erhebliche Beeinträchtigung
- Das Ergebnis verändert Rechte oder Pflichten oder trifft die Person anderweitig mit vergleichbarem Gewicht, beispielsweise bei wichtigen Bedingungen zu Vertrag, Arbeit, Kredit oder Zugang zu einer wesentlichen Chance.
Information und Überprüfung müssen wirksam sein
Betroffene sollten erkennen können, dass eine relevante automatisierte Bearbeitung stattfindet und wohin sie sich wenden können. Eine menschliche Überprüfung braucht Zugriff auf den Fall, die Möglichkeit zur Korrektur und die Befugnis, den Entscheid zu ändern.
- Zweck, Datenkategorien und Rolle des Systems verständlich erklären.
- Kontakt und Verfahren für Rückfragen oder Überprüfung nennen.
- Neue Informationen und Einwände der betroffenen Person berücksichtigen.
- Entscheid und Abweichung nachvollziehbar dokumentieren.
- Fristen so gestalten, dass das Recht praktisch nutzbar bleibt.
Artikel 21 enthält zwei enge Ausnahmen
Die Informationspflicht nach Artikel 21 Absatz 1 und das Recht, auf Antrag den eigenen Standpunkt darzulegen und eine menschliche Überprüfung zu verlangen, gelten in zwei gesetzlichen Konstellationen nicht. Die Ausnahme sollte für den konkreten Entscheid dokumentiert werden; allgemeine Pflichten zu Transparenz, Richtigkeit, Fairness und anderes anwendbares Recht bleiben bestehen.
- Vertrag: Der automatisierte Entscheid steht in unmittelbarem Zusammenhang mit dem Abschluss oder der Abwicklung eines Vertrags zwischen Verantwortlichem und betroffener Person, und ihrem Begehren wird vollständig stattgegeben.
- Ausdrückliche Einwilligung: Die betroffene Person hat ausdrücklich in den automatisierten Entscheid eingewilligt. Eine versteckte Klausel oder pauschale Zustimmung ist nicht dasselbe wie eine ausdrückliche, informierte Wahl.
- Bundesorgane müssen einen automatisierten Einzelentscheid zusätzlich entsprechend kennzeichnen. Für die menschliche Überprüfung besteht eine besondere öffentlich-rechtliche Ausnahme, wenn nach Verwaltungsverfahrensgesetz oder einem anderen Bundesgesetz vor dem Entscheid kein Anspruch auf rechtliches Gehör besteht.
Menschliche Aufsicht braucht echte Entscheidungsfähigkeit
Automation Bias führt dazu, dass Menschen maschinelle Vorschläge zu schnell akzeptieren. Aufsicht wird wirksamer, wenn das System Grenzen anzeigt, Alternativen offenlegt und bei Unsicherheit stoppt.
- Schritt 1
Kompetenz sichern
Prüfende Personen kennen Fachprozess, Systemgrenzen und typische Fehler.
- Schritt 2
Information zeigen
Quellen, Eingaben, relevante Faktoren und Unsicherheit zugänglich machen.
- Schritt 3
Abweichung ermöglichen
Die Person kann ohne unangemessenen Druck korrigieren, ablehnen oder eskalieren.
- Schritt 4
Wirkung messen
Fehler, Gruppenunterschiede, Übersteuerungen und Beschwerden überwachen.
Risiko kann durch Prozessdesign reduziert werden
Manchmal ist nicht ein besseres Modell, sondern eine geringere Entscheidungsrolle die wirksamste Massnahme. Das System kann Informationen strukturieren, Fälle priorisieren oder Optionen vorbereiten, ohne den endgültigen Entscheid zu treffen.
- KI auf Vorbereitung und Hinweisfunktion begrenzen.
- Harte Ausschlüsse nicht allein aus probabilistischen Ergebnissen ableiten.
- Kritische Faktoren aus verlässlichen Quellen separat prüfen.
- Unklare und aussergewöhnliche Fälle zwingend an Menschen übergeben.
- DSFA und Diskriminierungsprüfung bei potenziell hohen Risiken einplanen.
Beispiel: Kreditvorprüfung statt automatisierter Ablehnung
Ein System prüft Vollständigkeit und markiert auffällige Angaben, lehnt aber keinen Antrag selbst ab. Eine geschulte Fachperson sieht Originaldaten, Systemhinweise und Grenzen, kann zusätzliche Unterlagen anfordern und entscheidet eigenständig. Ablehnungen werden begründet; Betroffene erhalten einen Kontakt für Überprüfung. Das Unternehmen misst Fehler und Abweichungen regelmässig.
Was Sie mitnehmen sollten
Zeichnen Sie auf, wo der endgültige Entscheid fällt und welche Wirkung er hat. Gestalten Sie menschliche Prüfung als echte, informierte Entscheidung mit Abweichungsrecht und messbarer Wirksamkeit.
Quellen und Vertiefung
Diese Primärquellen vertiefen Definitionen, technische Grundlagen oder verantwortlichen Einsatz.
Inhaltlich geprüft
Stand: 17. Juli 2026. Allgemeine Einordnung, keine Rechtsberatung. Die konkrete Rechtslage und der anwendbare Geltungsbereich sind für den jeweiligen Einsatz zu prüfen.