Kurz zusammengefasst
- Produktionsreife ist eine belegte Betriebsfähigkeit, kein Abschluss einer erfolgreichen Demo.
- Qualitätsgrenzen und kritische Fehler müssen mit repräsentativen Fällen definiert und getestet sein.
- Anwendbare Datenschutz-, KI-, Transparenz- und Inhaltsrechte müssen vor der Freigabe nachweisbar geklärt sein.
- Monitoring umfasst Modellverhalten, Daten, Tools, Sicherheit, Kosten und menschliche Korrekturen.
- Eigentümer, Support, Incident-Reaktion, Rollback, Änderungs- und Abschaltprozess müssen vor dem Start feststehen.
Sind Zweck und Qualität ausreichend belegt?
Die Zielgruppe, erlaubte Nutzung und nicht vorgesehene Nutzung sind dokumentiert. Ein versioniertes Testset deckt normale Fälle, Ausnahmen, Risiken und bewusst nicht lösbare Aufgaben ab. Mindestwerte und Ausschlussfehler richten sich nach den Folgen, nicht nach einer allgemeinen Durchschnittsnote.
- Konkreter Arbeitsablauf, Nutzergruppe und Erfolgskriterium
- Repräsentative Evals mit Fachprüfung und Regressionstests
- Sichtbare Quellen, Unsicherheit und klare Ablehnungsregeln
- Dokumentierte Grenzen und sichere Übergabe an Menschen
Sind Daten, Zugriffe und Aktionen kontrolliert?
Der Datenfluss ist für jede Komponente und Umgebung nachvollzogen. Identitäten und Rechte werden ausserhalb des Modells durchgesetzt. Externe Inhalte und Tool-Ergebnisse gelten als nicht vertrauenswürdig; sensible Aktionen sind technisch begrenzt und gegebenenfalls freigabepflichtig.
- Zulässige Daten, Speicherung, Löschung und Anbieterbedingungen geklärt
- Geringste Rechte für Nutzer, Dienste, Quellen und Tools
- Schutz gegen Prompt Injection, Datenabfluss und unzulässige Aktionen
- Sicherheits-, Datenschutz- und Missbrauchstests vor Freigabe
Ist die rechtliche und vertragliche Freigabe erfolgt?
Technische Reife belegt noch nicht, dass ein konkreter Einsatz zulässig ist. Vor der Freigabe bestimmen die verantwortlichen Stellen, welche Gesetze, Verträge und internen Vorgaben für Zweck, betroffene Personen, Daten, Regionen und Branche gelten. Eine offene zwingende Anforderung blockiert den Start, statt als undokumentiertes Betriebsrisiko übernommen zu werden.
Diese Prüfung ist AI Governance für ein konkretes System und eine konkrete Version. Sie wird wiederholt, wenn sich Zweck, Daten, Modell, Anbieter, Nutzerkreis oder Automatisierungsgrad wesentlich ändern.
- Geltungsbereich und Einsatz
- Vorgesehene und ausgeschlossene Nutzungen, Rechtsräume, betroffene Personen sowie branchen-, arbeits- oder kundenspezifische Anforderungen dokumentieren.
- Datenschutz und DSFA
- Zweck, Datenminimierung, Information, Auftragsbearbeitung und eine gegebenenfalls vor Beginn erforderliche Datenschutz-Folgenabschätzung klären.
- KI-Rolle und Risikoklasse
- Wo relevant, die eigene KI-Rolle und den Einsatz einordnen und daraus folgende Risiko-, Konformitäts- und Kontrollpflichten erfüllen.
- Transparenz und Rechte
- Erforderliche Hinweise, menschliche Ansprech- oder Prüfmöglichkeiten, Anfechtungswege sowie Kennzeichnungen von KI-Inhalten umsetzen.
- Daten- und Inhaltsrechte
- Die Befugnis zur Nutzung personenbezogener und vertraulicher Daten, Quellen, Eingaben, Ausgaben sowie Trainings- und Testinhalte nachweisen.
- Nachweise und Freigabe
- Verträge, Prüfungen, Tests, Massnahmen, Version und akzeptierte Restrisiken festhalten und durch benannte Fach- und Kontrollstellen freigeben lassen.
Kann die Lösung zuverlässig betrieben werden?
Produktionsbetrieb braucht messbare Serviceziele, Kapazitätsplanung und ein Verhalten für Abhängigkeiten, die langsam, begrenzt oder nicht verfügbar sind. Änderungen an Modell, Prompt, Datenquelle oder Tool werden versioniert und erst nach Tests freigegeben.
- Schritt 1
Beobachten
Latenz, Fehler, Tool-Pfade, Qualitätssignale, Kosten und ungewöhnliche Nutzung erfassen.
- Schritt 2
Begrenzen
Quoten, Budgets, Zeitlimits, Wiederholungen und sichere Degradation definieren.
- Schritt 3
Reagieren
Runbooks, Alarmierung, Incident-Rollen und Kommunikation testen.
- Schritt 4
Zurückrollen
Auf eine bekannte Version oder einen manuellen Prozess wechseln können.
Sind Verantwortung und Einführung geklärt?
Ein benanntes Team verantwortet Produktnutzen, fachliche Qualität, Technik und Betrieb. Nutzende verstehen Zweck, Grenzen, zulässige Daten und Meldeweg. Der Start erfolgt gestuft, damit neue Fehler erkannt werden, bevor die Lösung breit oder mit grösseren Rechten eingesetzt wird.
- Fachlicher, technischer und betrieblicher Eigentümer benannt
- Support, Eskalation und verantwortliche Freigabestellen besetzt
- Nutzung, Qualität, Vollkosten und Nutzen nach Start gemeinsam überprüft
- Kriterien für Erweiterung, Pause und vollständige Abschaltung definiert
Beispiel: Dokumentenassistent vor dem produktiven Start
Der Prototyp extrahiert Vertragsdaten überzeugend. Vor Produktion ergänzt das Team ein repräsentatives Testset, Rollen- und Mandantentrennung, Protokolle, Kostenlimits und einen Prüfkorb für unsichere Felder. Ausfälle der Dokumentverarbeitung führen in den manuellen Prozess. Modell- und Prompt-Versionen sind rückrollbar; Fachbereich und IT übernehmen gemeinsam Support und monatliche Qualitätsprüfung. Vor der Freigabe bestätigt die verantwortliche Stelle zudem, dass Anbieter- und Auftragsbearbeitungsvertrag zum Datenfluss passen, eine erforderliche DSFA und Risikoeinstufung abgeschlossen sind und der Release dokumentiert freigegeben wurde. Erst danach startet eine begrenzte Nutzergruppe.
Was Sie mitnehmen sollten
Geben Sie eine KI-Lösung erst frei, wenn Qualität und Grenzen belegt, rechtliche und vertragliche Anforderungen freigegeben und Daten, Sicherheit, Zuverlässigkeit, Änderungen, Kosten und Vorfälle verantwortlich betreibbar sind.
Quellen und Vertiefung
Diese Primärquellen vertiefen Definitionen, technische Grundlagen oder verantwortlichen Einsatz.
Inhaltlich geprüft