KI-Anwendungen sicher betreiben: Kontrollen nach dem Pilot
Von Nico Freitag, Geschäftsführer, Cybersecurity und GovernanceEin KI-Pilot wird erst durch klare Verantwortung, kontrollierte Datenwege, messbare Qualitätsgrenzen, protokollierte Änderungen, menschliche Eingriffsmöglichkeiten und einen geübten Vorfallweg zu einem belastbaren Betrieb.
Was ändert sich beim Übergang in den Betrieb?
Im Pilot können Nutzerzahl, Daten und Folgen bewusst begrenzt sein. Im Betrieb steigen Abhängigkeit und Veränderungstempo. Dokumentiere deshalb Zweck, Nutzerrollen, Anbieter, Modelle, Datenquellen und erlaubte Entscheidungen als aktuelles Systeminventar. Jede wesentliche Änderung braucht eine fachliche und technische Bewertung, bevor sie unbemerkt zum neuen Normalzustand wird.
Welche Kontrollen müssen messbar sein?
Lege für typische und kritische Fälle Qualitätsgrenzen, erlaubte Fehler, menschliche Prüfung und Abbruchkriterien fest. Beobachte nicht nur technische Verfügbarkeit, sondern auch fachlich falsche Ausgaben, ungewöhnliche Nutzung, Kosten und Rückmeldungen betroffener Nutzer. Das NIST-Profil für generative KI ergänzt den AI RMF um spezifische Risikobetrachtungen für solche Systeme.
Wie bleibt der Betrieb handlungsfähig?
Versioniere Modell, Prompt, Wissensbasis und wichtige Konfiguration. Begrenze Zugänge und Geheimnisse, protokolliere relevante Änderungen und halte einen Rückfallweg bereit. Ein Vorfallprozess muss klären, wer Ausgaben sperrt, Datenwege stoppt, Anbieter kontaktiert und Nutzer informiert. Rechtliche Einordnung, Datenschutz und Informationssicherheit werden dabei gemeinsam betrachtet.
Quellen und Grundlage
Zentrale Aussagen dieses Beitrags wurden anhand der folgenden Primärquellen geprüft.
Häufige Fragen
- Reicht normales Infrastruktur-Monitoring für eine KI-Anwendung?
- Nein. Zusätzlich sollten fachliche Qualität, unerwartete Ausgaben, Datenprobleme, Nutzung, Kosten und menschliche Korrekturen beobachtet werden.
- Muss jede Modelländerung neu freigegeben werden?
- Der Umfang der Prüfung richtet sich nach Risiko und Auswirkung. Änderungen müssen aber nachvollziehbar sein und dürfen festgelegte Qualitäts- oder Schutzgrenzen nicht stillschweigend verändern.