AI Security: Governance, Threats, Controls

Marcel Rieger

Managing Director, Cyber Risk

Unternehmen die KI einsetzen oder entwickeln, stehen vor einem neuen Bedrohungsspektrum, das klassische Security-Tools nicht adressieren. Prompt Injection, Data Poisoning, Model Theft, Privacy Leakage – das sind keine theoretischen Szenarien. Dies sind bereits dokumentierte Angriffsvektoren mit realen Auswirkungen.

Was die neuen KI-Bedrohungen bedeuten

Prompt Injection beschreibt Angriffe, bei denen Angreifer über manipulierte Eingaben das Verhalten eines KI-Systems steuern – um Sicherheitsfilter zu umgehen, unerwünschte Aktionen auszuführen oder vertrauliche Daten zu extrahieren. Data Poisoning zielt auf Trainingsdaten: Wenn Angreifer Einfluss auf die Daten nehmen können, mit denen ein Modell trainiert wird, können sie dessen Verhalten langfristig manipulieren. Model Theft ermöglicht es Angreifern, durch systematische Abfragen ein Modell zu rekonstruieren – ohne Zugang zum Original. Und Privacy Leakage tritt auf, wenn Trainingsdaten (zum Beispiel Kunden- oder Mitarbeiterdaten) ungewollt in den Outputs eines Modells erscheinen.

Was gute AI Security Governance umfasst

1. Eine vollständige Inventarisierung: Welche KI-Systeme sind in welchen Prozessen im Einsatz? Mit welchen Daten? Entwickelt, intern oder extern bezogen?

2. Eine Risikoklassifizierung nach EU AI Act: Welche Systeme fallen in welche Risikoklasse, und was sind die daraus resultierenden Compliance-Anforderungen?

3. Technische Controls: Input-Validierung, Output-Monitoring, Zugriffssteuerung für KI-Systeme, Datenschutz in Trainingspipelines.

4. Eine interne Governance-Richtlinie: Welche KI-Tools dürfen intern für welche Daten genutzt werden?

Wir helfen Ihnen, AI Security als strukturierten Teil Ihrer Sicherheitsarchitektur aufzubauen.

Was der EU AI Act zusätzlich vorschreibt: Für Hochrisiko-KI-Systeme gelten seit 2025 strenge Anforderungen an Transparenz, menschliche Aufsicht und Datenschutz. Wir helfen Ihnen, KI-Governance als integrierten Teil Ihrer Sicherheitsstrategie aufzubauen – konform mit AI Act und ISO 42001.

Was AI Security als Disziplin in den nächsten Jahren bedeuten wird: Die Angriffsfläche KI-Systeme wächst schneller als die meisten Sicherheitsteams folgen können. Wer heute die Grundlagen legt – Inventar, Klassifizierung, erste Controls – ist morgen deutlich besser positioniert als der, der wartet bis ein Vorfall passiert. Erste Frage: Haben Sie eine vollständige Übersicht aller KI-Systeme die heute in Ihrem Unternehmen eingesetzt werden – offiziell und inoffiziell? Wenn nicht, beginnt dort unsere Arbeit.