AI Governance, Security und Safety – Modulares Fachseminar (Überblick für Entscheider)

Adressatenkreis: Geschäftsleitung, CIO, CTO, CISO, Compliance- und Datenschutzverantwortliche, Projektleiter mit KI-Bezug.

Einführung: KI, Begriffe und Anwendungsfelder im Unternehmen

• Definitionen: Schwache vs. starke KI, generative KI, Agenten, Foundation Models

• Typen von KI-Modellen: Klassifikation, Regression, Sprachmodelle, multimodale Systeme

• Typische Einsatzgebiete und Wertbeiträge: Automatisierung, Entscheidungsunterstützung, Sicherheit

• Abgrenzung Buy vs. Build vs. Use – Provider-, Deployer- und Anwender-Rollen

Regulatorisches Umfeld und Standards

• EU AI Act: Risikoklassen, Pflichten, Zeitachse, Auswirkungen auf Deutschland

• NIST AI Risk Management Framework (AI RMF) und Generative AI-Profile

• ISO/IEC 42001 (AI Management System) und ISO/IEC 23894 (AI Risk Management)

• Branchenspezifische Anforderungen: DORA, MiFID II, Datenschutz (DSGVO)

AI-Strategie, Politik und Rollenmodell

• AI-Strategie: Geschäftsziele, Wertbeiträge, Risikoappetit

• Bestandteile einer wirksamen AI-Policy: Geltungsbereich, zulässige Nutzung, Sperrlisten

• Verantwortlichkeiten: AI Owner, Model Owner, Data Steward, AI Risk Officer, AI-Auditor

• Ethik-Prinzipien und ihre Operationalisierung im Unternehmen

AI-Risikomanagement im Überblick

• Lebenszyklus des AI-Risikomanagements: Identifikation, Bewertung, Steuerung, Überwachung

• Risikoklassifikation: technische, operative, ethische, regulatorische Risiken

• Vier Reaktionsstrategien: Vermeiden, Vermindern, Übertragen, Akzeptieren

• FRIA Fundamental Rights Impact Assessment

• Privacy Impact Assessment (PIA) und Data Protection Impact Assessment (DPIA) für KI

Datengovernance und Privacy für KI

• Datenherkunft, Datenqualität, Annotation, Bias und Repräsentativität

• Datenklassifikation und Schutzbedarfsanalyse für Trainings- und Inferenzdaten

• Privacy-by-Design für KI-Systeme: Anonymisierung, Pseudonymisierung, synthetische Daten

• Privacy Enhancing Technologies (PETs) im KI-Kontext: Federated Learning, Differential Privacy

AI-Bedrohungslandschaft im Überblick

• Adversarial Machine Learning: Evasion, Poisoning, Model Inversion, Membership Inference

• Prompt Injection, Jailbreaks und Insecure Output Handling bei LLMs

• Supply-Chain-Risiken: Modell-Repositories, Foundation Models, Plug-ins, Agenten

• Shadow AI und nicht-autorisierte Nutzung im Unternehmen

Kontrollen, Sicherheit und Aufsicht von KI-Lösungen

• Sicherheitsarchitektur und Design-Prinzipien für KI-Systeme

• Schlüsselkontrollen entlang des AI-Lebenszyklus (Design, Training, Deployment, Betrieb)

• Human Oversight, Monitoring und Drift-Erkennung

• Incident Response und Business Continuity für KI-Anwendungen

Auditierung und Nachweisführung von KI

• Prüfbare KI: Welche Nachweise braucht ein Audit?

• KPIs und KRIs für AI Governance, Security und Modellqualität

• Vendor- und Lieferanten-Assessments für KI-Lösungen

• Modulare Roadmap für die Etablierung einer AI Governance im Unternehmen

Lernziele:

• wie Sie eine wirksame AI Governance mit Politik, Rollen und Verantwortlichkeiten etablieren,

• wie Sie KI-Risiken systematisch bewerten und mit den Frameworks EU AI Act, NIST AI RMF und ISO/IEC 42001 in Einklang bringen,

• wie Sie KI-spezifische Bedrohungen erkennen und mit geeigneten Sicherheitskontrollen begegnen (OWASP LLM Top 10, MITRE ATLAS),

• wie Sie KI-Systeme entlang des Lebenszyklus prüfen, monitoren und auditieren,

• wie Sie Lieferketten, Foundation Models und externe KI-Dienste vertraglich und technisch absichern und

• wie Sie eine Roadmap für AI Governance, Security und Audit in Ihrem Unternehmen aufbauen.

Zierlgruppe

• Administratoren

• Projektleiter

• Planer

• Entscheider

• Führungskräfte

Das Seminar richtet sich an CISO, Sicherheits-, Compliance- und Datenschutzverantwortliche, IT-Auditoren, Risikomanager sowie an Geschäftsleitung, CIO und CTO mittelständischer und großer Unternehmen, die KI verantwortungsvoll, sicher und prüfbar einsetzen möchten.