Trainingsmodul
KI-Risikomanagement
KI-Risiken aus Einsatzkontext, Betroffenen, GenAI und Agency bewerten und in Behandlung, Monitoring und Restrisiko überführen
KI-Risikomanagement, das Einsatzentscheide trägt
KI-Risikomanagement ist mehr als eine Bewertungsmatrix. Dieses Modul zeigt, wie Sie den Anwendungsfall abgrenzen, betroffene Parteien identifizieren, Schadensszenarien durchdenken, GenAI- und agentische Risiken stresstesten und Ergebnisse in Behandlung, Monitoring und belastbare Nachweise überführen.
Überblick
Worum es in diesem Modul geht
Allgemeine Aussagen zu KI-Risiken verbessern Entscheide selten. Wirksame Governance braucht ein strukturiertes Verständnis davon, was beurteilt wird, wer betroffen sein kann, wie Schäden entstehen können und wann sich ein KI-System nicht mehr wie passive Software verhält.
Dieses Modul vermittelt praktisches KI-Risikomanagement für Managementsystemumgebungen. Die Teilnehmenden definieren Beurteilungseinheiten und vorgesehene Verwendung, identifizieren betroffene Parteien, bauen Schadenspfade auf, nutzen FRIA-nahe Prompts, stresstesten GenAI- und agentische Risikoquellen, wenden Risikokriterien an, vergleichen Behandlungsoptionen und Freigabepunkte und dokumentieren Entscheide zu Restrisiko, Monitoring und Nachweisen.
Der Fokus liegt auf Nachweisen aus der Beurteilung, die rückverfolgbar, belastbar und für Governance, Legal, Risk, Audit, Kundennachweise und operative Anspruchsgruppen nützlich sind, ohne vorzutäuschen, dass das Modul Rechtsberatung, technisches Red Teaming oder operatives Kontrolldesign ersetzt.
Zielgruppe
Für wen es gedacht ist
Wer ein Managementsystem einführt oder koordiniert
Führungskräfte und Bereichsleitungen, die für die Leistung des Managementsystems einstehen
Wer Prozesse, Politiken, Assets, Risiken und Steuerungsmassnahmen verantwortet
Auditoren, die Einblick in die Managementpraxis suchen und nicht in die Audittechnik
Beratende, die an Gestaltung, Governance oder Verbesserung von Managementsystemen arbeiten
EntscheidungshilfeIst dieses Modul für Sie das Richtige?
Es passt gut für Sie, wenn Sie…
praktische Wirkungsbeurteilungen für KI-Systeme in realen Anwendungsfällen durchführen müssen.
erklären müssen, wer geschädigt werden könnte, wie Schäden entstehen können und weshalb das relevant ist.
Ergebnisse der Beurteilung mit Behandlung, Einsatzentscheid, Monitoring und Restrisiko verknüpfen müssen.
erkennen wollen, wann GenAI, Autonomie, Zielverfolgung oder Grenzen der Fähigkeitskontrolle die Beurteilung verändern.
ISO/IEC 42001, Schnittstellen zum EU AI Act, Risiko-, Audit- oder Kundennachweisarbeit unterstützen.
Es passt möglicherweise weniger gut für Sie, wenn Sie…
vor allem allgemeines KI-Bewusstsein oder KI-Grundlagen suchen.
Rechtsberatung oder einen vollständigen Kurs zur Klassifizierung nach EU AI Act benötigen.
technisches Red Teaming, Modellevaluation oder Prompt-Engineering-Training suchen.
operative KI-Steuerungsmassnahmen im Detail gestalten und betreiben wollen.
bereits einen reifen, nachweisstarken Prozess für Wirkungsbeurteilungen von KI-Systemen betreiben.
Agenda
Der Lehrstoff
7 Teile01Beurteilungsrahmen, vorgesehene Verwendung und Rollenannahmen
Systemgrenze, Workflow, Daten und Lebenszykluszustand festlegen
Vorgesehene Verwendung, vorhersehbaren Fehlgebrauch und menschliche Entscheidungspunkte klären
Anbieter-/Betreiberrollen und Schnittstellen zu Pflichten festhalten
02Betroffene Parteien und FRIA-nahe Wirkungsprompts
Betroffene Parteien, vulnerable Gruppen und indirekte Anspruchsgruppen identifizieren
FRIA-nahe Prompts für Rechte, Zugang und Abhilfemöglichkeiten nutzen
Massnahmen der Governance, Beschwerden und Eskalationswege mit der Beurteilung verbinden
03Schadenspfade und entscheidungsreife Risikobeschreibungen
KI-Verhalten, menschliches Vertrauen und Ablaufbedingungen in Schadensszenarien überführen
Ursachen, Kontrollen, Auswirkungen und Folgen für betroffene Parteien trennen
Risikobeschreibungen formulieren, die Behandlungs- und Einsatzentscheide unterstützen
04GenAI, Handlungsspielraum und Fähigkeitskontrolle
Risiken aus generierten Inhalten, Retrieval und Prompt-Abhängigkeit erkennen
Delegierte Aktionen, Zugriff auf Werkzeuge, Optimierung über Ersatzziele und schleichende Autonomie testen
Schwache Aufsicht, Lücken in der Fähigkeitskontrolle und Eskalationsauslöser hinterfragen
05Kriterien, Unsicherheit und Vertrauen in Nachweise
Organisatorische Risikokriterien anwenden, ohne Unsicherheit zu verdecken
Ausmass, Eintrittswahrscheinlichkeit und Vertrauen anhand verfügbarer Nachweise bewerten
Schwache Nachweise, nicht beurteilbare Bedingungen und Bedarf an Spezialbeurteilung markieren
06Behandlung, Nutzungsbedingungen und Freigabepunkte
Einschränkungen, Aufsicht, reduzierte Autonomie und entzogenen Zugriff auf Werkzeuge vergleichen
Pilotgrenzen, Spezialbeurteilung, Eskalation und Pausenbedingungen festlegen
Behandlungsentscheide mit Freigabepunkten und Nutzungsbedingungen verbinden
07Restrisiko, Monitoring, Nachweise und Aktualität
Restrisikoakzeptanz mit Befugnis, Begründung und Bedingungen festhalten
Monitoring durch Betreiber von benötigten Informationen der Anbieter nach dem Inverkehrbringen trennen
Auslöser für Neubeurteilung, Nachweise sowie Routinen für aktualisierte Leitlinien definieren
Ergebnisse
Lernergebnisse
01
Beurteilungseinheiten für KI-Systeme über vorgesehene Verwendung, Kontext, Rollenannahmen, betroffene Parteien und Lebenszykluszustand definieren
02
Belastbare Schadenspfade und Risikobeschreibungen mit betroffenen Parteien, FRIA-naher Logik und Vertrauen in Nachweise aufbauen
03
GenAI-, Agency-, Optimierungs- und Fähigkeitskontrollrisiken vor Einsatz- oder Fortführungsentscheiden stresstesten
Beurteilungsergebnisse in Behandlung, Nutzungsbedingungen, Freigabepunkte und Restrisikoentscheide übersetzen
Monitoring durch Betreiber, Informationen der Anbieter nach dem Inverkehrbringen, Auslöser für Neubeurteilung und Nachweise trennen
Beurteilungspraxis aktuell halten, wenn sich KI-Recht, Standards, Leitlinien, Vorfallmuster und Modellfähigkeiten verändern
Unterlagen
Die Inhalte und die Beurteilung
Schriftliches Modul
Der vollständige Inhalt in Schriftform, in sich abgeschlossen. Zu Teilen davon werden Videos aufgezeichnet, als zweiter Weg durch den Stoff; das schriftliche Modul trägt immer alles.
Übungen
Bewertete Arbeit an den Registern der Fallorganisation selbst: strukturierte Antworten werden gegen den kodierten Fall geprüft, Freitextantworten gegen ein daran zurückgebundenes Bewertungsraster, und bei jedem bewerteten Element hat der Trainer das letzte Wort.
Zum Abschluss
Die bewerteten Übungen müssen bestanden sein, bevor das Zertifikat ausgestellt wird.
Termine
Zurzeit ist keine öffentliche Durchführung von KI-Risikomanagement geplant. Sagen Sie uns Bescheid, und wir melden uns, sobald die nächste öffnet. Oder wir sprechen über eine interne Durchführung.
Eckdaten
- Modul-ID
- HAM-AI-S-02
- Fachbereich
- Künstliche Intelligenz
- Teil von Lehrgängen
- Managementsystem-Manager
Fallorganisation
Sie arbeiten in einem Unternehmen, das das Problem bereits hat
Die Übungen laufen auf einer einzigen Fallorganisation, die über die Module hinweg weitergeführt und nicht jedes Mal neu aufgesetzt wird. Was Sie hier bauen, findet das nächste Modul vor.
Die Northstar Integrated Services AG ist eine Gruppe mit Sitz in Zürich, die regulierten Organisationen in ganz Europa Plattformen für den digitalen Betrieb und Managed Services bereitstellt. Das war sie nicht immer. Sie begann 2008 als Unternehmen für Aussendienstleistungen mit rund fünfundzwanzig Personen, und was ihr zuerst dokumentierte Entscheidungen und benannte Verantwortung abverlangte, war nicht das Wachstum, sondern ein einzelner regulierter Kunde. Heute führt sie ein zugekauftes Geschäft in Polen und Tschechien über eine Tochtergesellschaft, die ihre eigene Rechtspersönlichkeit behalten hat. Dort liegen die interessanten Fehler: Instrumente der Gruppe, operativ ausgerollt und von den Leitungsorganen der Tochtergesellschaft nie in Kraft gesetzt.
Verknüpfte Register
Organisation und Personen, Risiken, Ziele, Politiken und Dokumente, Feststellungen und Überprüfungen, Dritte, Prozesse
Keine Fallstudie
Nichts ist für Sie zusammengefasst; die Nachweise liegen dort, wo sie in Wirklichkeit lägen
Sie hat eine Geschichte
Die Organisation hat eine Zeitachse, und die Module setzen an verschiedenen Punkten an, sodass sich eine Struktur vor ihrem Bruch ebenso studieren lässt wie danach
Sie ist grenzüberschreitend
Eine Schweizer Muttergesellschaft, ein zugekauftes operatives Geschäft in Polen und Tschechien unter eigener Rechtspersönlichkeit, und Kunden in mehreren Rechtsordnungen
Warum das zählt
Urteilsvermögen entsteht nicht an aufgeräumten Beispielen, und auch nicht an jede Woche einem neuen. Northstar ist bewusst unaufgeräumt, und die Module setzen an verschiedenen Punkten ihrer Geschichte an. So sehen Sie eine Governance-Struktur entstehen, aus ihr herauswachsen und neu gebaut werden statt nur die fertige. Was Sie in einem Modul entscheiden, findet das nächste vor.
Durchführung & Termine
Wie dieses Modul zu Ihnen kommt
Live online durchgeführt, mit konzeptioneller Einordnung, Diskussion, Fallarbeit und direktem Austausch mit dem Trainer. Interne und auf Ihre Organisation zugeschnittene Durchführungen sind auf Anfrage möglich.
Zurzeit ist keine öffentliche Durchführung geplant. Die meisten Module laufen auch auf Anfrage und nicht nur nach öffentlichem Kalender. Sagen Sie uns, welcher Zeitraum Ihnen passt.
Sollen wir dieses Modul ansetzen?
Wir melden uns, sobald die nächste Durchführung angesetzt ist. Oder wir führen dieses Modul intern mit Ihrem eigenen Fallmaterial durch.
Unsicher, ob es das richtige Modul ist?
Beschreiben Sie Ihren Kontext in einer kurzen Nachricht, und wir antworten ehrlich.