Aufgaben
- Gefährdungsanalysen für KI-Systeme durchführen
- Schutzmaßnahmen und Leitplanken definieren
- Verhalten in Grenz- und Missbrauchsfällen testen
- Abschaltmöglichkeiten und menschliche Eingriffe prüfen
- Sicherheitsnachweise dokumentieren
Arbeitsergebnisse
- Gefährdungsanalyse
- Safety-Konzept
- Testberichte zu Grenzfällen
- Sicherheitsnachweis
Kompetenzen
Typische Werkzeuge und Methoden
Wann Sie einen AI Safety Specialist brauchen
Wenn KI in Produkte, Maschinen, Fahrzeuge oder Entscheidungen mit Wirkung auf Menschen eingebaut wird, und bei Agenten mit weitreichenden Handlungsrechten.
AI Safety Specialist anfragenAbgrenzung
Safety schützt die Umwelt vor dem System, Security schützt das System vor Angreifern.
Bezug zum EU AI Act
Risikomanagement und Robustheit sind Kernpflichten für Hochrisiko-Systeme.