Projektdienstleister für KI-Rollen
  • Guidance
  • Rolle nach CWA 18398
  • Regelmäßig nachgefragt

AI Safety Specialist

Der AI Safety Specialist erkennt, bewertet und verringert Sicherheitsrisiken von KI-Systemen vom Entwurf bis zum Betrieb. Es geht um Schäden, die das System selbst verursachen kann.

Aufgaben

  • Gefährdungsanalysen für KI-Systeme durchführen
  • Schutzmaßnahmen und Leitplanken definieren
  • Verhalten in Grenz- und Missbrauchsfällen testen
  • Abschaltmöglichkeiten und menschliche Eingriffe prüfen
  • Sicherheitsnachweise dokumentieren

Arbeitsergebnisse

  • Gefährdungsanalyse
  • Safety-Konzept
  • Testberichte zu Grenzfällen
  • Sicherheitsnachweis

Kompetenzen

  • Risikoanalyse
  • Funktionale Sicherheit
  • Red Teaming
  • Systemdenken
  • Testmethodik
  • Normenkenntnis

Typische Werkzeuge und Methoden

  • FMEA
  • STPA
  • Guardrail-Frameworks
  • Evaluations-Suiten

Wann Sie einen AI Safety Specialist brauchen

Wenn KI in Produkte, Maschinen, Fahrzeuge oder Entscheidungen mit Wirkung auf Menschen eingebaut wird, und bei Agenten mit weitreichenden Handlungsrechten.

AI Safety Specialist anfragen

Abgrenzung

Safety schützt die Umwelt vor dem System, Security schützt das System vor Angreifern.

Bezug zum EU AI Act

Risikomanagement und Robustheit sind Kernpflichten für Hochrisiko-Systeme.

Überblick zum AI Act

Einsatz in Fachbereichen und Branchen