Projektdienstleister für KI-Rollen
  • Support
  • Rolle nach CWA 18398
  • Stark nachgefragt

AI Security Specialist

Der AI Security Specialist schützt KI-Lösungen, Modelle, Daten und Dienste vor KI-spezifischen und klassischen Angriffen. Er kennt Prompt Injection, Datenabfluss über Modelle und manipulierte Trainingsdaten.

Aufgaben

  • Bedrohungsmodelle für KI-Anwendungen und Agenten erstellen
  • Schutzmaßnahmen gegen Prompt Injection und Datenabfluss umsetzen
  • Berechtigungen von Agenten und Tool-Zugriffen absichern
  • Red-Teaming und Penetrationstests für KI-Systeme durchführen
  • Sicherheitsanforderungen in Architektur und Betrieb verankern

Arbeitsergebnisse

  • Bedrohungsanalyse
  • Sicherheitskonzept für KI-Systeme
  • Red-Teaming-Bericht
  • Härtungsmaßnahmen und Leitplanken

Kompetenzen

  • Anwendungssicherheit
  • OWASP Top 10 für LLM
  • Threat Modeling
  • Identity und Access Management
  • Red Teaming
  • Cloud-Sicherheit

Typische Werkzeuge und Methoden

  • Garak
  • PyRIT
  • Burp Suite
  • Microsoft Defender
  • Guardrail-Frameworks

Wann Sie einen AI Security Specialist brauchen

Sobald eine KI-Lösung auf interne Daten zugreift, Aktionen in Systemen ausführt oder von außen erreichbar ist.

AI Security Specialist anfragen

Abgrenzung

Der AI Safety Specialist betrachtet Schäden durch das System selbst, der AI Security Specialist Angriffe auf das System.

Bezug zum EU AI Act

Cybersicherheit ist eine ausdrückliche Anforderung an Hochrisiko-Systeme.

Überblick zum AI Act

Einsatz in Fachbereichen und Branchen

Beispielprojekte für AI Security Specialist

Alle Projekte im Projektmarkt

Praxisbeispiele mit dieser Rolle