Projektdienstleister für KI-Rollen
  • AX-1011
  • Telekommunikation

AI Security Specialist für Red Teaming eines Kundenassistenten

Ein Dienstleister hat für einen Netzbetreiber einen Assistenten für Vertragsfragen gebaut. Vor dem Go-live soll geprüft werden, wie er auf Manipulationsversuche reagiert.

  • EinsatzortBonn
  • Arbeitsmodell80 % remote
  • StartDezember 2026
  • Laufzeit3 Monate
  • Auslastung3 Tage pro Woche
  • BrancheTelekommunikation

Aufgaben

  • Red Teaming und Härtung gegen Prompt Injection und Datenabfluss
  • Schutzmaßnahmen gegen Prompt Injection und Datenabfluss umsetzen
  • Berechtigungen von Agenten und Tool-Zugriffen absichern
  • Red-Teaming und Penetrationstests für KI-Systeme durchführen

Anforderungen

  • Sicherheitsprüfung von LLM-Anwendungen
  • OWASP Top 10 für LLM
  • Klare Berichte mit Maßnahmen

Von Vorteil

  • Anwendungssicherheit
  • Threat Modeling
  • Identity und Access Management

Technologien

  • PyRIT
  • Garak
  • Burp Suite
  • Python

Die Rolle

Ähnliche Beispielprojekte