Projektdienstleister für KI-Rollen
  • AX-1056
  • Versicherung

LLM Engineer für Fine-Tuning kleiner Modelle

Ein Versicherer klassifiziert jährlich Millionen Dokumente. Ein kleines, selbst betriebenes Modell soll ein großes ablösen.

  • EinsatzortNürnberg
  • Arbeitsmodell80 % remote
  • StartFebruar 2027
  • Laufzeit4 Monate
  • Auslastung4 Tage pro Woche
  • BrancheVersicherung

Aufgaben

  • Fine-Tuning und Evaluation eines kleinen Modells für die Klassifikation
  • Prompts, Kontextaufbau und strukturierte Ausgaben entwickeln
  • Fine-Tuning und Destillation durchführen, wenn es sich lohnt
  • Evaluationen für Qualität, Kosten und Latenz aufbauen

Anforderungen

  • Fine-Tuning offener Modelle
  • Evaluation gegen Referenzdaten
  • Kosten- und Latenzoptimierung

Von Vorteil

  • LLM-APIs
  • Kontextgestaltung
  • Python

Technologien

  • Hugging Face
  • PyTorch
  • vLLM
  • Python

Die Rolle

Ähnliche Beispielprojekte