Einordnung
Modelle mit offenen Gewichten stehen in vielen Größen zur Verfügung. Der Eigenbetrieb verlangt Kompetenz in Infrastruktur, Modell-Serving und Evaluation. Er lohnt sich bei sensiblen Daten, hohen Volumina oder spezialisierten Aufgaben, für die ein kleines Modell genügt.
Typische Vorhaben
- Verarbeitung vertraulicher Daten ohne externe Dienste
- Kleine, spezialisierte Modelle für Massenaufgaben
- Fine-Tuning auf eigene Fachsprache
- Ausweichlösung zur Verringerung der Abhängigkeit
Gefragte Kenntnisse
Rollen in diesem Umfeld
- MLOps EngineerDer MLOps Engineer baut und betreibt Prozesse, Werkzeuge und Automatisierung für den gesamten Lebenszyklus von Modellen in Produktion, vom Training über das Deployment bis zur Überwachung.
- AI Platform EngineerDer AI Platform Engineer stellt die gemeinsame Infrastruktur bereit, auf der Teams KI entwickeln und betreiben: Umgebungen, Zugriffe, Modellzugänge und zentrale Dienste.
- LLM EngineerDer LLM Engineer ist auf Anwendungen mit großen Sprachmodellen spezialisiert.
- NLP EngineerDer NLP Engineer entwickelt Verfahren zur Verarbeitung von Sprache und Text, von Klassifikation und Extraktion bis zu Sprachverarbeitung im Callcenter.
- AI Deployment EngineerDer AI Deployment Engineer bringt Modelle und KI-Dienste wiederholbar, sicher und kontrolliert in die Produktion.