Das Team
| Rolle | Einsatz |
|---|---|
| AI Architect | Monat 1 bis 4, drei Tage pro Woche |
| AI Platform Engineer | Monat 2 bis 9, Vollzeit |
| MLOps Engineer | Monat 3 bis 9, Vollzeit |
| AI Security Specialist | Monat 2 bis 6, zwei Tage pro Woche |
Vorgehen
- ZielbildDer Architekt entwirft eine Plattform mit zentralem Modellzugang, die zwei Anbieter und ein selbst betriebenes Modell unterstützt.
- AufbauModell-Gateway, Berechtigungen, Kostenzuordnung und Protokollierung gehen in Betrieb.
- MigrationDie bestehenden Anwendungen ziehen nacheinander um. Zwei Teams übernehmen dabei die gemeinsame Evaluationspipeline.
- BetriebService Level, Bereitschaft und Vorfallprozess werden festgelegt und an das interne Team übergeben.
Ergebnis
- Alle KI-Anwendungen laufen über einen kontrollierten Zugang
- Kosten sind je Team und Anwendung sichtbar
- Neue Vorhaben starten in Tagen statt nach wochenlanger Abstimmung
- Ein Wechsel des Modellanbieters ist ohne Umbau der Anwendungen möglich
Was daraus zu lernen ist
Die Plattform wurde klein gestartet und mit den Anwendungen gewachsen. Ein Vollausbau vorab hätte ein halbes Jahr ohne Nutzer bedeutet.
Die Praxisbeispiele sind Beispielszenarien. Sie zeigen, wie solche Projekte typischerweise besetzt werden und verlaufen. Es sind keine Referenzen einzelner Kunden.