Projektdienstleister für KI-Rollen
  • Beispielszenario
  • Energieversorger
  • Rund 3.500 Beschäftigte
  • Laufzeit: 9 Monate

Zentrale KI-Plattform statt Insellösungen

Fünf Teams bauen parallel KI-Anwendungen, jedes mit eigenem Modellzugang und eigenen Schlüsseln. Kosten sind nicht zuordenbar, Sicherheitsvorgaben uneinheitlich umgesetzt.

Das Team

RolleEinsatz
AI ArchitectMonat 1 bis 4, drei Tage pro Woche
AI Platform EngineerMonat 2 bis 9, Vollzeit
MLOps EngineerMonat 3 bis 9, Vollzeit
AI Security SpecialistMonat 2 bis 6, zwei Tage pro Woche

Vorgehen

  1. ZielbildDer Architekt entwirft eine Plattform mit zentralem Modellzugang, die zwei Anbieter und ein selbst betriebenes Modell unterstützt.
  2. AufbauModell-Gateway, Berechtigungen, Kostenzuordnung und Protokollierung gehen in Betrieb.
  3. MigrationDie bestehenden Anwendungen ziehen nacheinander um. Zwei Teams übernehmen dabei die gemeinsame Evaluationspipeline.
  4. BetriebService Level, Bereitschaft und Vorfallprozess werden festgelegt und an das interne Team übergeben.

Ergebnis

  • Alle KI-Anwendungen laufen über einen kontrollierten Zugang
  • Kosten sind je Team und Anwendung sichtbar
  • Neue Vorhaben starten in Tagen statt nach wochenlanger Abstimmung
  • Ein Wechsel des Modellanbieters ist ohne Umbau der Anwendungen möglich

Was daraus zu lernen ist

Die Plattform wurde klein gestartet und mit den Anwendungen gewachsen. Ein Vollausbau vorab hätte ein halbes Jahr ohne Nutzer bedeutet.

Die Praxisbeispiele sind Beispielszenarien. Sie zeigen, wie solche Projekte typischerweise besetzt werden und verlaufen. Es sind keine Referenzen einzelner Kunden.