Ausgangslage
Wissen liegt in SharePoint, Handbüchern, Tickets und Köpfen. Beschäftigte suchen lange oder fragen Kollegen. Ein öffentlicher Chatbot kennt die internen Inhalte nicht und darf sie nicht kennen.
Ablauf
- Quellen und RechteRelevante Quellen auswählen, Qualität prüfen und Berechtigungen klären.
- Aufbereitung und IndexDokumente zerlegen, mit Metadaten versehen und durchsuchbar machen.
- AntwortdienstSuche, Modell und Oberfläche verbinden, Quellen sichtbar machen.
- EvaluationMit echten Fragen der Fachbereiche messen, wo Antworten fehlen oder falsch sind.
- BetriebAktualisierung der Inhalte, Monitoring und Feedbackkanal einrichten.
Ergebnisse
- Wissensassistent mit Quellenangaben
- Ingestion-Pipeline
- Evaluations-Suite
- Betriebskonzept
Woran solche Projekte scheitern
- Veraltete und widersprüchliche Dokumente führen zu veralteten und widersprüchlichen Antworten.
- Berechtigungen werden nicht übernommen, vertrauliche Inhalte tauchen in Antworten auf.
- Ohne Evaluationsdatensatz lässt sich nicht sagen, ob eine Änderung das System verbessert hat.
Rollen in diesem Projekt
- RAG EngineerDer RAG Engineer baut Systeme, die Sprachmodelle mit Unternehmenswissen verbinden.
- AI EngineerDer AI Engineer baut KI-Systeme, die im Alltag funktionieren.
- Data EngineerDer Data Engineer baut und betreibt die Pipelines und Plattformen, die KI-Systeme zuverlässig mit Daten versorgen.
- AI ArchitectDer AI Architect entwirft die Gesamtarchitektur von KI-Lösungen über Daten, Modelle, Software, Plattform und Sicherheit hinweg.
- AI Quality & Evaluation SpecialistDer AI Quality & Evaluation Specialist prüft KI-Systeme und ihre Ausgaben auf Qualität, Robustheit, Fairness und Sicherheit.
- AI Product DesignerDer AI Product Designer gestaltet KI-gestützte Produkte so, dass Nutzer sie verstehen, bedienen und ihnen angemessen vertrauen können.