Drei Bedingungen entscheiden über den Start

Eine KI-Wissensdatenbank durchsucht die eigenen Unterlagen eines Unternehmens und formuliert aus den Fundstellen eine Antwort. Fachleute sprechen von RAG (Retrieval Augmented Generation). Ob das im Alltag trägt, hängt weniger vom Sprachmodell ab als vom Material und davon, wer die Antworten zu sehen bekommt.

Das Material. Gut geeignet sind Bestände, in denen Frage und Lösung bereits zusammen stehen: abgeschlossene Tickets, Mailverläufe, Prüfprotokolle. Sie wachsen mit jedem erledigten Fall, ohne dass jemand zusätzlich dokumentieren muss.

Die Prüfbarkeit. Nennt das System zu jeder Antwort die Fundstelle, kann ein Mitarbeiter sie in Sekunden kontrollieren. Ohne Quelle bleibt nur Vertrauen, und das reicht im Betrieb nicht.

Der Empfänger. Liest zuerst ein Kollege die Antwort, kann er einen Fehler abfangen. Liest sie der Kunde, ist sie eine Auskunft des Unternehmens. Der Schutz durch den Kollegen wirkt allerdings nur, solange er tatsächlich prüft. Dazu unten mehr.

Kundendienst: Alle drei Bedingungen erfüllt

Im Support steckt das Erfahrungswissen vieler Jahre, allerdings verstreut über abgeschlossene Tickets, Mails, Anhänge und Produktdokumentation in mehreren Systemen. In einem solchen Projekt haben wir knapp 40.000 Tickets von Sprachmodellen zu kompakten Lösungskarten verdichten lassen. Geht eine neue Anfrage ein, sucht das System vergleichbare frühere Fälle und formuliert daraus einen Lösungsvorschlag samt Quellenangabe. Das Modul ist im Support im Einsatz.

Gemessen an den drei Bedingungen ist das der Idealfall. Der Bestand wächst mit jedem gelösten Ticket, die Quellenangabe macht jeden Vorschlag nachprüfbar, und die KI antwortet keinem Kunden direkt. Sie legt dem Mitarbeiter einen Vorschlag vor, entschieden wird am Platz.

Die eigentliche Gefahr: Man verlässt sich darauf

Diese Absicherung hat eine Schwachstelle, und die liegt beim Menschen. Wer wochenlang gute Vorschläge bekommt, prüft irgendwann nicht mehr, sondern übernimmt. Fachleute nennen das Automatisierungsbias: die Neigung, den Ergebnissen eines Systems zu viel zu vertrauen. Selbst die KI-Verordnung der EU benennt diese Neigung ausdrücklich. Bei Hochrisiko-Systemen verlangt sie, dass die Menschen in der Aufsicht sich ihrer bewusst bleiben (Art. 14 Abs. 4 Buchst. b).

Gefährlich wird das, sobald ein Vorschlag eine Handlung auslöst, die sich nicht zurücknehmen lässt: Daten löschen, ein System zurücksetzen, eine Einstellung beim Kunden ändern, einen Zugang freischalten. Wird ein falscher Vorschlag dann ungeprüft weitergegeben, ist der Schaden beim Kunden angerichtet, und keine Korrektur macht ihn rückgängig.

Dagegen helfen keine Appelle an die Sorgfalt, sondern Regeln, die im System selbst stecken:

• Keine Antwort ohne Quelle. Findet das System keine passende Fundstelle, sagt es das, statt trotzdem eine Antwort zu formulieren. Im Support-Projekt nennt jeder Vorschlag die früheren Fälle, aus denen er stammt. So setzen wir unsere KI-Wissensdatenbanken grundsätzlich auf, denn eine erfundene Antwort mit sicherem Tonfall ist gefährlicher als gar keine.
• Unumkehrbare Schritte markieren. Vorschläge, die Löschen, Zurücksetzen oder Freischalten enthalten, sind deutlich gekennzeichnet und gehen erst nach einer zweiten Prüfung an den Kunden.
• Stichproben. Ein fester Anteil der übernommenen Vorschläge wird nachträglich kontrolliert. Werden nahezu alle Vorschläge unverändert übernommen, ist das ein Warnsignal und kein Erfolg.

Vor dem Start ist der Datenschutz zu klären, denn Tickets enthalten Namen, Rufnummern und Kundendaten. Im genannten Projekt werden diese Angaben pseudonymisiert, bevor ein Sprachmodell die Texte verarbeitet: Namen und Nummern werden durch Platzhalter ersetzt. Wo Dokumente und Daten liegen sollten, behandelt RAG und Datenschutz.

Wenn Jira und Confluence schon im Einsatz sind

Viele Unternehmen führen ihren Support bereits in Jira Service Management und ihre Dokumentation in Confluence. Dann ist die erste Bedingung erfüllt, und die KI steckt oft schon im Abo. Atlassian liefert seinen KI-Assistenten Rovo in den Cloud-Tarifen Standard, Premium und Enterprise mit, samt einem monatlichen Kontingent je Nutzer. Rovo schlägt zu einem neuen Ticket ähnliche gelöste Fälle und passende Confluence-Seiten vor (Stand: Oktober 2026).

In dieser Lage sollten Sie die eingebaute Lösung zuerst ausprobieren, bevor Sie etwas Eigenes bauen lassen. Eine eigene Lösung lohnt sich erst, wenn eine dieser Grenzen erreicht ist:

• Ein großer Teil des Wissens liegt außerhalb von Jira und Confluence, etwa in Mails, auf dem Dateiserver oder in einem Altsystem aus der Zeit vor Jira. Rovo bindet zwar über Konnektoren weitere Quellen an, etwa SharePoint oder Google Drive, aber nicht jedes Altsystem.
• Sie betreiben Jira oder Confluence bewusst im eigenen Rechenzentrum (Data Center). Die KI-Funktionen von Rovo setzen ein Cloud-Abo voraus.
• Kundendaten sollen vor der Verarbeitung pseudonymisiert werden, oder das Sprachmodell soll im eigenen Haus laufen. Ob und wie das mit der eingebauten Lösung geht, ist vorab zu klären.
• Die Nutzung übersteigt das enthaltene Kontingent dauerhaft. Dann lohnt der Vergleich der Zusatzkosten mit einem eigenen Betrieb.

Unabhängig vom Werkzeug gilt: Die KI ist nur so gut wie die Confluence-Seiten dahinter. Veraltete Seiten führen bei Rovo ebenso zu falschen Vorschlägen wie bei jeder anderen Lösung.

Technik: Funktioniert nur mit gepflegter Dokumentation

In Technik und Instandhaltung geht es um Handbücher, Wartungspläne, Fehlercodes und Prüfprotokolle. Die Fragen sind präzise, die Antworten stehen meist wörtlich in einem Dokument. Eine Suche, die direkt auf die passende Handbuchseite führt, spart hier viel Blättern.

Ein konstruiertes Beispiel: Ein Servicetechniker steht vor einer Anlage und braucht die Wartungsanleitung für genau diese Baureihe. Statt den Ordner zu durchsuchen, fragt er das System und erhält die passende Seite.

Genau hier liegt die Schwachstelle. Liegen alte und neue Fassungen einer Anleitung nebeneinander oder ist unklar, welches Dokument zu welcher Baureihe gehört, greift auch die Suche daneben. Eine falsche Wartungsanleitung ist teurer als ein falscher Lösungsvorschlag im Support. Die Technik landet deshalb auf Platz zwei: Das Wissen ist vorhanden, seine Pflege aber oft nicht geregelt.

Entwicklung und Forschung: großer Nutzen, eigene Risiken

Gemeint sind hier nicht Softwarefirmen, sondern Entwicklungs- und Forschungsabteilungen in Industrie und Handwerk: Werkstoffe, Rezepturen, Bauteile, Verfahren. Ihr Wissen steckt in Versuchsberichten, Laborprotokollen, Prüfberichten, Messreihen, Normen und Patentrecherchen, oft über viele Jahre und mehrere Ablagen verteilt. Die typische Frage lautet: Haben wir das schon einmal ausprobiert, und mit welchem Ergebnis?

Ein konstruiertes Beispiel: Eine Entwicklerin soll eine Kunststoffmischung für den Einsatz bei Frost anpassen. Bevor sie Versuche plant, fragt sie das System, ob es dazu frühere Versuchsreihen gibt. Sie bekommt drei Berichte aus den vergangenen Jahren samt Fundstelle, darunter einen Versuch, der damals verworfen wurde. Ohne die Suche hätte sie ihn vermutlich wiederholt.

An den drei Bedingungen gemessen schneidet die Entwicklung gut ab. Jede Antwort lässt sich am zitierten Versuchsbericht prüfen, und die Antworten lesen Fachleute, nicht Kunden. Schwächer ist das Material: Gescheiterte Versuche werden seltener dokumentiert als erfolgreiche, und vieles steht im Laborbuch oder im Kopf erfahrener Kollegen statt in einer durchsuchbaren Datei. Wie man solches Wissen sichert, bevor es das Haus verlässt, beschreibt Wissen sichern, bevor es in Rente geht.

Zwei Besonderheiten sind vor dem Start zu klären.

• Zahlen nicht rechnen lassen. Sprachmodelle geben Text gut wieder, Messwerte und Tabellen aber unzuverlässig. Das System sollte bei Zahlen auf die Originaltabelle verweisen, statt Werte zusammenzufassen oder umzurechnen.
• Betriebsgeheimnisse schützen. Rezepturen, Versuchsdaten und noch nicht angemeldete Entwicklungen gehören zum Wertvollsten im Unternehmen. Als Geschäftsgeheimnis geschützt sind Informationen nach dem Geschäftsgeheimnisgesetz nur, wenn der Inhaber angemessene Maßnahmen zu ihrer Geheimhaltung trifft (§ 2 Nr. 1 Buchst. b GeschGehG). Wer solche Unterlagen einem externen KI-Dienst übergibt, sollte vorher klären, ob Vertrag, Speicherort und Zugriffsrechte dazu passen. Oft spricht das für ein System, das im eigenen Haus läuft.

Vertrieb: Keine der drei Bedingungen sicher erfüllt

Im Vertrieb verteilt sich das Wissen auf Angebotsvorlagen, Preislisten, Referenzen und Verträge. Der Wunsch nach Antworten auf Zuruf ist nachvollziehbar, die Voraussetzungen sind jedoch die schwächsten im Haus. Preise und Konditionen ändern sich laufend, und welcher Stand gilt, wissen oft nur einzelne Personen. Ob eine Antwort wie „Das Zubehör passt, Lieferzeit zwei Wochen“ stimmt, kann nur prüfen, wer den aktuellen Stand kennt. Zudem erreicht die Antwort den Kunden schneller als anderswo, weil im Vertrieb Tempo zählt.

Welche Folgen eine falsche KI-Auskunft haben kann, zeigt ein Fall aus Kanada. Der Chatbot von Air Canada nannte einem Kunden falsche Bedingungen für einen Trauerfall-Tarif. Das Civil Resolution Tribunal von British Columbia entschied im Februar 2024, dass die Fluggesellschaft für die Auskunft ihres Chatbots ebenso einsteht wie für jeden anderen Inhalt ihrer Website. Das Argument, der Chatbot sei für seine Aussagen selbst verantwortlich, ließ es nicht gelten. Auf deutsches Recht lässt sich die Entscheidung nicht ohne Weiteres übertragen, die Richtung ist aber eindeutig.

Für den Vertrieb empfiehlt sich deshalb eine klare Trennung. Referenzen, Leistungsbeschreibungen und frühere Angebote eignen sich für die KI-Suche, solange ein Mitarbeiter das Ergebnis prüft, bevor es das Haus verlässt. Preise, Rabatte und zulässige Produktkombinationen sind dagegen Regeln mit genau einer richtigen Antwort. Sie gehören in ein System, das immer gleich entscheidet, nicht in eine Suche mit Fehlerquote. Wie das ohne KI aussieht, zeigt Produktkonfigurator statt Excel-Bestellung.

Womit Sie anfangen

Prüfen Sie jede Abteilung, die infrage kommt, gegen die drei Bedingungen: Liegt das Wissen als Text vor und wächst es? Lässt sich jede Antwort an einer Quelle prüfen? Sieht ein Mitarbeiter die Antwort vor dem Kunden?

Sind alle drei erfüllt, haben Sie Ihren Startpunkt. Fehlt nur die dritte, lässt sie sich herstellen: Die KI arbeitet ausschließlich Mitarbeitern zu, und unumkehrbare Schritte brauchen eine zweite Prüfung. Fehlen zwei, sollten Sie zuerst die Unterlagen ordnen. Der erste Einsatz macht jeden weiteren günstiger, weil Datenquellen, Zugriffsrechte und Pflege dann geklärt sind. Wie das System anschließend aus den Korrekturen der Mitarbeiter lernt, beschreibt Wie lernt eine KI aus Korrekturen?