Was weiß Ihre KI über Ihr Business? Hoffentlich nichts.
Denn wenn sie es wüsste, steckte Ihr Wissen in einem Modell, das Sie nicht kontrollieren.
Das klingt zunächst verkehrt. Eine KI, die nichts über Ihr Geschäft weiß, soll Ihre Support-Anfragen bearbeiten? Genau das. Das „nichts wissen” ist nicht der Mangel, den Sie beheben müssen - es ist die Eigenschaft, die Sie schützen wollen.
Zwei Wege, einer KI Ihr Wissen zu geben
Es gibt zwei Wege, einer KI Ihr Geschäftswissen verfügbar zu machen.
Der erste: Sie trainieren oder finetunen ein Modell auf Ihren Daten. Dann „weiß” das Modell etwas über Ihre Kunden, Verträge, Preise. Das Wissen sitzt im Modell - an einem Ort, den Sie schwer einsehen, kaum gezielt löschen und nie vollständig kontrollieren. Was einmal eintrainiert ist, lässt sich nicht per Klick widerrufen.
Der zweite: Das Modell bleibt leer. Es bekommt pro Anfrage genau die Informationen, die diese eine Anfrage braucht - und nichts darüber hinaus. Danach vergisst es alles wieder. Das Wissen bleibt in Ihren Systemen; das Modell ist nur der Bearbeiter, der für die Dauer eines Vorgangs eingewiesen wird.
Der zweite Weg setzt sich in der Praxis durch. Nicht, weil er bequemer wäre - er ist aufwendiger - sondern weil er kontrollierbar ist.
Wie das aussieht: eine Kündigung
Ein Kunde will seinen Supportvertrag kündigen. Das Ticket landet im System. Die KI weiß an dieser Stelle nichts: nicht, wer der Kunde ist, nicht, ob er überhaupt einen Vertrag hat, nicht, unter welchen Bedingungen er kündigen kann.
Also wird zusammengetragen: Identität aus der Kundendatenbank, Vertragsdaten aus dem Vertragssystem, die Kündigungsbedingungen aus den AGB - letztere meist über semantische Suche in einer Vektordatenbank, weil niemand den kompletten Vertragstext in jeden Aufruf kippt. Erst mit diesem Paket prüft die KI: Ist die Kündigung fristgerecht? Welche Optionen bleiben? Ist es ein Premium-Kunde, dem man besser ein Halteangebot macht?
Das Ergebnis geht an den Sachbearbeiter. Er entscheidet. Sagt er ja, schreibt die KI die Bestätigung und setzt das Vertragsende.
Der schwere Teil
So weit, so unspektakulär. Der schwere Teil ist nicht, dass die KI an die Daten kommt. Der schwere Teil ist, dass sie an die richtigen Daten kommt - und nur an die.
Das Paket für diesen einen Vorgang muss exakt diesen Kunden enthalten. Nicht den ähnlich heißenden aus demselben Postleitzahlbereich. Nicht die Vertragsdaten eines anderen, die zufällig im selben Suchindex liegen. Eine KI gibt weiter, was sie für hilfreich hält - nicht, was im Kontext erlaubt ist. Bekommt sie versehentlich die Daten dreier Kunden, schreibt sie womöglich eine korrekte Antwort an den falschen. Richtige Person, falscher Raum.
Genau hier entscheidet sich, ob ein System aus der Demo in die Produktion kommt: Dissemination Control - die Steuerung dessen, was ein KI-Agent in welchem Kontext weitergeben darf, unabhängig davon, worauf er Zugriff hat.
Wo die eigentliche Arbeit liegt
Der Weg vom Ticket zur Kündigungsbestätigung ist Handwerk. Nicht trivial, aber lösbar. Die eigentliche Arbeit steckt in der Frage, die in jeder Demo übersprungen und in jedem Audit gestellt wird: Woher weiß die KI, dass sie nur über diesen Kunden spricht?
Wer darauf keine belastbare Antwort hat, hat kein KI-Feature gebaut. Er hat ein Datenleck mit Sprachausgabe.
Das ist Problem eins: Die KI darf nur diesen Kunden sehen. Problem zwei sitzt direkt dahinter - sie sieht den richtigen Kunden und zieht trotzdem den falschen Schluss: liest die Kündigungsfrist falsch, beruft sich auf eine Klausel, die so nicht im Vertrag steht. Dagegen hilft kein Scope, sondern eine zweite, unabhängige Prüfung. Und „unabhängig” ist die ganze Schwierigkeit - eine zweite KI, die dem ersten Ergebnis einfach zustimmt, ist keine Prüfung, sondern ein Echo.
Wie man sie wirklich unabhängig hält, im nächsten Teil.