Was weiß deine KI über dein Business? Hoffentlich nichts.
Denn wenn sie es wüsste, steckte dein Wissen in einem Modell, das du nicht kontrollierst.
Das klingt zunächst verkehrt. Eine KI, die nichts über dein Geschäft weiß, soll deine Support-Anfragen bearbeiten? Genau das. Das „nichts wissen” ist nicht der Mangel, den du beheben musst - es ist die Eigenschaft, die du schützen willst.
Zwei Wege, einer KI dein Wissen zu geben
Es gibt zwei Wege, einer KI dein Geschäftswissen verfügbar zu machen.
Der erste: Du trainierst oder finetunst ein Modell auf deinen Daten. Dann „weiß” das Modell etwas über deine Kunden, Verträge, Preise. Das Wissen sitzt im Modell - an einem Ort, den du schwer einsiehst, kaum gezielt löschst und nie vollständig kontrollierst. Was einmal eintrainiert ist, lässt sich nicht per Klick widerrufen.
Der zweite: Das Modell bleibt leer. Es bekommt pro Anfrage genau die Informationen, die diese eine Anfrage braucht - und nichts darüber hinaus. Danach vergisst es alles wieder. Das Wissen bleibt in deinen Systemen; das Modell ist nur der Bearbeiter, der für die Dauer eines Vorgangs eingewiesen wird.
Der zweite Weg setzt sich in der Praxis durch. Nicht, weil er bequemer wäre - er ist aufwendiger - sondern weil er kontrollierbar ist.
Wie das aussieht: eine Kündigung
Ein Kunde will seinen Supportvertrag kündigen. Das Ticket landet im System. Die KI weiß an dieser Stelle nichts: nicht, wer der Kunde ist, nicht, ob er überhaupt einen Vertrag hat, nicht, unter welchen Bedingungen er kündigen kann.
Also wird zusammengetragen: Identität aus der Kundendatenbank, Vertragsdaten aus dem Vertragssystem, die Kündigungsbedingungen aus den AGB - letztere meist über semantische Suche in einer Vektordatenbank, weil niemand den kompletten Vertragstext in jeden Aufruf kippt. Erst mit diesem Paket prüft die KI: Ist die Kündigung fristgerecht? Welche Optionen bleiben? Ist es ein Premium-Kunde, dem man besser ein Halteangebot macht?
Das Ergebnis geht an den Sachbearbeiter. Er entscheidet. Sagt er ja, schreibt die KI die Bestätigung und setzt das Vertragsende.
Der schwere Teil
So weit, so unspektakulär. Der schwere Teil ist nicht, dass die KI an die Daten kommt. Der schwere Teil ist, dass sie an die richtigen Daten kommt - und nur an die.
Das Paket für diesen einen Vorgang muss exakt diesen Kunden enthalten. Nicht den ähnlich heißenden aus demselben Postleitzahlbereich. Nicht die Vertragsdaten eines anderen, die zufällig im selben Suchindex liegen. Eine KI gibt weiter, was sie für hilfreich hält - nicht, was im Kontext erlaubt ist. Bekommt sie versehentlich die Daten dreier Kunden, schreibt sie womöglich eine korrekte Antwort an den falschen. Richtige Person, falscher Raum.
Genau hier entscheidet sich, ob ein System aus der Demo in die Produktion kommt: Dissemination Control - die Steuerung dessen, was ein KI-Agent in welchem Kontext weitergeben darf, unabhängig davon, worauf er Zugriff hat.
Wo die eigentliche Arbeit liegt
Der Weg vom Ticket zur Kündigungsbestätigung ist Handwerk. Nicht trivial, aber lösbar. Die eigentliche Arbeit steckt in der Frage, die in jeder Demo übersprungen und in jedem Audit gestellt wird: Woher weiß die KI, dass sie nur über diesen Kunden spricht?
Wer darauf keine belastbare Antwort hat, hat kein KI-Feature gebaut. Er hat ein Datenleck mit Sprachausgabe.
Das ist Problem eins: Die KI darf nur diesen Kunden sehen. Problem zwei sitzt direkt dahinter - sie sieht den richtigen Kunden und zieht trotzdem den falschen Schluss: liest die Kündigungsfrist falsch, beruft sich auf eine Klausel, die so nicht im Vertrag steht. Dagegen hilft kein Scope, sondern eine zweite, unabhängige Prüfung. Und „unabhängig” ist die ganze Schwierigkeit - eine zweite KI, die dem ersten Ergebnis einfach zustimmt, ist keine Prüfung, sondern ein Echo.
Wie man sie wirklich unabhängig hält, im nächsten Teil.