Die Geister, die ich rief … flüstern zurück

Vor ein paar Wochen wollte ich etwas ausprobieren, das mir länger im Kopf herumging. Auf meiner Uhr liegen Jahre an Herzfrequenzdaten. In meinem Kalender liegen Jahre an Meetings. Beides hatte noch nie miteinander geredet.

Dann lief die Maschine. Sie zerlegte den Export in Häppchen, weil er zu groß war, um ihn am Stück zu lesen, legte ihn über den Kalender und stellte am Ende eine Tabelle hin: pro Meeting-Typ und pro Person, wie weit mein Puls im Termin über meiner Ruhe lag. Ich hatte eine Zeile getippt.

Der Titel ist geklaut, und ich sollte gleich zugeben, wo er hinkt. Beim Zauberlehrling werden die gerufenen Geister zur Katastrophe, das Wasser steigt, «die ich rief, werd ich nun nicht los». Bei mir läuft nichts über. Der Geist flutet nicht das Zimmer, er flüstert. Er sagt mir Dinge über mich, die ich nicht bestellt habe. Und das Geflüster stimmt.

Diese Maschine richte ich seit Monaten nach außen. Ein Log-Verzeichnis einer SAP-Commerce-Installation, das kein Mensch mehr am Stück liest, habe ich auf dreizehn kleine, billige Agenten aufgeteilt, jeder ein Stück, am Ende die Summe. So etwas ist Alltag geworden. Die interessante Bewegung war für mich gar nicht, die Maschine nach außen zu richten. Sondern nach innen.

Ich bin das von der harmlosen zur unangenehmen Seite durchgegangen: erst die Gewohnheiten, dann der Körper, dann meine eigenen Entscheidungen. Und am Ende die Stelle, an der mir das Ganze unheimlich wurde.

Der harmlose Anfang

Angefangen habe ich da, wo es nicht wehtut. Spotify gibt einem die eigene Hörhistorie als Datei heraus, mit zwei Feldern, die kaum jemand beachtet: warum ein Song anfing und warum er aufhörte. Habe ich ihn selbst gewählt, oder lief er einfach weiter. Daraus wird eine kleine Karte der eigenen Wochen, und der einzige Streit mit der KI war, an welchem Ende sie die Zeitachse abschneidet. Ich wollte den Regler selbst in der Hand haben.

Der Punkt ist nicht, was in den Daten stand. Der Punkt ist, wie wenig es braucht. Für eine andere Auswertung habe ich einen Stapel abfotografierter Kassenbons vom Wocheneinkauf hingelegt, sonst nichts. Die KI hat die einzelnen Artikel aus den Fotos gelesen, nach Warengruppen sortiert und mir eine Ausgabenübersicht gebaut. Ein Stapel Papier, den ich sonst wegwerfe, wird zur Selbstauswertung. Die Schwelle liegt inzwischen bei fast null.

Der Körper

Beim Puls hörte das Harmlose auf. Nicht weil die Zahlen dramatisch waren, sondern weil der Befund nicht zu dem passte, was ich über mich erzählt hätte. Die Termine, die sich anstrengend anfühlen, die vollen Tage, die langen Runden, waren es nicht. Es war eine bestimmte, regelmäßig wiederkehrende Runde, die ich nie als Belastung eingeordnet hätte. Und der Effekt hing weniger am Format als an einzelnen Personen. Wer da saß, war wichtiger als, worum es ging.

Mehr sage ich dazu nicht, und das ist keine Koketterie. Die Rohauswertung ist voll mit echten Namen, Mailadressen und Terminbezeichnungen. Nichts davon gehört hierher, und mir reicht ohnehin die Form des Funds. Ich konnte ihm nur schwer widersprechen. Das ist das Unangenehme an so einer Zahl: Sie diskutiert nicht.

Eine Sache mache ich dabei aus Gewohnheit. Ich lasse denselben Analyse-Auftrag von zwei verschiedenen Claude-Modellen laufen und schaue, wo sie sich unterscheiden, bevor ich einem glaube. Der Geist flüstert, aber ich entscheide, welchem Geist. Schiedsrichter bleibe ich, auch über das, was der Spiegel behauptet.

Als das Zeigen zum Bewerten wurde

Bis hierhin hat die Maschine mir meine Daten gezeigt. Interessant wird es an der Stelle, an der sie anfängt, mir zu sagen, was sie davon hält.

Ich habe die KI gebeten, meine eigenen letzten Claude-Sitzungen zu lesen und daraus einen «Reifegrad-Report» über meine Arbeitsweise mit Agenten zu schreiben, aufbereitet im Design meines Arbeitgebers. Sie hat die Transkripte durchgesehen und mich auf einer Skala eingeordnet, die aus einem Whitepaper über Reifegrade agentischer Entwicklung stammt. Das Urteil: klar jenseits von «Vibe Coding», im oberen strukturierten Band, und an den Stellen, auf die es ankommt, schon im agentischen. Gelobt hat sie drei Gewohnheiten: dass ich gestaffelte Teams aus teuren und billigen Modellen fahre, dass ich Rechnen konsequent einem Skript überlasse statt dem Sprachmodell, und dass ich Ergebnisse gegen eine bekannte Summe prüfe, bevor ich ihnen traue. Die Lücke, die sie benannte: Meine Kontrolle ist echt, aber reaktiv, und ich halte das, was ich längst tue, nirgends fest und teile es mit niemandem.

Ich habe das gelesen und genickt. Und genau das ist der unangenehme Teil. Ich hatte eine Beschreibung bestellt und eine Note bekommen, und die Note war fair.

Den zweiten Fall habe ich schon einmal von der anderen Seite erzählt. In Der unsichtbare Händler ging es darum, wie gut der Agent mein neues Gravelbike recherchiert hat. Die Frage, die ich mir dabei nicht gestellt hatte, war die unbequemere: Wie gut war eigentlich ich? Also habe ich dieselbe Recherche zurückgedreht, auf den Suchenden, und die KI meine eigenen Filter prüfen lassen.

Das Urteil saß. Mein «Decathlon kommt nicht in Frage» war durch keine einzige recherchierte Tatsache gedeckt. Im Gegenteil, das einzige Testergebnis, das im Protokoll zu genau diesem Rad auftauchte, nannte es einen Preis-Leistungs-Testsieger, und der Agent hatte meine Marken-Annahme kommentarlos übernommen, statt ihr zu widersprechen. Von fünf Filtern, die ich mir selbst gesetzt hatte, hielt am Ende nur einer sauber stand. Einer davon, die Pflicht zum lokalen Händler, hat still das technisch beste Rad aussortiert, weil zwei meiner eigenen Kriterien gegeneinander liefen und die Bequemlichkeit gewann, nicht die Technik. Die Maschine hat mir nicht meine Daten gezeigt. Sie hat mir mein Bauchgefühl gezeigt, und wo es mich betrogen hat.

Der dunkle Zwilling

An einer Stelle wurde mir das Ganze dann doch unheimlich. Dieselbe Technik, die an mir ein nützlicher Spiegel ist, habe ich auf ein fremdes Code-Repository angesetzt: alle Beitragenden danach sortieren, wie wahrscheinlich sie KI benutzt haben, mit Indizien pro Person. Das funktioniert. Und in dem Moment, in dem es funktioniert, ist es kein Spiegel mehr, sondern ein Fernglas. Was an den eigenen Daten Selbsterkenntnis heißt, heißt an fremden Überwachung. Wer sich den Spiegel baut, hat das Fernglas gleich mitgebaut.

Was bleibt

Der Spiegel ist billig geworden. Ein Stapel Kassenbons reicht, ein Datenexport, eine Zeile Auftrag. Die Frage ist damit nicht mehr, ob ich mich vermessen kann. Die Frage ist, was ich überhaupt von mir wissen will, wem ich es zeige, und ab wann ich dem Urteil einer Maschine über mich selbst mehr glaube als mir.

Den Geist werde ich nicht mehr los. Anders als beim Zauberlehrling will ich das auch gar nicht. Ich hätte nur gern die Kontrolle darüber, wann er flüstert.