KI halluziniert den Mainstream

Ich habe kürzlich eine ganze Weile mit Claude über Canonicals gestritten.

Die Website hatte Slot-URLs, die Art parametergesteuerter Konstruktion, die nicht sauber ins Lehrbuch passt. Ich wollte eine Einschätzung dazu, wie man damit umgeht. Claude hatte eine. Es hatte sich die Website angesehen, sich eine Meinung gebildet und sie mit der ruhigen Sicherheit von etwas geliefert, das jeden SEO-Artikel gelesen hat, der je veröffentlicht wurde. Was ungefähr das ist, was passiert war.

Die Antwort war die Mainstream-Antwort. Canonical auf die saubere Version, Signale konsolidieren, weiter. Im Allgemeinen völlig vertretbar. Falsch für diese Website.

Also habe ich nachgesetzt. Nicht bei den Fakten, beim Urteil. Ich habe die Empfehlung gegen die Besonderheiten des Setups verteidigen lassen und gefragt, warum die Option, die es still ausgeschlossen hatte, nie zur Sprache kam. Daraus kamen zwei Dinge. Ich bekam das richtige Ergebnis. Und es behandelte seine eigene erste Antwort nicht mehr als abgeschlossen. Der zweite Teil ist der interessante.

Der Rat, der diese Woche die Runde macht

Es gab eine Reihe von Beiträgen mit derselben Argumentation, und sie ist vernünftig. Search Engine Land veröffentlichte einen Text, der besagt, dass KI am besten funktioniert, wenn sie Arbeit abnimmt und nicht Urteil, dass sie genau dann zum Easy Button wird, wenn man sie auf das Langweilige und Repetitive begrenzt, und riskant wird, sobald man sie entscheiden lässt. Eine Woche früher formulierte dasselbe Medium es deutlicher: Nutze Claude für SEO, lass Claude kein SEO machen. Lily Ray kommt durch eine andere Tür an einem ähnlichen Punkt heraus, mit dem Argument, dass Abkürzungen in SEO oder AI Search selten gewinnen: Die Abkürzungen haben nie gewonnen, und dauerhafte Sichtbarkeit kommt aus echter Expertise.

Ich stimme dem in allen Punkten zu. Nicht zähneknirschend, und nicht als Untergrenze, über die man noch hinausgehen müsste. Die Arbeit delegieren und die Verantwortung behalten ist der richtige Instinkt, und es ist deutlich besser als die Alternative, nämlich ein Junior, der eine KI-Empfehlung in ein Ticket kopiert, weil sie autoritativ klang.

Ich würde nur die Bedingung ergänzen, die niemand laut ausspricht.

Der Rat funktioniert, weil er die Aufgabe in eine langweilige Hälfte und eine Urteilshälfte teilt. Gut. Aber die langweilige Hälfte ist genau der Ort, an dem die schlechten Daten liegen. Redirect-Tabellen, Produktfeeds, Hreflang-Matrizen, Parameterbehandlung, Exporte, die schon falsch waren, bevor überhaupt jemand etwas automatisiert hat. Niemand schaut sich das genau an, und genau deshalb bekamen sie überhaupt das Etikett langweilig. Automatisiere eine mechanische Aufgabe auf einem Input, den niemand geprüft hat, und du hast kein Risiko entfernt. Du hast die Person entfernt, die es bemerkt hätte.

Arbeit abzunehmen ist also sicher, unter einer Bedingung: dass die Daten unter dieser Arbeit tragfähig sind. Diese Bedingung trägt enorm viel Gewicht, für etwas, das niemand prüft.

Die Leine

Die Grenze stimmt also. Es braucht nur eine Hand daran. Ich handhabe das als Leine, und ich entschuldige mich nicht für den Vergleich.

Vier Dinge müssen zutreffen, bevor ich Automatisierung etwas Bedeutendes übernehmen lasse. Sie bekommt Anweisungen, damit die Aufgabe konkret ist und nicht nur vage angedeutet. Sie bekommt ein Umfeld, einen Bezugsrahmen, in dem sie denken kann, denn ein Modell ohne begrifflichen Rahmen fällt jedes Mal auf den Konsens zurück. Ich brauche Einblick in die Gründe seiner Entscheidungen, nicht nur in das Ergebnis, denn das Ergebnis allein sagt mir nichts darüber, ob es argumentiert oder nachgesprochen hat. Und dann bekommt sie Spielraum, aber an einer Leine, an der ich ziehen kann.

Die Alternative ist, den Hund ganz ohne Leine auszuführen und zu hoffen, dass er zurückkommt, wenn man ruft. Manchmal tut er das. Das ist kein System, das ist eine Stimmung.

Die Unterscheidung ist wichtig, weil sie die Canonicals-Episode erklärt. Claude hat keine Tatsache erfunden. Es hat die Mainstream-Position mit voller Sicherheit reproduziert und wollte nicht über die Linien hinausmalen. Das ist auch eine Halluzination, nur eine gesellschaftlich akzeptierte: eine Halluzination des Konsens. Duane Forrester hat die markenbezogene Variante desselben Fehlers beschrieben, bei der ein Modell mit dünner Information über dein Unternehmen selbstsicher stattdessen einen Wettbewerber beschreibt. Gleicher Mechanismus, auf ein anderes Ziel gerichtet. Dünner Input erzeugt kein Zögern. Er erzeugt die durchschnittliche Antwort, vorgetragen wie ein Urteil.

Und eine durchschnittliche Antwort ist das Einzige, wofür eine erfahrene Fachkraft nie bezahlt wird.

Das Urteil, das du wolltest, und das Urteil, das sich eingeschlichen hat

Damit komme ich zu der Zeile, die ich dem Rat dieser Woche hinzufügen würde, statt ihm zu widersprechen. Ich bin nicht dagegen, KI Urteil zu geben. Ich bin dagegen, es ihr versehentlich zu geben.

Willst du Urteil, dann frage bewusst danach, akzeptiere, dass du dir damit ein Zuverlässigkeitsproblem eingekauft hast, und steuere es dann. Willst du kein Urteil, dann gib keine vage Aufgabe ab in der Hoffnung, dass sich keines einschleicht. Gib ihr eine konkrete Aufgabe. Der Fehler, den ich am häufigsten sehe, ist, dass Leute das Zweite wollen und nach dem Ersten fragen.

Lies die rechte Spalte zweimal, denn sie ist die, die der Rat nicht erreicht. Du kannst jede Urteilsentscheidung beim Menschen behalten, genau wie empfohlen, und trotzdem eine Redirect-Map ausliefern, die auf einem veralteten Export aufbaut. In großer Menge. Nach Plan. Tadellos ausgeführt.

Frage, womit es überhaupt arbeiten konnte

Es gibt ein Detail aus dieser Woche, das den Punkt schön zuspitzt. Daten dazu, wie Claude und Claude Code das Web nutzen, zeigen: Consumer-Claude führte bei 93% der Antworten auf einen Satz identischer Prompts eine Websuche durch, Claude Code bei 13%. Dasselbe zugrunde liegende Modell. Völlig unterschiedliche Grounding-Lage, entschieden davon, in welchem Fenster du zufällig getippt hast. Die beiden nennen außerdem selten dieselben Marken, was ein eigenes Kopfzerbrechen für einen anderen Tag ist.

Bleib da einen Moment stehen. Wenn du diese Zahl nicht kanntest, hattest du keine Möglichkeit zu erkennen, ob die Antwort vor dir aus etwas kam, das fünf Sekunden vorher geholt wurde, oder aus etwas, das im Training aufgenommen und seitdem eingefroren ist.

Das ist dieselbe Lücke, über die ich in Dein LLM kennt dich nicht, deshalb sind seine Antworten durchschnittlich geschrieben habe. Eine Engine, der dein Kontext fehlt, sagt dir nicht, dass ihr dein Kontext fehlt. Sie gibt dir die gemittelte Antwort mit selbstsicherer Stimme, und diese Sicherheit hat nichts mit der Grounding-Lage zu tun.

Was ich dir tatsächlich sagen würde

Hör auf zu fragen, ob KI eine Meinung haben darf. Fang an, drei langweiligere Fragen zu stellen, in dieser Reihenfolge.

Worum habe ich eigentlich gebeten, um ein Urteil oder um eine Aufgabe? Hatte es genug Informationen aus erster Hand über diese konkrete Situation, um zu antworten, oder würde es mir ohnehin immer den Konsens geben? Und prüfe ich die Begründung, oder lese ich nur das Ergebnis und mache weiter, weil es richtig klang?

Nichts davon ist eine Einschränkung des Werkzeugs. Es ist der Teil der Arbeit, der weiterhin dir gehört, und es ist der Teil, den achtzehn Jahre dir einbringen. Ich habe bei diesen Canonicals die richtige Antwort bekommen, weil ich genug wusste, um einer Lehrbuchantwort zu misstrauen. Das Werkzeug hat nicht versagt. Es hat getan, was ein selbstsicherer, breit gelesener, kontextfreier Berater immer tut.

Nimm meine Einschätzung dazu übrigens nicht als endgültig, bei Software, die sich alle zwei Wochen unter dir verändert.

Aber die Leine ist kein Mangel an Vertrauen in die KI. Sie ist Vertrauen in die eigene Hand.