L’IA hallucine le mainstream

J’ai passé un bon moment récemment à débattre de canonicals avec Claude.

Le site avait des URL à slots, ce genre de montage piloté par paramètres qui n’entre pas proprement dans le manuel. Je voulais un point de vue sur la façon de les traiter. Claude en avait un. Il avait regardé le site, s’était formé une opinion et l’avait livrée avec l’assurance tranquille de quelque chose qui a lu tous les articles SEO jamais publiés. Ce qui est à peu près ce qui s’était passé.

La réponse était la réponse mainstream. Canonical vers la version propre, consolider les signaux, passer à la suite. Parfaitement défendable en général. Fausse pour ce site.

Alors j’ai insisté. Pas sur les faits, sur le jugement. Je lui ai fait défendre sa recommandation face aux spécificités du montage, et j’ai demandé pourquoi il n’avait jamais évoqué l’option qu’il avait silencieusement écartée. Deux choses en sont sorties. J’ai obtenu le bon résultat. Et il a cessé de traiter sa propre première réponse comme acquise. C’est la seconde partie qui est intéressante.

Le conseil qui circule cette semaine

Une série d’articles défend le même argument, et il est raisonnable. Search Engine Land a publié un texte affirmant que l’IA fonctionne mieux quand elle retire du travail et non du jugement, qu’elle devient un easy button précisément quand on la cantonne au fastidieux et au répétitif, et qu’elle devient risquée dès qu’on la laisse décider. Une semaine plus tôt, le même média le disait plus crûment : utilisez Claude pour le SEO, ne laissez pas Claude faire le SEO. Lily Ray arrive à un point voisin par une autre porte, en soutenant que les raccourcis gagnent rarement en SEO ou en recherche IA : les raccourcis n’ont jamais gagné, et la visibilité durable vient d’une expertise réelle.

Je suis d’accord avec tout cela. Pas à contrecœur, et pas comme un plancher qu’il faudrait relever. Déléguer le travail et garder la responsabilité est le bon réflexe, et c’est nettement mieux que l’alternative, à savoir un junior qui colle une recommandation d’IA dans un ticket parce qu’elle avait l’air autorisée.

J’ajouterais simplement la condition que personne n’énonce à voix haute.

Le conseil fonctionne parce qu’il découpe le travail en une moitié fastidieuse et une moitié de jugement. Très bien. Mais la moitié fastidieuse est précisément là où vivent les mauvaises données. Tables de redirections, flux produits, matrices hreflang, gestion des paramètres, exports qui étaient déjà faux avant que quiconque n’automatise quoi que ce soit. Personne ne les regarde de près, et c’est exactement pour cela qu’ils ont reçu l’étiquette fastidieux. Automatisez une tâche mécanique par-dessus une entrée que personne n’a vérifiée et vous n’avez pas retiré de risque. Vous avez retiré la personne qui l’aurait remarqué.

Retirer du travail est donc sûr, à une condition : que les données sous ce travail soient saines. Cette condition porte une charge énorme, pour quelque chose que personne ne vérifie.

La laisse

La frontière est donc juste. Il faut simplement une main dessus. Je traite cela comme une laisse, et je ne m’excuse pas de la comparaison.

Quatre choses doivent être vraies avant que je laisse l’automatisation prendre quelque chose d’important. Elle reçoit des instructions, pour que la tâche soit précise plutôt que vaguement désignée. Elle reçoit un Umfeld, un cadre de référence dans lequel raisonner, car un modèle sans cadre conceptuel retombe chaque fois sur le consensus. J’ai besoin de voir les motifs de ses décisions, pas seulement le résultat, car le résultat seul ne me dit rien sur le fait qu’elle a raisonné ou récité. Et ensuite elle reçoit de la marge, mais au bout d’une laisse que je peux tirer.

L’alternative, c’est promener le chien sans laisse du tout et espérer qu’il revienne quand on l’appelle. Parfois il revient. Ce n’est pas un système, c’est une humeur.

La distinction compte parce qu’elle explique l’épisode des canonicals. Claude n’a pas inventé un fait. Il a reproduit la position mainstream avec une confiance totale et n’a pas voulu sortir des lignes. C’est aussi une hallucination, simplement socialement acceptable : une hallucination du consensus. Duane Forrester a décrit la variante orientée marque de la même défaillance, où un modèle disposant d’informations minces sur votre entreprise décrit un concurrent avec assurance à la place. Même mécanisme, pointé sur une autre cible. Une entrée mince ne produit pas d’hésitation. Elle produit la réponse moyenne, énoncée comme un verdict.

Et une réponse moyenne est la seule chose pour laquelle un praticien expérimenté n’est jamais payé.

Le jugement que vous avez demandé, et celui qui s’est glissé dedans

Ce qui m’amène à la ligne que j’ajouterais au conseil de la semaine plutôt que de le contester. Je ne suis pas contre le fait de confier du jugement à l’IA. Je suis contre le fait de le lui confier par accident.

Si vous voulez du jugement, demandez-le délibérément, acceptez que vous venez d’acheter un problème de fiabilité, puis pilotez-le. Si vous ne voulez pas de jugement, ne confiez pas une tâche vague en espérant qu’il ne s’en glisse pas. Donnez-lui une tâche précise. L’erreur que je vois le plus souvent, c’est de vouloir la seconde et de demander la première.

Lisez deux fois la colonne de droite, car c’est celle que le conseil n’atteint pas. Vous pouvez garder chaque décision de jugement du côté humain, exactement comme recommandé, et livrer malgré tout une carte de redirections bâtie sur un export périmé. En volume. Dans les délais. Impeccablement exécutée.

Demandez avec quoi elle a réellement travaillé

Un détail de cette semaine aiguise joliment le propos. Des données sur la façon dont Claude et Claude Code utilisent le web montrent que le Claude grand public a lancé une recherche web dans 93 % des réponses à un jeu de prompts identiques, contre 13 % pour Claude Code. Le même modèle sous-jacent. Un ancrage radicalement différent, décidé par la fenêtre dans laquelle vous tapiez. Les deux citent aussi rarement les mêmes marques, ce qui est un autre casse-tête pour un autre jour.

Arrêtez-vous une seconde là-dessus. Sans connaître ce chiffre, vous n’aviez aucun moyen de savoir si la réponse devant vous venait de quelque chose récupéré cinq secondes plus tôt ou de quelque chose absorbé pendant l’entraînement et figé depuis.

C’est le même écart que celui dont j’ai parlé dans Votre LLM ne vous connaît pas, c’est pour cela que ses réponses sont moyennes. Un moteur qui manque de votre contexte ne vous dit pas qu’il manque de votre contexte. Il vous donne la réponse moyennée d’une voix assurée, et cette assurance n’est pas corrélée à l’ancrage.

Ce que je vous dirais vraiment

Arrêtez de demander si l’IA a le droit d’avoir une opinion. Commencez par poser trois questions plus ennuyeuses, dans cet ordre.

Qu’ai-je réellement demandé, un jugement ou une tâche ? Avait-elle assez d’informations de première main sur cette situation précise pour répondre, ou allait-elle de toute façon me servir le consensus ? Et est-ce que je vérifie le raisonnement, ou est-ce que je lis le résultat et je passe à autre chose parce que cela sonnait juste ?

Rien de tout cela n’est une limite de l’outil. C’est la part du travail qui reste la vôtre, et c’est la part que dix-huit ans vous procurent. J’ai obtenu la bonne réponse sur ces canonicals parce que j’en savais assez pour me méfier d’une réponse de manuel. L’outil n’a pas échoué. Il a fait ce qu’un conseiller assuré, très lu et sans contexte fait toujours.

Ne prenez pas ma lecture comme définitive, d’ailleurs, sur un logiciel qui change sous vos pieds toutes les deux semaines.

Mais la laisse n’est pas un manque de confiance dans l’IA. C’est la confiance dans votre propre main.