Du transport optimal aux LLM

Il y a dix ans, à Paris, mon sujet était l’inversion de forme d’onde complète : à partir des ondes sismiques enregistrées en surface, remonter à la structure de vitesse du sous-sol. Dix ans plus tard, mon quotidien consiste à concevoir des processus de collaboration avec des LLM. Les deux semblent sans rapport, et pourtant, plus j’avance, plus je suis certain que la route entre eux n’a jamais été coupée — le raccord n’est simplement pas là où on l’attendrait.

Une question sur ce que veut dire « ressembler »

Une inversion est au fond un problème d’optimisation : on devine un modèle du sous-sol, on simule la forme d’onde qu’il produirait, on la compare à l’enregistrement réel, on corrige le modèle selon l’écart, et on recommence. Toute la difficulté se cache dans le mot comparer.

La comparaison la plus naïve soustrait point par point et somme les carrés. Son défaut est bien connu : si le modèle deviné fait arriver la forme d’onde simulée avec plus d’une période de retard, la comparaison point par point traite deux signaux qui devraient s’aligner comme deux objets sans rapport. L’optimisation glisse alors dans un très beau minimum local, dont elle ne ressort plus. Votre modèle est faux, et votre fonction objectif vous assure qu’il va bien.

Ma thèse proposait une autre façon de comparer : voir la forme d’onde comme une distribution de masse et demander combien de masse il faut déplacer, et sur quelle distance, pour transformer ce tas-ci en ce tas-là. C’est la distance que donne le transport optimal — calculable en pratique seulement avec une régularisation entropique. Elle tolère les décalages par construction : arriver une période trop tard coûte « un certain déplacement », et non « méconnaissable ». Le relief de la fonction objectif s’aplanit, et l’optimisation peut enfin marcher.

Pendant ces années, je croyais apprendre une technique d’inversion. Je n’ai compris que plus tard ce que j’avais réellement appris : une question. Quand vous dites que deux choses se ressemblent, comment cela est-il défini au juste ?

La même question, habillée autrement

Vers 2019, par curiosité, j’ai fait un détour par le traitement automatique des langues. Ce qui m’a le plus marqué, ce sont les plongements lexicaux : placer les mots dans un espace et laisser la distance porter le sens. Avec le recul, c’était un vieil ami déguisé — je ne l’avais pas reconnu.

Puis sont venus les LLM et les agents. La façon la plus paresseuse d’évaluer la réponse d’un agent est de la comparer caractère par caractère à une réponse de référence : c’est à nouveau la somme des carrés, exactement le même piège. Reformulez, changez l’ordre, et le score s’effondre alors que l’agent avait raison. Quiconque prend l’évaluation au sérieux finit par arriver au même point : chercher une distance tolérante aux variations sans importance et sensible aux vraies erreurs.

L’autre moitié de l’expérience de l’inversion se transfère encore plus directement : il s’agit d’un problème mal posé. Les observations ne suffisent jamais, la solution n’est pas unique, il faut donc des a priori et de la régularisation pour la ramener dans le domaine physiquement raisonnable. Lorsque j’écris aujourd’hui une fiche de mission pour un agent, que je trace ses limites et fixe ses critères de recette, je fais exactement cela : non pas lui donner la réponse, mais rétrécir l’espace des solutions jusqu’à n’en laisser que la partie raisonnable.

Ce qui se transfère vraiment

Il y a dix ans, en apprenant le transport optimal et la théorie de la mesure, je me demandais déjà si cette façon de penser pourrait se transposer à l’apprentissage automatique — c’étaient les années où le TO avait le vent en poupe en apprentissage automatique, avec le Wasserstein GAN qui en faisait une fonction de perte et redéfinissait ce que « deux distributions se ressemblent » veut dire, et avec la distance du cantonnier qui jouait le même rôle en finance. Elle m’a finalement suivi jusqu’aux systèmes d’agents fondés sur de grands modèles d’aujourd’hui. Avec le recul, trois choses m’ont vraiment suivi :

• une vigilance sur la fonction objectif — demander ce que l’on optimise avant de demander si on l’optimise bien ;
• une sérénité face au mal-posé — une solution non unique n’est pas un échec, c’est le signal qu’il manque un a priori ;
• et la discipline qui consiste à juger des preuves dans le bruit, dont j’ai parlé dans Signal et bruit.

En changeant de voie, on regrette les compétences précises qu’on a mis des années à affûter. Ce qu’il faut vraiment emporter, c’est seulement sa manière de poser les questions.