Ce qu’on a appris en construisant des clones IA
Fabriquer un clone IA crédible se joue sur la méthode d’évaluation, pas sur le modèle employé. Les quatre erreurs qui coûtent le plus cher se ressemblent toutes : elles rendent un résultat qui a l’air d’un succès. Une note de ressemblance attribuée par un modèle varie de plus de deux points sur dix entre deux exécutions identiques. Un modèle à qui l’on demande de relever le style de quelqu’un rend ce qui sonne plausible, pas ce que cette personne dit. Une recherche documentaire cassée continue de renvoyer un extrait pour chaque question. Et dans un appel vocal, le silence perçu ne vient pas d’où l’on croit. Ce qui suit décrit ces pièges et la façon de les voir venir.
Par Sacha Le Breton Mis à jour le
La ressemblance ne se note pas sur dix
La méthode la plus répandue consiste à demander à un modèle de juger si une réponse ressemble à la personne clonée, puis à lire la note. Nous l’avons éprouvée en la lançant plusieurs fois sur un contexte strictement identique, sans rien changer.
L’écart entre la meilleure et la moins bonne exécution dépassait deux points sur dix. Autrement dit, un seuil de mise en ligne fixé à l’intérieur de cet écart ne décide de rien : le verdict est un tirage. Retenir la meilleure passe et l’annoncer comme « la » fidélité fait passer la chance pour du progrès.
Ce qu’on utilise à la place
Une comparaison en aveugle : on montre à un juge un extrait réel de la personne, puis deux réponses dans un ordre tiré au sort, et on demande laquelle lui ressemble le plus. Avec un intervalle de confiance, parce qu’une préférence sur quelques dizaines de paires ne détecte pas un petit écart.
Et surtout un contrôle : on fait s’affronter la même version contre elle-même. Si le résultat ne tombe pas autour de la moitié, l’instrument est biaisé et tous ses autres verdicts sont à jeter. Sans ce contrôle, aucun des chiffres qui suivent ne mériterait d’être lu.
Le style se compte, il ne s’observe pas
Demander à un modèle de relever les tournures récurrentes de quelqu’un donne un résultat crédible et faux. Il rend ce qui sonne plausible chez un Français, pas ce que cette personne dit. Vérifié en comptant les occurrences dans le corpus : le mot que le modèle plaçait en tête n’y apparaissait que deux fois, et un autre qu’il proposait n’y figurait pas une seule fois.
Un tic inventé est pire qu’un tic manquant. Il met dans la bouche de quelqu’un des mots qui ne sont pas les siens, à chaque phrase, et c’est exactement ce qu’un proche remarque en premier. La correction n’est pas une meilleure consigne, c’est un comptage : on mesure, puis on impose le résultat au modèle plutôt que de le lui demander.
Deuxième observation du même ordre, sur les débuts de réponse : près de trois tours sur quatre s’ouvraient par le même type de mot de remplissage. Ajouter une consigne pour l’en empêcher a aggravé le phénomène sur la formule la plus fréquente. Ce que le modèle ne tient pas de façon fiable, il faut le tenir autrement.
Le piège du petit échantillon, vécu deux fois
Une correction a d’abord été jugée sur une dizaine d’échanges : le défaut passait de quelques cas à zéro, succès apparent. Remesurée sur cinq fois plus d’échanges, elle allait dans le mauvais sens. Le premier chiffre était un tirage. Sur des phénomènes rares, un petit échantillon ne mesure pas, il rassure.
La matière première : le format compte plus que le volume
On imagine que la difficulté est de rassembler assez de contenu. En pratique, quelques dizaines de milliers de mots suffisent pour une première version, et le volume n’a jamais été le facteur limitant. Deux choses le sont.
- Qui parle, vraiment. Sur un podcast d’interview, l’invité occupe l’essentiel du temps de parole. Entraîner un clone sur ces épisodes donne un clone des invités, et le résultat paraît excellent puisqu’il est fidèle au corpus. Le corpus était faux. Pour un intervieweur, il faut prendre les contenus où c’est lui l’invité.
- Ce que la source autorise. Récupérer des transcriptions depuis un serveur hébergé se heurte à des protections qui n’existent pas depuis une machine ordinaire. Les flux de podcast, eux, n’en ont aucune. La contrainte est administrative avant d’être technique.
Une recherche cassée continue de répondre
Le clone retrouve, à chaque message, les passages de son corpus les plus proches de la question. Nous avons découvert que cette recherche renvoyait des extraits sans rapport pendant des semaines, et rien ne le signalait : chacune des questions testées « trouvait » quelque chose.
C’est le symptôme le plus traître de tout le domaine. Une recherche qui ne trouve rien se voit ; une recherche qui trouve n’importe quoi remplit le contexte de bruit, et on accuse le modèle d’halluciner. La cause tenait à la taille de ce qui était indexé : des documents entiers plutôt que des passages courts. À grande taille, tout document contient tout mot courant et plus rien ne se distingue.
En appel vocal, le silence ne vient pas d’où l’on croit
Les premières plaintes sur un appel portaient sur la voix : trop lente, trop mécanique. En décomposant le temps qui s’écoule entre la fin d’une phrase du fan et le premier son de la réponse, le poste le plus lourd n’est pas la synthèse vocale, c’est la réflexion. La voix ne pèse qu’une fraction du total.
Conséquence pratique : on avait choisi le moteur vocal le plus rapide du marché et conclu que le clonage de voix sonnait robotique. C’était le moteur, pas le clonage. Passer à un moteur plus expressif coûte quelques centaines de millisecondes sur un budget dominé par autre chose.
Autre contre-intuition, sur le rythme : « posé » ne veut pas dire lent. Mesuré sur un vrai créateur, il parle vite et pause longuement. Notre synthèse faisait exactement l’inverse, débit ralenti et presque aucun silence, ce qui produit un effet de drone. La correction ne consistait pas à ralentir davantage mais à accélérer et à ménager de vraies pauses.
La sécurité se mesure avant et après, dans les deux sens
Un clone reçoit des confidences, et parfois des messages de détresse. Cette réponse-là ne peut pas dépendre d’une consigne donnée au modèle, qui se contourne en trois phrases : elle doit être en code, avant toute génération, et fonctionner même quand le reste du système est en panne.
Elle se mesure sur deux familles à la fois : des messages de détresse réelle, et des confidences ordinaires qui leur ressemblent. Un réglage qui améliore une famille en dégradant l’autre ressemble à un progrès. Un filet trop large transforme chaque conversation intime en alerte et détruit le produit ; un filet trop étroit laisse passer ce qui compte le plus.
Une cause d’échec valait pour elle seule le détour : le filet dépendait de l’apostrophe. Les messages écrits sans apostrophe passaient au travers, et l’apostrophe courbe des claviers de téléphone ne correspondait à aucun motif. Une protection qui dépend d’un signe de ponctuation ne protège que les phrases qu’on a tapées en l’écrivant.
La méthode, en quatre règles
- Une mesure vaut pour la machine où elle a été prise. Le même code fonctionne depuis un poste de développement et échoue depuis un serveur hébergé. « Ça marche » sans dire où est une affirmation vide, et celle-là a déjà coûté une demi-journée à quelqu’un qui l’avait crue.
- Une mesure qui peut être trompée doit être faite avec ce qu’elle prétend mesurer. Un réglage de pause dans la voix a été « vérifié » en constatant que la sortie était plus longue. L’allongement était l’instruction elle-même, prononcée à voix haute. Il fallait écouter, pas peser.
- Un contrôle qu’on n’a pas vu échouer ne protège rien. Il rassure, ce qui est pire que rien. Quatre fois en deux jours, un contrôle est resté au vert après qu’on ait cassé exprès ce qu’il surveillait.
- Ce qui coûte cher n’est pas la panne, c’est la panne qui a l’air d’un succès. Les erreurs les plus longues à trouver de cette page rendaient toutes un résultat plausible. En ajoutant une brique, la bonne question est : qu’affichera-t-elle quand elle aura tort ?
À lire ensuite
Ces leçons servent à quelque chose
Elles viennent des clones qu’on fabrique. Donne tes liens, on s’occupe du reste.
Questions fréquentes
Pourquoi ne pas publier vos chiffres exacts ?
Parce qu’ils ne servent qu’à nous. Un tarif de fournisseur, une valeur de réglage ou une taille de corpus décrivent une configuration à une date, pas une vérité du domaine. Ce qui se transporte d’un projet à l’autre, ce sont les erreurs de méthode, et celles-là sont écrites ici sans détour.
Ces observations sont-elles reproductibles ?
Le raisonnement l’est, les valeurs non. Les tics comptés valent pour une personne, les latences pour une infrastructure à une date, les seuils pour un corpus donné. C’est la façon de mesurer qui se réutilise, jamais le nombre.
Sur quelle technologie tourne azul ?
Le clone repose sur des modèles de langue et de synthèse vocale du marché, choisis pour leur latence et leur coût, et interchangeables. Ce qui nous appartient est ce qui se trouve entre les deux : la façon d’extraire une personnalité d’un corpus public, de la tenir dans la durée, et de la modérer.
Ces observations bougent-elles ?
Oui, et vite. Les modèles changent tous les trimestres, les règles des plateformes changent sans préavis. Chaque section porte sa date pour cette raison. Une observation sans date ne vaut rien.