Un système comme Patty serait-il interdit en Europe ?

Probablement pas au titre de l'article 5(1)(f) du règlement européen sur l'IA, et la réponse mérite d'être hedgée. Cette interdiction vise l'inférence d'émotions à partir de données biométriques sur le lieu de travail, alors que Patty, telle qu'elle est décrite publiquement, détecte des mots-clés dans une transcription. Aucune autorité ni juridiction n'a toutefois tranché ce cas de figure, et une requalification fondée sur la finalité affichée du score reste plausible. Le dispositif resterait par ailleurs soumis au RGPD, au droit du travail et aux obligations d'information des représentants du personnel.

La reconnaissance des émotions par IA est-elle scientifiquement fiable ?

Le débat n'est pas tranché. Les travaux de Lisa Feldman Barrett contestent l'universalité des expressions faciales sur laquelle repose une partie de ces systèmes, tandis que Paul Ekman conteste ces conclusions et invoque de nombreuses réplications. Dire qu'Ekman a été « démenti » est inexact, dire que la base scientifique est contestée entre chercheurs est fidèle. Cette incertitude est en elle-même une raison suffisante de refuser que de tels systèmes fondent une décision individuelle.

Quelle différence entre analyser des mots et analyser le ton de la voix ?

Une différence de nature juridique, pas seulement de finesse technique. Analyser des mots revient à traiter du texte. Analyser le timbre, le débit ou la prosodie pour en déduire un état affectif revient à inférer une émotion à partir d'une donnée biométrique, ce que le règlement européen interdit sur le lieu de travail. Burger King ayant indiqué travailler à capter le ton des conversations, c'est précisément la frontière que ce dispositif pourrait franchir.

IA émotionnelle au travail : Burger King, la science contestée, et la loi

Burger King teste un assistant vocal, baptisé Patty, dans les oreillettes de ses équipiers de drive-in. Il écoute la commande du moment où la voiture se présente jusqu'à son départ, répond aux questions des équipiers sur la préparation, signale les ruptures de stock, et produit un score de « friendliness », d'amabilité, transmis à l'encadrement.

Le dispositif est décrit de façon concordante par plusieurs rédactions, dont Fortune, NBC News et CX Today : 500 restaurants américains en pilote, avec un objectif annoncé d'environ 7 000 établissements nord-américains d'ici fin 2026, sur une base de modèle OpenAI. Thibault Roux, directeur du numérique de l'enseigne, a déclaré au Verge que la mesure d'amabilité était « conçue comme un outil de coaching ».

L'histoire a beaucoup circulé sous l'étiquette « l'IA émotionnelle arrive au travail ». Je trouve cette lecture à la fois compréhensible et fausse sur un point technique précis, qui se trouve être exactement le point dont dépend la légalité du dispositif en Europe. C'est ce point que je veux examiner.

Ce que Patty fait, et ce qu'elle ne fait pas

D'après les descriptions publiques, Patty repère des formules attendues : « welcome to Burger King », « please », « thank you ». Elle compte des mots et des tournures de politesse dans une transcription.

Ce n'est pas de la reconnaissance d'émotion. Un système d'IA émotionnelle au sens strict infère un état affectif à partir de signaux corporels : expression du visage, micro-expressions, timbre, débit, tremblement de la voix. Patty, telle qu'elle est décrite, ne fait rien de tout cela. Elle vérifie la présence de marqueurs lexicaux de courtoisie.

La différence n'est pas cosmétique. Un employé épuisé, hostile, récitant « thank you » d'un ton glacial obtient un bon score. Un employé chaleureux qui dit « super, je vous prépare ça » sans prononcer le mot attendu obtient un mauvais score. Le système ne mesure pas l'amabilité, il mesure la conformité à un script. C'est une limite qui saute aux yeux, et c'est aussi ce qui le fait échapper, pour l'instant, à la qualification juridique la plus contraignante.

Burger King ajoute deux garde-fous dans sa communication : le système n'enregistrerait pas les conversations, et ne noterait pas les employés individuellement, le score étant un signal parmi d'autres au niveau du restaurant.

Pourquoi cette distinction décide de tout en droit européen

L'article 5(1)(f) du règlement européen sur l'IA interdit, depuis l'entrée en application des interdictions le 2 février 2025, les systèmes d'IA visant à inférer les émotions d'une personne physique sur le lieu de travail et dans les établissements d'enseignement, sauf pour des raisons médicales ou de sécurité.

Le point décisif est le fondement de cette inférence. L'interdiction vise l'inférence émotionnelle opérée à partir de données biométriques. Un système qui compte des mots de politesse dans une transcription ne traite pas, a priori, de données biométriques : il traite du texte.

Il faut donc être honnête sur la conclusion : Patty, telle qu'elle est décrite publiquement aujourd'hui, ne tomberait probablement pas sous le coup de l'article 5(1)(f). Je dis « probablement » et je m'y tiens, parce que la question n'a pas été tranchée par une autorité ni par un juge. Le nom même du score, « friendliness », revendique une mesure d'état affectif, ce qui pourrait suffire à certaines autorités pour requalifier le dispositif au regard de sa finalité plutôt que de sa technique. Personne ne peut affirmer aujourd'hui comment cet arbitrage sera rendu.

Ce serait d'ailleurs une erreur d'en conclure que le dispositif serait libre de contraintes en Europe. Il resterait pleinement soumis au RGPD, au droit du travail national, et aux obligations d'information et de consultation des représentants du personnel. En France, un dispositif de surveillance de l'activité des salariés suppose une information préalable et une consultation du comité social et économique. L'article 5(1)(f) n'est pas la seule porte, il est simplement la plus visible.

C'est la même mécanique de zone grise que celle que j'analysais à propos de l'article 50 et des obligations de transparence : le texte est clair sur ses catégories, et la difficulté commence dès qu'un produit réel se situe juste à côté de la catégorie. Pour le cadre général applicable aux équipes, j'ai détaillé ailleurs ce que l'AI Act change concrètement.

Le détail qui pourrait tout faire basculer

Il y a une phrase, dans la couverture de presse, qui mérite plus d'attention qu'elle n'en a reçu : l'enseigne travaillerait à capter le ton des conversations, et non seulement leur contenu.

Si cette évolution se concrétise, l'analyse juridique change de nature. Inférer un état affectif à partir du timbre et de la prosodie d'une voix, c'est très exactement de l'inférence émotionnelle fondée sur une donnée biométrique. Un dispositif qui, aujourd'hui, passe probablement à côté de l'interdiction, la rencontrerait alors de plein fouet en Europe.

C'est pour cela que je trouve l'affaire intéressante bien au-delà de l'anecdote. On observe en direct un produit qui se déplace vers la frontière réglementaire, sans que ce déplacement soit présenté comme un changement de nature. Du point de vue du produit, ajouter le ton est une amélioration incrémentale. Du point de vue du droit européen, c'est un changement de catégorie.

La science : contestée, pas tranchée

Un raccourci circule beaucoup dans les commentaires de ce type d'affaires : la reconnaissance des émotions reposerait sur les travaux de Paul Ekman concernant l'universalité des expressions faciales, et ces travaux auraient été « démentis » par Lisa Feldman Barrett.

Ce raccourci ne rend pas justice à l'état réel du débat. Barrett a publié en 2019 une revue critique de grande ampleur remettant en cause l'idée que des expressions faciales spécifiques traduisent de façon fiable et universelle des catégories d'émotions. Ekman conteste explicitement ces conclusions et invoque un volume important d'études de réplication en sa faveur.

La formulation exacte est donc : la base scientifique de la reconnaissance émotionnelle automatisée est contestée entre chercheurs, et le débat n'est pas clos. Ce n'est pas une nuance de confort. Un débat non résolu est un argument suffisant pour exiger de la prudence dans les usages à conséquence, notamment quand une évaluation d'employé est en jeu. On n'a pas besoin de déclarer une théorie morte pour refuser qu'elle serve de fondement à une décision managériale.

Sur Patty précisément, cette controverse reste hors sujet tant que le système compte des mots. Elle deviendra centrale le jour où il analysera le ton.

L'affaire MorphCast, racontée correctement

Une histoire est souvent citée pour illustrer la fuite des éditeurs d'IA émotionnelle hors d'Europe, et elle est régulièrement déformée. Je la reprends parce que la version fausse circule plus que la vraie.

MorphCast est un éditeur italien de reconnaissance faciale des émotions, basé à Florence. Selon l'enquête de The Atlantic, reprise notamment par the-decoder, l'entreprise a déplacé son centre de gravité vers la Bay Area, en Californie.

Trois précisions que la version simplifiée écrase. D'abord, il s'agit de la Californie, pas du Delaware : la mention d'une domiciliation au Delaware, que j'ai vue passer à plusieurs reprises, ne correspond à rien de documenté. Ensuite, la maison mère disposait déjà d'une présence américaine depuis 2017, ce qui rend le récit d'un départ soudain causé par le règlement européen difficile à soutenir tel quel. Enfin, le bureau de Florence existe toujours.

La réalité est donc un rééquilibrage vers un marché moins contraint, pas une fuite nette. La nuance compte, parce que la version simplifiée sert d'argument massue dans le débat sur la compétitivité européenne, et qu'un argument massue construit sur un fait inexact se retourne toujours contre celui qui l'emploie.

Le marché : une fourchette, pas un chiffre

Sur la taille du marché de l'IA émotionnelle, je préfère donner l'écart plutôt qu'un nombre rassurant.

Les estimations de cabinets divergent fortement. MarketsandMarkets projette de l'ordre de 9,01 milliards de dollars à l'horizon 2030. Research and Markets avance 15,57 milliards de dollars sur un horizon comparable. Un écart de 70 % entre deux estimations censées mesurer la même chose en dit long sur la solidité de l'exercice, et surtout sur les périmètres retenus, qui ne recouvrent manifestement pas les mêmes produits.

J'ai aussi vu circuler un chiffre de 2,7 milliards de dollars pour le marché actuel. Je n'ai pas réussi à le rattacher à une source vérifiable, je ne le reprends donc pas.

Ce qu'il faut en retenir n'est pas un montant, c'est une direction : toutes les projections convergent sur une croissance forte, et aucune ne s'accorde sur son ampleur.

Ce que je retiens, côté gouvernance

Le vrai sujet n'est pas Burger King, dont le dispositif est somme toute assez rustique. Le vrai sujet tient en trois constats.

Une entreprise américaine peut déployer ce type de système à l'échelle de milliers d'établissements sans qu'aucun cadre équivalent à l'article 5(1)(f) ne s'y applique. L'asymétrie réglementaire entre les deux rives est réelle, et elle produit des différences concrètes de pratiques managériales.

En Europe, la frontière entre « compter des mots de politesse » et « inférer une émotion » n'a pas encore été testée en pratique. Elle le sera, et probablement par un cas qui ressemblera beaucoup à celui-ci.

Enfin, pour une direction qui envisagerait un dispositif de ce genre, la bonne question n'est pas « est-ce légal ». C'est « qu'est-ce que je mesure réellement, et quelle décision vais-je fonder dessus ». Un score qui prétend mesurer l'amabilité et qui mesure en réalité la récitation d'un script produira exactement le comportement qu'il récompense : des employés qui prononcent les mots attendus. C'est le même mécanisme que celui que je décrivais à propos du Shadow AI, où l'indicateur finit par remplacer la chose qu'il était censé observer.

Sources : Fortune, sur le test des oreillettes Burger King · NBC News · Today.com · CX Today · the-decoder, sur l'enquête de The Atlantic concernant l'IA émotionnelle au travail · Règlement européen sur l'IA, article 5