Amazon Mechanical Turk est né d'un échec. Selon Kate Crawford, chercheuse, les systèmes d'intelligence artificielle d'Amazon ne parvenaient pas à repérer les fiches produits en double sur le site marchand. Après une série de tentatives coûteuses, les ingénieurs du projet ont confié ce travail à des humains. La plateforme lancée en 2005 met depuis des entreprises en relation avec une foule anonyme payée à la micro-tâche.
Le nom vient de plus loin. Il reprend celui d'un automate joueur d'échecs construit en 1770 par Wolfgang von Kempelen et présenté à la cour de l'impératrice Marie-Thérèse. Un maître d'échecs caché dans le meuble jouait à sa place.
La question que pose cette histoire concerne n'importe quelle équipe qui adopte un outil d'IA. Quand l'outil prend une tâche en charge, reste à savoir qui vérifie ce qu'il produit et rattrape ce qu'il rate. Où ce travail est-il écrit ?
Qu'est-ce que le travail humain caché derrière l'automatisation ?
Le travail humain caché désigne ce que des personnes accomplissent pour qu'un système paraisse autonome, sans que ce travail soit compté ni crédité. Crawford le suit sur toute la chaîne de l'IA, des mines qui fournissent ses minerais jusqu'aux travailleurs du clic payés quelques centimes par tâche.
Son constat tient dans le chapitre qu'elle consacre au travail. Ces personnes font les tâches répétitives qui soutiennent le récit d'une IA magique, mais on leur reconnaît rarement le mérite de faire fonctionner les systèmes. Crawford cite l'étiquetage de milliers d'heures de données d'entraînement, la relecture de contenus signalés, le test d'un algorithme pour savoir s'il donne le bon résultat. Elle décrit des systèmes présentés aux investisseurs comme automatiques pendant que ces tâches se font en coulisse.
« Contemporary forms of artificial intelligence are neither artificial nor intelligent. »Kate Crawford, Atlas of AI, chapitre 2, « Labor ». Traduction de l'article, les formes contemporaines de l'intelligence artificielle ne sont ni artificielles ni intelligentes.
Un livre écrit avant les assistants conversationnels
Atlas of AI paraît en 2021 chez Yale University Press. Crawford y parle d'entrepôts, de reconnaissance faciale, de plateformes de micro-travail et d'assistants numériques comme Siri ou Alexa. Le livre précède la diffusion grand public des grands modèles de langage et des agents. La transposition à une équipe qui travaille aujourd'hui avec un assistant ou un agent IA relève donc de cet article, non de l'autrice.
Crawford écrit depuis l'intérieur du secteur. Elle indique dans son introduction avoir travaillé près de dix ans à la fois à l'université et dans un laboratoire de recherche industriel en IA. Son propos embrasse toute l'industrie. Le présent article s'en tient à une échelle plus modeste, celle d'une équipe et de son manager.
D'où vient le mot « fauxtomation » ?
Le mot vient d'Astra Taylor, documentariste et écrivaine. Elle le propose en août 2018 dans un essai publié par la revue Logic, « The Automation Charade », pour nommer des systèmes vendus comme automatiques qui ne le sont pas. Crawford reprend le terme en le lui attribuant.
Crawford rapporte deux exemples ordinaires tirés de Taylor. La borne de commande d'un restaurant rapide et la caisse automatique d'un supermarché semblent remplacer un employé. La saisie n'a pourtant pas disparu. Elle est passée d'un salarié payé à un client qui l'accomplit gratuitement.
Crawford en tire la définition qui sert ici. La fauxtomation ne remplace pas directement le travail humain, elle le déplace et le disperse dans l'espace et dans le temps. Ce déplacement éloigne le travail de la valeur qu'il produit. Coupés des résultats de leur travail comme des autres personnes qui font la même tâche, les travailleurs deviennent selon elle plus faciles à exploiter.
Ce que Crawford a relevé
Le chapitre « Labor » accumule les cas où un système réputé automatique repose sur une intervention humaine. Le tableau ci-dessous en reprend cinq, complétés par l'enquête de l'Organisation internationale du travail que Crawford cite elle-même.
| Forme de travail caché | Cas rapporté | Qui le fait | Source |
|---|---|---|---|
| Saisie déplacée | Bornes de commande des restaurants rapides, caisses automatiques des supermarchés. | Le client, sans rémunération. | Astra Taylor, 2018, rapportée par Crawford, 2021 |
| Relecture et réécriture | L'assistant de prise de rendez-vous « Amy » de la start-up x.ai, relu et réécrit par des sous-traitants, avec des journées allant jusqu'à quatorze heures. | Une équipe de contractuels. | Enquête d'Ellen Huet, Bloomberg, 2016, rapportée par Crawford |
| Comblement des échecs | Les doublons de fiches produits qu'Amazon ne savait pas détecter, à l'origine de Mechanical Turk. | Des micro-travailleurs payés à la tâche. | Crawford, 2021, d'après Lilly Irani |
| Supervision en direct | Les voitures autonomes en circulation, avec un opérateur au volant prêt à reprendre la main. | Un opérateur humain. | Crawford, 2021 |
| Entraînement gratuit | Le reCAPTCHA de Google, où l'internaute sélectionne des voitures ou des numéros de rue pour prouver qu'il est humain. | L'internaute. Il entraîne ainsi la reconnaissance d'images. | Crawford, 2021 |
| Temps non payé autour de la tâche | 20 minutes d'activités non payées par heure payée (chercher des tâches, passer des tests de qualification). Gain moyen de 4,43 $ de l'heure en ne comptant que le travail payé, 3,31 $ en comptant tout le temps passé. | Les micro-travailleurs de cinq plateformes, enquête de 2017. | OIT, Digital labour platforms and the future of work, 2018 |
Pourquoi ce travail reste-t-il invisible dans l'entreprise ?
Selon Crawford, il reste invisible d'abord pour une raison économique. Elle écrit que les clients des plateformes de micro-travail traitent ces travailleurs presque comme des machines et en donne le motif dans la même phrase.
« […] to recognize their work and compensate it fairly would make AI more expensive and less “efficient.” »Kate Crawford, Atlas of AI, chapitre 2, « Labor ». Traduction de l'article, reconnaître leur travail et le rémunérer justement rendrait l'IA plus chère et moins « efficace ».
Dans cette lecture, l'invisibilité fait partie du calcul.
Un regard hérité de l'usine
Crawford fait remonter ce regard au mathématicien Charles Babbage, connu comme l'inventeur du premier ordinateur mécanique. Babbage comparait l'usine à un système de calcul fait d'unités spécialisées. Dans le produit fini, le travail de chacun devenait largement invisible. Pour lui, la valeur venait de la conception du procédé et les ouvriers exécutaient les tâches définies pour eux.
Crawford reprend ensuite le résumé qu'en donne Simon Schaffer. Sous l'œil de Babbage, la main-d'œuvre pouvait être une source d'ennuis capable de faire dérailler une table de calcul ou une usine, mais elle ne pouvait pas être vue comme une source de valeur.
Une collaboration rarement négociée
Crawford relève une seconde raison, plus proche du quotidien d'un manager. Quand une entreprise introduit une nouvelle plateforme d'IA, les salariés ont rarement le droit de s'en passer. Elle y voit un engagement forcé plus qu'une collaboration. On attend des salariés qu'ils se forment, suivent le rythme et acceptent chaque évolution technique sans la discuter.
Dans ces conditions, le travail d'ajustement que demande l'outil risque de passer pour ce qui va de soi. Personne ne l'a demandé, personne ne l'a refusé, personne ne l'a nommé.
À quoi ressemble ce travail dans une équipe qui adopte l'IA ?
Transposée à une équipe, la lecture de Crawford fait apparaître cinq gestes. Chacun s'adosse à un exemple de son livre et chacun peut se glisser dans un poste sans jamais être écrit dans une fiche de poste.
- Vérifier et corriger. Crawford décrit Mechanical Turk comme un atelier géant où des humains vérifient et corrigent des traitements algorithmiques. Côté équipe, le geste consiste à relire la synthèse produite par l'assistant avant de l'envoyer.
- Rattraper les exceptions. L'opérateur de la voiture autonome reprend la main au premier signe de difficulté. Au bureau, il s'agit de traiter à la main le dossier que l'outil ne sait pas classer.
- Alimenter l'outil. La caisse automatique reporte la saisie sur le client. Son équivalent interne tient aux champs à remplir, aux données à reformater, à tout ce que l'outil attend pour fonctionner.
- Lui apprendre. Dans l'entrepôt d'Amazon que Crawford visite à Robbinsville, chaque casse signalée devient une donnée qui fait choisir un autre carton la fois suivante. Une équipe fait de même quand elle signale une erreur, note la bonne réponse ou reformule une consigne.
- Se réadapter. Dans ce même entrepôt, les préparateurs doivent s'adapter en continu aux décisions de l'algorithme. Crawford écrit que ces ajustements leur rendent plus difficile de mettre leur savoir en pratique ou de s'habituer au poste. Chaque mise à jour d'un outil de bureau peut imposer le même réapprentissage.
Le premier geste a déjà son article. Le coût de la vérification pour l'organisation y est traité comme une dépense à financer. La question posée ici porte sur la personne qui vérifie et sur ce qu'on lui en reconnaît.
Le dernier geste rejoint un autre risque. Plus l'outil fait le travail, moins l'équipe le pratique. Ce mécanisme est décrit dans l'article sur le savoir-faire qui s'érode avec la dépendance à l'IA.
Les agents IA déplacent le travail d'un cran
Avec les agents, le déplacement change d'échelle. Manager à l'ère des agents IA revient à cadrer et vérifier, deux activités qui laissent peu de traces. Le résultat d'un agent s'affiche. Le temps passé à cadrer sa mission puis à relire son travail ne s'affiche nulle part.
Comment un manager peut-il voir et compter ce travail ?
Il peut le relever avec l'équipe sur une période courte avant d'en tirer la moindre conclusion. La démarche proposée ici tient en quatre temps et sur une semaine.
- Choisir un outil et une semaine. Un seul outil déjà déployé, sur une semaine ordinaire, sans période de clôture ni lancement.
- Relever les cinq gestes. Chaque membre note les moments où il vérifie, corrige, rattrape, alimente ou réapprend, avec une estimation grossière du temps. L'estimation suffit, le chronomètre ferait de l'exercice un contrôle.
- Mettre en commun. En rétrospective, l'équipe regarde qui porte quoi, ce qui n'était écrit nulle part et ce que l'outil rate le plus souvent.
- Écrire ce qui a été vu. Le travail relevé entre dans l'accord d'équipe avec l'IA et dans la répartition de la charge. Quand il dure, il rejoint les fiches de poste et les objectifs.
Le quatrième temps donne au relevé sa suite. L'accord d'équipe avec l'IA est un canevas qui dit ce que l'IA peut faire ou non et ce que l'humain se réserve. Il gagne à désigner aussi les personnes chargées de vérifier, de rattraper et d'apprendre à l'outil. L'article qui présente ce canevas part d'un essai de Bill Gates pour décider quels métiers restent humains.
Ce qu'une start-up en a fait
Ce canevas est né dans une start-up que j'ai accompagnée, très chargée en logistique. Elle a délégué à un agent IA, son « collaborateur augmenté », une bonne part du contrôle des actions humaines, notamment la validation des enregistrements faits par une personne très sollicitée, susceptible d'être submergée et de se tromper. De nombreuses actions ont aussi été confiées à la machine plutôt qu'à l'humain. L'expérience s'est bien passée.
L'équipe a travaillé en rétrospective sur le mois écoulé, sur son organisation et sur la façon dont l'agent avait travaillé avec elle. Elle a regardé ce qu'il avait réussi ou non, ce qu'il avait compris, ce sur quoi il avait capitalisé, ce qu'elle avait réussi à lui apprendre, puis ce qu'elle pourrait lui confier en plus ou non. Cette dernière question servait à mettre à jour l'accord d'équipe avec l'IA.
La question de ce que l'équipe avait réussi à apprendre à l'agent désigne un travail humain. La rétrospective lui donnait une place.
D'où je parle
Depuis 2012, j'accompagne des équipes, des managers et des CODIR et je pratique la facilitation, dans une carrière commencée en 1998 dont quatorze ans à manager des équipes. Je travaille le sujet des agents IA depuis 2024. Dès 2020, je travaillais sur les robots logiciels, ancêtres des agents IA.
Comment reconnaître ce travail sans le transformer en surveillance ?
En le nommant et en le créditant, sans le chronométrer. Crawford décrit la pente inverse. Dans l'entrepôt de Robbinsville, des pointeuses jalonnent le bâtiment, chaque seconde de travail est suivie et les préparateurs n'ont droit qu'à quinze minutes hors tâche par poste de dix heures. Elle note que les employeurs observent et évaluent désormais des parties du cycle de travail qui leur étaient jusque-là inaccessibles.
Mesurer le travail caché avec les mêmes instruments reviendrait à le rendre visible pour mieux le presser. La reconnaissance emprunte d'autres voies, la parole du manager, la répartition de la charge et la façon dont l'équipe parle de ses outils.
Des signes de reconnaissance qui portent sur ce travail
Les signes de reconnaissance conditionnels portent sur ce qu'une personne fait, non sur ce qu'elle est. Ils conviennent au travail caché, fait de gestes précis qu'un remerciement général efface. Dire en réunion qui a repéré l'erreur de l'outil avant qu'elle parte chez un client reconnaît un geste. Remercier « toute l'équipe » le dilue.
- Nommer en réunion la personne qui a rattrapé, corrigé ou appris quelque chose à l'outil.
- Compter ce travail dans la répartition de la charge, au lieu de le traiter comme du temps libéré.
- Le citer dans l'entretien annuel comme une contribution, avec des exemples.
- Faire remonter au fournisseur ou à la direction informatique ce que l'outil rate le plus souvent.
Ce qui relève du manager
Le manager ne choisit pas toujours l'outil. Il décide en revanche de la façon dont son équipe en parle. La répartition de la charge et la reconnaissance des contributions relèvent aussi de lui. Distinguer ce qui relève réellement de son périmètre de contrôle évite deux écueils, s'épuiser contre un outil imposé ou renoncer à protéger ceux qui le font tourner.
Quand la charge déborde en fatigue durable ou en souffrance, le sujet sort du management ordinaire. Le manager oriente alors la personne sans attendre vers le médecin du travail et le service de santé au travail.
Un travail invisible n'est ni reconnu ni protégé. La prochaine fois qu'un outil « fera gagner du temps » à votre équipe, la question utile sera peut-être celle-ci. Qui rattrapera ce qu'il rate dans six mois ?
Questions fréquentes
La fauxtomation désigne un système présenté comme automatique qui repose en réalité sur du travail humain en coulisse. Selon Kate Crawford, elle ne remplace pas directement ce travail. Elle le déplace et le disperse vers un sous-traitant, un micro-travailleur ou le client lui-même.
Astra Taylor, dans un essai publié en août 2018 par la revue Logic sous le titre « The Automation Charade ». Kate Crawford reprend le terme dans Atlas of AI en 2021 en l'attribuant à Taylor.
Non. Crawford compte aussi le travail gratuit des clients et des internautes, comme la saisie aux caisses automatiques ou les images sélectionnées pour le reCAPTCHA. Son livre ne traite pas des équipes en entreprise. La transposition aux gestes d'une équipe (vérifier et corriger, rattraper, alimenter l'outil, lui apprendre, se réadapter) est proposée par cet article.
Une estimation grossière sur une semaine suffit à rendre ce travail visible. Un suivi minuté ferait glisser l'exercice vers la surveillance que Crawford décrit dans les entrepôts d'Amazon. Le relevé sert à répartir la charge et à reconnaître les contributions, jamais à évaluer les personnes.
Le relevé fonctionne de la même façon, un outil à la fois. Dans une petite structure, ce travail peut reposer sur une ou deux personnes qui connaissent les failles de l'outil. Les nommer les protège et protège l'organisation contre la perte de ce savoir le jour où elles partent.
Par une question posée en réunion d'équipe sur un seul outil. Qui le vérifie et rattrape ce qu'il rate ? Combien de temps cela prend-il en moyenne ? Les réponses suffisent à lancer un relevé d'une semaine. Pour construire ce relevé sur votre contexte, réservons un échange de 30 minutes.
Vos outils font-ils gagner du temps ou en déplacent-ils ?
Que vous soyez dirigeant, manager ou DRH, un premier échange permet de repérer le travail que vos outils ont déplacé avant de décider comment le reconnaître.
Réserver un échange découverte (30 min)Allez plus loin
- Contre-atlas de l'intelligence artificielle L'intelligence artificielle lue comme une industrie extractive, de la terre au travail humain, aux données et aux classifications. Voir le livre →
Liens affiliés
