Chapitre 5 — Le modérateur de Nairobi

L'open space est au quatrième étage d'un immeuble de bureaux du quartier de Westlands, à Nairobi. Sol en linoléum gris. Plafond en dalles acoustiques. Sur chaque table, un écran, un casque, une souris. Les fenêtres donnent sur Mpaka Road. On entend, en bas, les klaxons des matatus qui montent vers Sarit Centre.

Le modérateur prend son poste à sept heures. Il s'appelle Mophat Okinyi. Il a signé un contrat avec Sama Inc, sous-traitant de services d'annotation, dont les locaux kenyans ont employé jusqu'à cinquante-quatre personnes pour le compte d'OpenAI entre novembre 2021 et mars 2022^[1]. Son salaire, après déductions, oscille entre 1,32 et 2,00 dollars de l'heure selon les primes de présence et la pénibilité de la file de tâches assignée. Le tarif de référence facturé par Sama à OpenAI, lui, est de douze dollars cinquante de l'heure^[2]. La marge tient dans le couloir.

Sur l'écran, une fenêtre. Dans la fenêtre, des fragments de texte. Le modérateur lit, classe, étiquette. Catégories sexual content. Sous-catégories CSAM. Sous-sous-catégories rape, bestiality, incest. Les fragments ne sont pas des images, ce sont des paragraphes générés par un modèle ou tirés d'un corpus dont on ne lui dit pas l'origine. La consigne tient sur une page. Lire. Identifier. Cocher la case. Passer.

Le quota est de cent cinquante à deux cent cinquante textes par tranche de neuf heures. Les textes font de cent à mille mots. Mophat Okinyi témoigne devant le Parlement kenyan en juillet 2023. Il dit qu'à la fin du contrat, il ne dort plus. Sa femme l'a quitté. Il décrit les paragraphes au procureur comme on récite une liste de courses. C'est le détail qui colle.

Le Time publie l'enquête de Billy Perrigo le 18 janvier 2023. Quatre modérateurs cités, contrats consultés, tarif horaire vérifié sur fiches de paie. Sama Inc rompt le contrat avec OpenAI le mois suivant, huit mois avant l'échéance prévue. La société invoque le bien-être des employés. OpenAI confirme le partenariat et qualifie le travail de necessary^[3]. Le mot tient.

Ce qui est nommé, à ce point, mérite qu'on s'y arrête. Travail nécessaire signifie que le modèle de fondation, pour devenir utilisable au sens où ChatGPT l'est devenu en novembre 2022, doit être bordé. L'entraînement de base sur le corpus Common Crawl produit un système qui régurgite la part la plus toxique du web. Pour qu'il ne le fasse plus, il faut lui apprendre à reconnaître ce qu'il ne doit pas dire. Pour qu'il l'apprenne, des humains doivent lui montrer. Pour qu'ils lui montrent, ils doivent lire. Cette chaîne est la précondition matérielle de l'alignment occidental.

Le travailleur cognitif que Virno décrit, à Bologne ou à Padoue dans les années deux mille, mobilise attenzione, memoria, linguaggio. Le modérateur d'Okinyi mobilise les mêmes facultés. Il lit un texte, le tient en mémoire le temps de cocher trois cases, passe au suivant. C'est du general intellect au sens strict. Mais la dot perpétuelle dont parle Virno, ces facultés génériques que le travailleur emporte avec lui en quittant le bureau, ne fonctionnent pas pareil ici. Elles ne s'emportent pas. Elles restent. Elles laissent une trace qu'aucun virtuosisme ne récupère. Le mot juste pour ce que le travail laisse n'existe pas dans la Grammatica della moltitudine. Il faut sortir du livre^[4].

Mbembe l'a posé en 2003. La biopolitique foucaldienne décrit un pouvoir qui gère la vie des populations intégrées. La nécropolitique décrit son envers et son complément. Pas une succession, une stratification. Le câble Marea, posé en 2017, transporte les requêtes des utilisateurs métropolitains vers les centres de calcul de Northern Virginia. Le contrat Sama-OpenAI, signé en 2021, fait lire des paragraphes de viol à des hommes qui prennent le matatu sur Mpaka Road. Les deux opèrent en même temps, sur la même infrastructure, pour le même produit. Ce n'est pas une dialectique. C'est une géographie.

Crawford, dans Atlas of AI, formule le mécanisme. AI is a technology of extraction^[5]. L'extraction ne porte pas seulement sur le lithium de l'Atacama, le cobalt du Katanga, l'eau de la Snake River. Elle porte aussi sur des opérations cognitives spécifiques, déléguées à des corps situés là où le tarif horaire rend l'opération économiquement absorbable. Le terme est ghost work. Mary Gray et Siddharth Suri l'ont introduit en 2019 pour nommer ce que les interfaces effacent^[6]. Le fantôme n'est pas une métaphore. C'est la propriété d'un travail dont la trace ne remonte pas dans le produit fini. Quand l'utilisateur de ChatGPT lit une réponse polie, il ne voit pas Mophat Okinyi. C'est exactement le sens du mot fantôme.

Le tarif. Douze dollars cinquante facturés. Un dollar trente-deux à deux dollars versés. La différence n'est pas une marge commerciale ordinaire. Elle est la condition de viabilité économique du dispositif. Si Sama payait douze dollars cinquante, l'opération deviendrait impossible. Si Sama recrutait à San Francisco, le coût rendrait le produit trop cher pour l'usage de masse. La géographie du tarif est constitutive. C'est aussi ce que veut dire nécessaire.

L'écart se lit autrement encore. Le salaire net de Mophat Okinyi représente, pour neuf heures de travail, environ douze dollars. La valeur de marché d'OpenAI atteint trois cents milliards de dollars en mars 2025, valorisation négociée lors du tour mené par SoftBank^[7]. Les deux chiffres ne s'opposent pas selon une justice distributive ordinaire. Ils mesurent la même chose depuis deux endroits du même circuit. La capitalisation est l'agrégat de millions de tâches d'annotation et de modération qui n'apparaissent dans aucun bilan. Virno l'avait pressenti à propos de la mise au travail directe du general intellect. Il faut juste préciser que ce general intellect n'est pas réparti uniformément, qu'il a un nord et un sud, et que son sud est une condition technique de production.

Le 8 février 2023, après la publication du Time, Sama annonce qu'elle quitte le secteur de la modération de contenus. Elle conserve ses clients en computer vision et en annotation d'images de véhicules autonomes. Le contrat OpenAI a été l'incident. Les autres marchés tiennent. Le sous-traitant change. Le dispositif demeure.

Hochschild a posé en 2000 le concept de global care chains. Une femme philippine quitte Manille pour Hong Kong. Elle garde l'enfant d'un cadre chinois. Sa propre fille reste à Cebu, gardée par une cousine plus pauvre. La cousine confie ses propres enfants à sa mère. La chaîne descend, palier par palier, jusqu'au point où il n'y a plus personne en dessous^[8]. L'extraction de soin se cristallise dans les corps situés tout en bas. La modération de contenu de l'IA générative est une chaîne de la même forme, déplacée dans le registre cognitif. La chaîne du soin extrait de l'attention affective. La chaîne de la modération extrait de la lecture spécialisée en images traumatisantes. Les deux laissent les mêmes corps.

Ce que la 'asabiyya khaldounienne ne saisit pas, ici, c'est que la périphérie cohésive dont parle Ibn Khaldoun n'est pas celle de Westlands. Mophat Okinyi n'est pas une réserve de cohésion qui pourrait renverser le centre. Il est intégré au centre par contrat, intégré à un degré de subordination que le bédouin du désert n'a jamais connu. La périphérie cognitive n'est pas khaldounienne. Elle est nécropolitique au sens de Mbembe, biopolitique au sens de Foucault, immatérielle au sens de Virno, fantôme au sens de Gray-Suri. Quatre lectures. Aucune ne dit la même chose. Aucune n'est suffisante.

La donnée chiffrée que l'on retient, parce qu'elle vient se poser à côté du tarif horaire de Sama sans qu'on cherche à les articuler. L'OIM, dans son rapport Missing Migrants Project, recense 8 938 morts et disparus sur les routes migratoires en 2024. C'est un record. Il dépasse les 8 542 morts de 2023, eux-mêmes record précédent^[9]. Ces morts ne sont pas un dommage collatéral de la mondialisation. Ils sont le coût stratifié de son ordre.

Trente-six pour cent de ces morts surviennent en Méditerranée. Vingt-deux pour cent sur la route mexicano-américaine du Sonora. Quatorze pour cent dans le Sahara, en chiffres connus, qui sous-estiment le réel parce que le Sahara n'archive pas. Dans le Sonora, le bureau du shérif du comté de Pima recense en 2023 deux cent quatorze restes humains retrouvés dans une seule juridiction^[10]. Certains corps ne sont identifiés qu'à l'examen ADN, plusieurs mois après. La majorité reste anonyme. Le corridor migratoire est un nomadisme contraint dont les coordonnées GPS s'arrêtent au point où le téléphone n'a plus de batterie. La technonormativité quantifiable cible précisément ce mode d'existence. Frontex déploie depuis 2022 des drones Heron de longue endurance au-dessus de la Méditerranée centrale^[11]. Ce que les drones voient devient donnée. Ce qu'ils ne voient pas devient absence. La biométrie de seconde génération, aux frontières européennes, capture l'iris et l'empreinte. Ce qui passe à côté du capteur n'existe pas. C'est aussi ce que veut dire opacité, et c'est ce que veut dire mort.

Le modérateur de Nairobi et le migrant du Sonora ne se ressemblent pas. Ils ne sont pas non plus deux versions d'une même figure. Mophat Okinyi a un contrat, un compte en banque, une fiche de paie. Le migrant qui meurt au sud de Tucson n'a plus de batterie dans son téléphone et n'a jamais eu de bulletin de salaire. Entre eux, ce n'est pas une polarité. C'est une rupture de régime. Un système qui les inscrit tous les deux comme variables d'ajustement n'en fait pas pour autant deux pôles complémentaires. Il en fait deux modes d'absence à soi qu'aucune addition ne réconcilie. Casa Amiga compte les noms à Juárez avec un cahier d'écolier. Personne ne tient le cahier du Sonora.

Ce monde a son utilisateur. L'utilisateur de ChatGPT, à San Francisco ou à Paris, tape une requête à dix-sept heures dix-huit. La réponse arrive en deux secondes. Polie. Bordée. Utile. L'utilisateur ne voit pas le bureau de Westlands, n'entend pas le bruit de Mpaka Road, ne lit pas le rapport de l'OIM. C'est exactement la fonction de l'interface. Elle est conçue pour qu'on ne voie pas. Crawford l'écrit, the cloud is a physical place. Le nuage a des coordonnées. Il a aussi des modérateurs. Il a aussi des morts.

Le détail glaçant n'est pas le détail le plus violent. C'est le mot necessary dans la déclaration d'OpenAI. Il pose ce que le système accepte de nommer comme nécessité, et ce qu'il accepte qu'on déduise de cette nécessité. Mophat Okinyi est nécessaire. Sa rupture conjugale est nécessaire. La marge entre douze dollars cinquante et un dollar trente-deux est nécessaire. Les huit mille neuf cent trente-huit morts de 2024 sont nécessaires. Tout cela tient ensemble par un mot que personne ne conteste.

Mbembe écrivait, à propos des plantations et des colonies, que la souveraineté nécropolitique se reconnaît à ce qu'elle exerce un pouvoir en dehors de la loi. Le contrat de Sama est, lui, parfaitement légal. Le tarif est conforme au droit du travail kenyan. Les drones Heron volent dans un cadre Frontex validé par la Commission européenne. Aucune règle n'est enfreinte. Le dispositif est plus efficace que l'état d'exception agambenien parce qu'il n'a plus besoin d'exception. La nécropolitique post-2020 n'a pas besoin de suspendre la loi pour produire ses morts et ses déprimés. Elle s'inscrit dans des contrats, des tarifs, des budgets de surveillance, des mémorandums de coopération. Elle est un régime juridique ordinaire dont les corps situés sont les variables d'ajustement.

Le poteau rose, à Lomas de Poleo, est dans un autre désert. Il porte un autre nom. Mais il est le même objet. Quelque chose qu'un système n'a pas réussi à inclure tout en l'ayant produit, et que quelqu'un, ailleurs, a quand même planté debout.