Derrière l’écran

Les plateformes sociales se présentent volontiers comme des systèmes techniques automatisés, où le contenu nuisible ne serait qu’un résidu que l’algorithme n’a pas encore appris à capturer. Derrière l’écran renverse cette image. Sarah T. Roberts a forgé l’expression « modération commerciale des contenus » pour le travail payé qui consiste à décider, publication après publication, si texte, image ou vidéo enfreint la loi, la politique d’une entreprise ou ses normes de goût. Si les usagers ne voient pas d’immenses quantités d’abus, de haine, de pornographie et de violence, ce n’est pas parce que la machine a résolu le problème : des personnes les regardent et les jugent chaque jour.

Roberts suit une chaîne mondiale et hiérarchisée. Les modérateurs peuvent être employés directement par une entreprise de la Silicon Valley, travailler dans une petite société spécialisée ou être affectés par un grand sous-traitant aux Philippines, entre autres. Pour le même matériau, salaire, avantages, secret et droit de recours varient fortement selon contrat, lieu et statut. Les plateformes éloignent le travail le plus dangereux de leur marque et de leurs salariés privilégiés tout en décrivant un service propre, sûr et presque automatique. Le risque n’est pas supprimé ; il est transféré selon classe, race et géopolitique.

La modération est bien plus complexe que la suppression d’un contenu manifestement mauvais. Il faut interpréter le contexte sous pression, distinguer satire et menace, document d’actualité et propagande violente, appliquer des règles changeantes ou contradictoires. Files, taux d’exactitude, vitesse et contrôles réduisent le jugement à des mesures de performance, alors que chaque décision trace concrètement une frontière de la parole publique. Les entreprises exigent compréhension culturelle et raisonnement éthique, mais classent les modérateurs comme opérateurs d’arrière-plan remplaçables et privés de reconnaissance.

L’exposition répétée aux violences faites aux enfants, aux exécutions, aux agressions sexuelles et à la haine peut avoir des effets psychiques et corporels graves ; les accords de confidentialité empêchent d’expliquer le travail aux proches, thérapeutes ou citoyens. Roberts ne réduit pas tous les modérateurs à une victime traumatisée identique : certains tirent une identité professionnelle du métier, construisent du soutien entre pairs ou disposent d’une plus grande autonomie. Cette variation ne justifie pas l’abandon. La question est de savoir qui fixe le volume d’exposition, les pauses, l’aide psychologique et la protection après l’emploi, et qui vit avec les conséquences.

Une analyse féministe du travail rapproche la modération du nettoyage, du soin et du travail domestique : plus le service réussit, moins son labeur apparaît. L’usager voit un fil nettoyé ; les déchets traités et leur coût émotionnel restent derrière l’interface. La sous-traitance mondiale transporte le « soin de l’Internet » vers des régions moins rémunérées, toujours structurées par des relations coloniales. Décrire les travailleurs philippins comme naturellement résilients, anglophones ou culturellement aptes à servir l’Occident transforme une histoire d’inégalité en avantage commercial.

Le livre déplace aussi le débat sur la liberté d’expression. Les limites en ligne ne sont généralement pas définies par un tribunal public transparent, mais par des règles privées, la pression de clients et les décisions rapides de travailleurs anonymes. Une suppression excessive peut faire taire les communautés marginalisées qui documentent la violence ; une suppression insuffisante expose les mêmes personnes au harcèlement. Les modérateurs ne détiennent pas la souveraineté finale, mais leur travail exécute la gouvernance des plateformes. Un dispositif soucieux des droits des usagers mais indifférent aux conditions de travail et à la chaîne de décision reste incomplet.

Roberts fonde son argument sur des années d’entretiens, de documents industriels et de terrain de la Silicon Valley aux Philippines, travail particulièrement difficile dans un secteur secret. L’ethnographie restitue l’expérience contradictoire, mais n’ouvre pas toutes les données internes ; les personnes interrogées ne représentent pas chaque langue, régime ou modèle d’emploi. Automatisation et IA générative ont changé le processus depuis l’étude originale de 2019 sans éliminer annotation, vérification, recours et jugement contextuel humains. La date 2021 correspond ici à l’édition brochée ; le cœur du terrain documente une phase industrielle antérieure.

Il vaut mieux ne pas collectionner seulement les récits de trauma les plus spectaculaires, mais dessiner la responsabilité entière : qui écrit les règles, sous-traite, regarde, traite les recours, possède les données et peut refuser une tâche ? Les politiques actuelles, l’organisation syndicale et le droit du travail local permettent de tester les évolutions. La conclusion irréductible est qu’un Internet « sûr » n’est jamais l’état par défaut d’un produit : c’est un travail public intensif. Une plateforme qui refuse la sécurité à ses travailleurs construit celle proposée aux usagers sur l’exposition d’un autre groupe.