Facebook nuit à ses utilisateurs parce que c’est là qu’il fait des profits.

Ces derniers mois, Facebook a été la cible d’un flot de critiques sans précédent – et à juste titre. Mais trop de critiques semblent oublier que l’entreprise est poussée à faire de mauvaises choses par sa soif de profit, et non par une poignée d’idées erronées.

Réfléchir à Facebook et à ce qu’il faut en faire, c’est être confronté à deux séries de faits contradictoires. D’une part, Facebook est une plateforme extrêmement utile pour la communication, la publication d’informations, l’activité économique et bien d’autres choses encore, dont dépendent des milliards de personnes dans le monde. L’autre est que Facebook est une entité hautement addictive, à la recherche de profits, qui exploite et manipule la psychologie humaine pour gagner de l’argent, avec des résultats désastreux pour le reste de la société.

L’entreprise est de nouveau au cœur de l’actualité, au terme d’une semaine d’enfer due aux révélations explosives d’un ancien employé qui, désabusé, a divulgué au public une foule de documents internes. À travers une série du Wall Street Journal basée sur la fuite, une interview de 60 Minutes et une comparution devant le Congrès, le point central de l’affaire de la dénonciatrice Frances Haugen est le suivant : Facebook est parfaitement conscient des divers préjudices et dangers de ses plateformes, mais n’a jamais réussi à y remédier parce que cela aurait été contraire à la croissance et aux profits continus de l’entreprise.

Un rapport a révélé que les chercheurs de l’entreprise avaient eux-mêmes déterminé qu’Instagram, qui appartient à Facebook, avait un effet psychologiquement néfaste sur les adolescentes, alors même que l’entreprise le niait publiquement et continuait à développer une version d’Instagram pour les moins de 30 ans. Une autre étude a révélé que le remaniement de l’algorithme de l’entreprise en 2018, visant à promouvoir les “interactions sociales significatives”, ou MSI, avait au contraire encouragé les messages et les contenus basés sur l’indignation, la division sociale, la violence et les conneries. D’autres montrent que Facebook ciblait intentionnellement les enfants et trouvait des moyens de les accrocher très tôt au produit, et qu’il s’est traîné les pieds pour supprimer des publications qu’il savait être faites par des cartels de la drogue et des trafiquants d’êtres humains.

De nombreuses solutions ont été proposées pour résoudre le problème de Facebook, comme l’utilisation des lois antitrust pour le démanteler, la modification de la section 230 pour permettre aux entreprises technologiques d’être poursuivies pour des éléments publiés sur leurs plates-formes ou, comme l’a suggéré Haugen au Congrès, exiger plus de transparence de la part de l’entreprise et créer un conseil de surveillance réglementaire. Mais une grande partie de ce qui a été révélé dans ces documents donne plus de poids aux arguments selon lesquels l’entreprise, et d’autres monopoles de fait comme elle, devraient être traités comme un service public ou même passer sous contrôle public.

Ce que les documents révèlent clairement, c’est que, comme l’a dit Haugen au Congrès, lorsque Facebook est confronté à un conflit entre ses profits et la sécurité des personnes, il “a toujours résolu ces conflits en faveur de ses propres profits”. Facebook sait que ses plates-formes sont mauvaises pour les enfants, mais pour continuer à se développer, il a besoin d’accrocher ces enfants pour qu’ils fassent partie de sa base d’utilisateurs à l’âge adulte, et pour que ces enfants amènent leurs parents dans le giron. “Ils constituent un public précieux mais inexploité”, affirme un document interne de 2020 à propos des préadolescents, l’entreprise étudiant les préadolescents, élaborant de nouveaux produits pour les capter et discutant de l’idée de “playdates comme levier de croissance”.

Facebook comprend que le fait de stimuler les MSI peut alimenter la division, le vitriol et toutes sortes de comportements malsains parmi ses utilisateurs, mais ne pas le faire signifie moins d’engagement et, donc, potentiellement moins de profits. Lorsqu’un employé a suggéré de traiter la désinformation et la colère en supprimant la priorité que l’algorithme accorde au contenu partagé par de grandes chaînes d’utilisateurs, Mark Zuckerberg, a-t-elle écrit, ne le ferait pas “s’il y avait un compromis important avec l’impact de l’indice MSI”. Lorsque les chercheurs ont suggéré à l’entreprise de modifier son algorithme pour ne pas envoyer les utilisateurs dans des trous de lapin plus profonds et plus extrêmes, comme l’intérêt pour les recettes de santé qui ont rapidement conduit à des contenus sur l’anorexie, les hauts gradés l’ont ignoré par crainte de limiter l’engagement des utilisateurs.

“Beaucoup des changements dont je parle ne vont pas faire de Facebook une entreprise non rentable”, a déclaré Haugen au Congrès cette semaine. “Elle ne sera simplement pas une entreprise ridiculement rentable comme elle l’est aujourd’hui”.

Tout comme les entreprises qui stimulent les ventes en fabriquant des appareils destinés à tomber en panne et à cesser de fonctionner après quelques années, c’est la soif de croissance et de profits plus importants de Facebook qui l’incite à ne pas agir de manière responsable. Il semblerait évident d’éliminer ces incitations de l’équation, surtout si ces plateformes prennent le statut de “monopoles naturels” comme les chemins de fer et les télécommunications.

Si une entreprise est publique ou simplement un service public étroitement réglementé, elle n’a pas besoin de travailler selon la logique capitaliste de croissance et de recherche excessive de profits qui a alimenté ces problèmes, et elle n’a pas non plus à survivre si sa base d’utilisateurs n’en a plus besoin ou ne s’en soucie plus. Le fait que l’entreprise soit passée de mode auprès des jeunes et qu’elle soit principalement utilisée par des personnes de plus de trente ans peut être un problème pour Mark Zuckerberg, propriétaire privé de Facebook, mais ce n’est pas vraiment un problème pour un service public qu’un gouvernement a nationalisé à contrecœur en raison de la dépendance de ses utilisateurs. En fait, cela ressemble à une solution toute faite pour une plateforme dont la plupart d’entre nous conviennent qu’elle est, au mieux, addictive et malsaine.

Si les jeunes générations ne se soucient pas de la survie de Facebook, pourquoi devrions-nous les forcer à penser autrement ? Si les gens sont plus heureux lorsqu’ils sont persuadés de ne plus suivre personne et de vider leur fil d’actualité, pourquoi devrions-nous nous venger, comme Facebook l’a récemment fait au créateur de l’outil qui leur permet de le faire ?

Bien entendu, de nombreuses questions pratiques devraient être réglées. Par exemple, Facebook est peut-être une entreprise américaine, mais ses services, assimilables à des services publics, sont fournis à l’ensemble de la planète. On peut donc se demander à quoi ressemblerait un Facebook public ou réglementé – des questions comme “Quel public ?” ou “Réglementé par qui ?”.

De même, une surveillance et un contrôle démocratique rigoureux devraient être conçus autour d’un tel système, de peur que l’exploitation et la manipulation effectuées par la plateforme ne soient simplement transférées du secteur privé au gouvernement. (N’oubliez pas, cependant, que par le biais de ses programmes de surveillance et de ses cyberopérations, Washington et d’autres gouvernements utilisent déjà des plateformes comme Facebook pour collecter et stocker des données sur les utilisateurs du monde entier et manipuler des informations sur eux). Peut-être qu’en fin de compte, la bonne façon d’avancer sera une combinaison de toutes ces solutions, y compris à la fois le démantèlement de ces monopoles et la mise sous propriété publique de certaines parties d’entre eux.

Mais si la solution exacte n’est pas encore claire, ce qui est clair, c’est que l’état actuel des choses est intenable. Au-delà des problèmes mis en évidence par la fuite de Haugen, nous savons depuis longtemps que les plateformes de médias sociaux et autres innovations technologiques sont mentalement malsaines pour nous, ayant été délibérément conçues pour créer une dépendance au point que les ingénieurs en logiciels et les magnats de la technologie qui en sont responsables évitent d’utiliser leurs propres créations. Peut-être existe-t-il un moyen de conserver les médias sociaux et leurs fonctionnalités les plus utiles dans nos vies tout en se débarrassant de leurs caractéristiques les plus malignes ; ou peut-être tout cela se révélera-t-il être une erreur fondamentalement incompatible avec le fonctionnement du cerveau humain. Mais pour le savoir, nous devons au moins essayer quelque chose de différent.

Malheureusement, ce n’est pas la solution qu’une grande partie de la série du Wall Street Journal, la majorité du Congrès et d’autres organes d’information semblent indiquer en réaction à cette fuite. Comme on pouvait s’y attendre, cette nouvelle a suscité des appels à une intensification de la “modération du contenu”, c’est-à-dire de la censure, de la part de ces entreprises technologiques, comme moyen d’empêcher la diffusion de toutes sortes de fausses informations ou d’empêcher les plateformes de “favoriser des mouvements sociaux dangereux”, comme Haugen les en a accusées.

Ironiquement, cela se fait en dépit du fait que les documents eux-mêmes montrent la folie de la censure comme solution à ces problèmes. Le tout premier article de la série du Journal raconte comment Facebook a créé une “liste blanche” de plusieurs dizaines de milliers de comptes très médiatisés, les mettant à l’abri de la censure pour avoir publié le genre de choses qui auraient amené d’autres utilisateurs à être censurés, suspendus ou bannis définitivement. Pendant ce temps, les censeurs de la société s’en prenaient à des utilisateurs de niveau inférieur, supprimant des messages tout à fait inoffensifs ou ceux dont ils avaient mal interprété le message, notamment des organes d’information et des militants de langue arabe pendant la répression israélienne contre les Palestiniens au début de l’année. Ces plateformes ont montré à plusieurs reprises qu’on ne pouvait pas leur faire confiance pour modérer le contenu de manière précise et responsable, comme l’a montré cette semaine un rapport de Human Rights Watch sur la suppression du contenu palestinien.

Cette réponse s’inscrit dans une tendance de longue date de ce qu’Olivier Jutel a appelé le réductionnisme technologique : la croyance que les entreprises technologiques et leurs produits ne sont pas seulement nuisibles et malsains pour nous, mais aussi responsables de toutes les mauvaises choses qui se sont produites ces dernières années. En décidant de la manière de traiter cette question (et en choisissant la censure comme solution), nous risquons de passer à côté des facteurs politiques, économiques et sociaux plus larges qui sont à l’origine du tumulte de notre monde actuel, et de l’attribuer au pouvoir quasi-mystique des médias sociaux. Facebook était-il vraiment le seul responsable de l’émeute du 6 janvier au Capitole ? Ou n’était-il qu’un des nombreux outils utiles qui ont permis aux participants de s’organiser pour l’événement, des participants qui étaient motivés par une combinaison de dislocation économique et de mensonges sur l’élection véhiculés par l’élite et les médias grand public ?

Mme Haugen a déclaré au Journal qu’elle avait décidé de se manifester après avoir vu un de ses amis libéraux se laisser emporter par des délires sinistres décrits comme “un mélange d’occultisme et de nationalisme blanc” après avoir passé “de plus en plus de temps à lire des forums en ligne” (pas Facebook, bizarrement), ce qui a mis fin à leur amitié. Pourtant, les gens rencontrent ou consomment régulièrement de la propagande, sans parler de la simple utilisation des médias sociaux et de l’internet, sans prendre un chemin similaire. Malheureusement, nous ne saurons jamais quels étaient les facteurs sous-jacents qui ont poussé l’ami de Haugen à se laisser entraîner dans ce miasme de mensonges, ni ce qui l’a amené à renoncer plus tard à ces croyances. La désinformation a toujours été répandue dans le monde ; trouver les réponses à ces questions nous aidera à comprendre pourquoi elle semble particulièrement puissante à notre époque.

Le fait d’éviter les efforts de censure massive ne signifie pas que nous sommes impuissants à faire quoi que ce soit. Il est possible d’apporter des changements évidents aux algorithmes, à la conception, à la mission centrale et aux ressources de Facebook, qui le rapprocheraient davantage du véritable service public qu’il prétend être que du mastodonte nihiliste et lucratif qu’il est en train d’exploiter, et aucun d’entre eux ne menacerait notre droit de nous exprimer librement ou n’entraverait notre capacité à rester en contact avec nos proches, à organiser des événements ou à utiliser d’autres fonctions utiles de ces plateformes. Qui sait, nous pourrions même avoir envie de nous déconnecter de temps en temps.

https://jacobinmag.com/2021/10/facebook-whistleblower-haugen-profits-addiction-public-utility-regulation-censorship-moderation-zuckerberg

5 thoughts on “Facebook nuit à ses utilisateurs parce que c’est là qu’il fait des profits.

  • Bonjour pourquoi vous avez coupé vous même votre propre site en simulant une panne géante alors que vous ou même quand vous êtes pas là toute votre industrie vous suit mais à un moment où les congrès essayent de faire taire les gens vous avez imaginer une panne de vos services laissez moi rire vous allez lecher les couilles à ces gens là ?

  • Même au niveau de plus haut on suce les queues des dirigeants qui sont eux pas vacciné s cela arrivera plus tard quand la moitié de la planète sera éradiquée de la terre vous faites partie de ceux qui vaccinent sans être vous même vaccinés

  • J’ai bien envie de dire que pendant les 2 guerres contre les allemands vous étiez aux aguets pour en retiter un peu de gloire mais à cette heure ci nous allons vous vacciner de force

  • Je veux bien vacciner macron une dose par jour des 3 vaccins

  • On doit mettre tous gens la en cage et les faire payer pour les enfants qui sont morts il faut les enfermer avant qu’ils ne tuent la terre entière

Commentaires fermés.