Careless People

Growth. More.

Cela faisait vraiment longtemps que je souhaitais lire ce livre. Il trainait sur ma liste depuis plusieurs semaines, et j’arrivais tout doucement à la fin des derniers romans que l’on m’avait prêtés / offerts. Ce livre mérite d’être cité comme le travail d’Edward Snowden, et d’être analysé de manière beaucoup plus clair.

Concrètement, c’est “Facebook from the inside”, tel qu’on pourrait l’imaginer : parfois un peu idéalement, comme une grosse société un peu chamalow en mode Nokia (« connecting people » (surtout au début)) vs le grand méchant capitaliste qui pense à pomper le maximum d’informations individuelles - quitte à y aller franchement sur les données de santé, politiques, voire psychologiques. Au début, j’ai bien aimé plusieurs passages “Corporate”, sur la manière dont certains sujets sont abordés, amenés et qualifiés. C’est - professionnellement et psychologiquement - très instructif. Idem sur la gestion de l’entreprise : comme Sarah Wynn-Williams est proche de Mark Zukerberg (genre N-4 : pas au sommet, mais suffisamment proche que pour le croiser eu période de crise), il y a beaucoup de choses qu’elle amène à titre personnel sur le comportement d’un des plus grands psychopathes dirigeants du monde.

Au fil du récit, on recule dans le temps, on réassemble les morceaux de son parcours, et chaque anecdote — parfois livrée en quelques pages seulement — mériterait à elle seule la une des journaux. Si les journaux n’étaient pas eux-mêmes, justement, affaiblis (voire écrasés) par l’écosystème que Facebook a contribué à créer.

Avoir un récit du point de vue d’une exécutive (pas encore au « C-level », mais pas loin du tout) féminine, apporte beaucoup de sensibilité à l’histoire, permet de mesurer jusqu’où le management est prêt à aller pour assouvir sa croissance, son autorité et sa toute puissance.

Une entreprise sans morale, avec un moteur : la croissance

C’est un pied dans l’organisation interne de Facebook - mais aussi dans celle de beaucoup d’autres sociétés tech - où les coups de putes et le manque d’authenticité sont légions (et probablement communs). Et ne laissent pas tellement d’ouverture à une possible amélioration du genre humain.

Plus on avance dans Careless People, plus on comprend que le coeur de la machine, ce n’est pas une idéologie ou une stratégie, mais un besoin ininterrompu de croissance, d’influence et de pouvoir, peu en importe le prix. Ce moteur mène Facebook dans tous les domaines où il peut s’imposer : la politique, la diplomatie, la santé, la sécurité.

Je ne sais plus qui disait que la technologie est indissociable des évolutions humaines, de la psychologie et de la politique - Facebook a clairement un rôle dans différentes élections - et le passage sur l’incursion en Chine (650 millions d’utilisateurs potentiels … et Instagram y est déjà implémenté) présente plusieurs drapeaux rouges - avec liens évidents sur les tribunaux de Nuremberg.

Juste parfait 👌 et on réalise que quand ils ne sont pas en train de tirer dans les pattes de leurs subalternes, ils sont totalement corrompus à vouloir engager des ex, des amis, des anciens compagnons, … c’est proprement dégueulasse - et probablement comme cela que fonctionnent beaucoup trop d’entreprises. Et pendant qu’on écrase les subalternes à coups de feedbacks toxiques et de burnouts organisés, les dirigeants se félicitent de rendre le monde meilleur.

Le mythe de l’entreprise “authentique”

The fewer employees, the harder they work. The answer to work is more work.

Facebook souhaite que ses employés “bring their authentic self at work”, mais il s’agit d’une authenticité à géométrie variable : ne parlez pas de vos enfants, ne dites pas si la vérité si les nouvelles ne sont pas bonnes, insistez sur le fait que vous « aidez des millions de gens » alors que votre propre famille voudrait juste que vous assistiez au repas, … 🥘 Ne pensez pas, ne ralentissez pas, et n’allez - SURTOUT ! - pas ennuyer vos supérieurs avec vos suggestions, même si le feedback fait partie des valeurs de la société. N’espérez pas non plus éviter le harcèlement - l’obligation de le subir de vos supérieurs (voire de coucher avec eux) faisant probablement partie des avantages professionnels non discutés en performances review.

probablement que certaines personnes n’ont pas les mêmes centres d’intérêt que d’autres, mais peut-être aussi qu’avoir des enfants pour les filer à une nounou philippine n’est pas la seule option professionnelle possible.

Le comble, c’est aussi que Mark défend bec et ongles le freedom of speech dans les valeurs communiquées en Welcome Pack - tout comme d’autres “C-levels” combattent férocement le harcèlement tout en abusant allègrement de leur propre équipe -, sans craindre de rétorsions.

Cette philosophie s’arrête cependant là où commence l’intérêt stratégique et financier, au point que le gouvernement US menaçait lui-même Facebook d’être trop gentil avec certains gouvernements étrangers… jusqu’à s’assoir allègrement sur les principes mis en place par sa propre équipe juridique, uniquement pour satisfaire une augmentation du nombre d’utilisateurs. A croire que si la croissance est menacée, les valeurs passent à la trappe.

On pourrait presque croire à une stratégie (spoiler : ça l’est).

Un pouvoir politique qui se croit neutre

On réalise que la situation politique dans laquelle Facebook s’est embourbée n’est pas un accident de parcours, mais une conséquence directe de sa culture d’entreprise, et surtout, une conséquence de ses choix stratégiques - totalement raccord avec son fameux “Move fast and break things” - quitte à casser la loi ou des démocraties.

Sa vision est que si Facebook risque d’être bloqué ou si l’un des employés de Facebook est à risque, alors il faut obéir à cette demande.

The point is : Mark pense (probablement très sincèrement - en tout cas, au début) que Facebook ne sera d’aucune aide à ses utilisateurs s’il est bloqué.

My point is : si tu tiens autant à fournir un service qui soit aussi helpful, fais en sorte (technologiquement) de créer une décentralisation qui soit cohérente. Mastodon fait ça très bien (ou, à défaut de le faire très bien (je n’en sais rien)), essaie au moins - contrairement à Threads ou Bluesky de Jack Dorsey - qui, sous couverts d’ouverture et de protection de la vie privée de leurs communautés, restent des solutions centralisées, et qui ne manqueront pas de baser leur business model sur la croissance du nombre d’utilisateurs.

Tu ne peux pas avoir l’œuf et la poule. La neutralité et la complaisance.

En 2015, l’Europe commence à montrer les dents envers les tax shifts de Facebook et ses tentatives d’esquive (tout comme Google et Apple, hein, ne les oublions pas). Vu la colossale fortune sur laquelle la société est assise, le plus simple aurait probablement été d’investir correctement dans les pays dans lesquels ils sont implantés, en restant neutre sur les pouvoirs politiques en place, d’investir sur une rétribution des gouvernements, avec une amélioration continue et une stabilisation des systèmes (technologiques) en place.

Facebook va ensuite connaître de gros retournements : en 2016, il est sous le joug de régulations légales - les gouvernements voient en Facebook une menace systémique pour les telecom, les entreprises locales, le capital et les citoyens - et la proposition du comité de direction sera de faire des « deals », quitte à soutenir l’extrême droite pour faciliter la régulation légale de certains éléments suspects aux yeux des gouvernements en place, obtenir des passes-droits, … En résumé de ce point, Facebook laisse consciemment passer des discours promulgant l’extrême droite, pour s’acoquiner avec eux, en espérant un morceau du cake à partager.

Paye tes choix.

Les autres puissances mondiales semblent en avoir compris les possibilités de Facebook de soutenir - ou compromettre - certains droits électoraux e - de pouvoir « contrôler » les voix de leur électeurs - Zuckerberg et le comité de direction y voient des opportunités d’amasser toujours plus de sous et d’utilisateurs sur la plate-forme - tandis que d’autres (les « perdants »…) y voient un rôle de destruction massive et de nécessiter de régulation (concernant les fake news, la vie privée, la régulation des ciblages publicitaires, …) - quand il ne s’agit pas simplement (pour un régime totalitaire) de contrôler sa population quel que soit le niveau du système.

La diplomatie selon Mark : chaos, naïveté et entêtement

Facebook is an autocracy of one.

Et à dépeindre son CEO comme étant un enfant roi, incapable d’empathie,

Mark est dépeint comme un enfant roi. Un enfant qui ne veut pas avoir de réunions avant midi, un enfant qui fout la merde dans un rendez-vous avec le président de la Colombie - occupé à traiter avec les FARC, hein, c’est pas comme s’il avait juste un plafond à repeindre -, simplement parce que cela ne rentre pas dans ses convictions, et un enfant ingrat et incapable d’empathie. Un enfant qui n’a jamais perdu - parce que son entourage l’a laissé sciemment gagner - et incapable de remise en question.

En 2015, il rencontre la présidente du Panama - arrive à la bourre (What else…), pousse son nouveau programme « internet.org », tout en n’abordant pas l’aspect infrastructure. À nouveau, cela dépeint Mark (et Facebook, plus globalement) comme une toute puissance qui est plus là par chance et par opportunisme, poussée par la croissance, l’argent et la nécessité d’avoir toujours plus, que d’offrir quelque chose qui soit bienveillant.

Évidemment que Facebook aide, mais au prix de voir ses données et sa vie privée écrasées, malaxées et revendues. Sarah Wynn-Williams parle ici de recherche de compromis qui n’ont jamais été abordées, alors que parler de “strategic loss” aurait probablement satisfait beaucoup de personnes. Mais à vouloir tout gagner et engranger le maximum sans jamais aucun compromis, on finit par perdre la guerre.

Tout ceci ressemble finalement à un gros monstre de Frankenstein, que tu as construit, élevé, vu grandir, et que tu ne maîtrises absolument plus. Et jusqu’à ce que Zuckerberg réalise qu’il a construit et financé les outils qui ont été détournés pour réaliser les élections US, et que ces outils, c’est lui qui les possède et qui en définit les règles (Voir le détail page 264). Et qu’il peut les utiliser à titre personnel.

Le cas de la Chine : tout sacrifier

Le cas de la Chine est encore plus ambigu : jusqu’à ce qu’ils arrivent à avoir des contacts avec le CCP (le Parti Communiste Chinois, dans la langue de Batman) et les ambassades, la ligne directrice de Facebook était claire : ne pas fournir de backdoors, y compris les US et malgré la pression de de la NSA.

Mais pour la Chine, c’est différent : les ingénieurs de Facebook ont collaboré avec le CCP, pour déployer des technologies de reconnaissance faciale, de stockage on-premise de donnée chinoises - quitte à croiser ces données avec celles d’autres pays et à les fournir au CCP ou à Honi Capital (la société intermédiaire assurant le déploiement de Facebook en Chine). On est à nouveau sur un problème de croissance et de vie privée : Zuckerberg est tellement obnubilé par la Chine, qu’il faut n’importe quoi pour y avoir ses entrées, quitte à mentir délibérément au Sénat.

L’envie d’entrer en force en Chine passe par des sociétés écrans qui publient des applications Facebook rebadgées soit disant spécialement pour le pays. Sauf qu’autant il est facile de changer un logo, des TOS (Terms of Service) et un éditeur, autant changer l’implémentation du stockage et les règles de modération se situent à un autre niveau de difficulté.

Avant même ce lancement, les revenus provenant de Chine représentaient déjà 5 milliards de dollars. Mais visiblement, ce n’était pas encore assez.

L’échec du minimum éthique

Who watches the watchmen ?

– Alan Moore

Le cas du Myanmar, abordé en fin d’ouvrage, vaut aussi son pesant de cacahuètes.

On parle ici d’un mouvement de haine organisé sur Facebook, orchestré par un moine bouddhiste radical (Ashin Wirathu), ciblant la population musulmane locale. Et ce n’est pas un cas isolé. C’est un échec systémique.

Facebook dispose pourtant d’un principe clair : la modération de contenu doit intervenir dès qu’il y a un risque d’intégrité physique ou de sécurité publique. Mais quand ce risque devient tangible, on se raccroche aux politiques internes, pour se couvrir et se déconnecter de la réalité.

Le seul modérateur birman sous-traité par Facebook (basé à Dublin, donc même pas sur le même fuseau horaire), était au resto. Puis il ne retrouvait plus son laptop. Puis il était injoignable.

Quand ta gestion des P1 dépend d’un sous-traitant unique, c’est que tu as deux problèmes.

Surtout quand tu déploies une plate-forme perçue comme étant LA porte d’entrée sur Internet par des millions de personnes dans le pays (voire, le monde), et que toute ta modération dépend d’une seule personne, dont il se sont rendu compte beaucoup plus tard qu’elle abusait de sa position dominante pour conserver des messages à caractères haineux, tout en supprimant ceux soutenant le régime (nouvellement) en place… Jusqu’au génocide des Rohingya, reconnu par les Nations Unies, qui ont clairement identifié le rôle joué par Facebook : ce n’est pas ce que Facebook a fait pour le Myanmar, mais ce qu’elle n’a pas fait, qui a mené à la situation de 2015.

Par comparaison, il était prévu 400 modérateurs lors de l’ouverture en Amérique Latine et plus de 2000 pour le déploiement en Chine.

Le nombre de pots cassés et de pertes collatérales augmente au fur et à mesure, des élections de 2016, au Myanmar, la Colombie, les élections en Allemagne, Brexit, l’attaque du Capitole du 6 janvier, … tout en laissant de côté des aspects fondamenteux, comme l’infrastructure, le respect des droits de l’Homme, le soutien des gouvernenents en place et le respect de la vie privée.

Pas sûr que les autres GAFAM fassent beaucoup mieux … surtout dans une course à l’IA qui exige de plus en plus de données… Mais Facebook, en prétendant défendre la “connexion”, en se donnant des airs d’authenticité, s’est positionné comme garant d’un progrès universel.

Résultat : elle en est devenue l’un des plus grands fossoyeurs.