The Social Dilemma: Ce doc Netflix essaie d’expliquer tout ce qui ne va pas avec les médias sociaux en ce moment. Inspiré par les négationnistes du changement climatique et un film Pixar, «The Social Dilemma» explore comment les plateformes sociales influencent le comportement humain.
Pour ses deux derniers documentaires, le cinéaste Jeff Orlowski s’est concentré sur l’impact environnemental de la fonte des glaciers et de la disparition des récifs coralliens. Dans le processus de promotion des films, il a commencé à remarquer un schéma inquiétant et familier.
«Nous avons continué à trouver de plus en plus de personnes sceptiques face au changement climatique», dit Orlowski. «Comment se fait-il qu’ils soient dans un tel déni avec tous les faits et toutes les preuves? Nous rencontrions des gens dans des festivals de cinéma, sur la route, lors de questions-réponses, d’innombrables personnes qui venaient de remettre en question la science du climat.
Orlowski a retracé la source jusqu’aux chambres d’écho des plateformes de médias sociaux et aux écarts dans les recherches sur le Web, qui peuvent faire apparaître des informations différentes pour différentes personnes.
«Tous ces systèmes technologiques renforcent des croyances différentes pour les gens indépendamment de la vérité», dit Orlowski. «Nous avons réalisé que c’était une histoire énorme. Cela change la façon dont toute notre civilisation obtient ses informations et pense à la vérité et aux faits.
C’est ainsi qu’a commencé le voyage pour créer The Social Dilemma , une plongée profonde dans les algorithmes et les modèles commerciaux des principales entreprises technologiques qui façonnent le comportement humain et influencent la politique. Le documentaire est maintenant disponible sur Netflix.
Grâce au témoignage d’initiés de la technologie, dont Tim Kendall, l’ancien directeur de la monétisation chez Facebook; Jeff Seibert, ancien responsable des produits de consommation chez Twitter; Justin Rosenstein, co-inventeur des pages Facebook et du bouton «J’aime»; et Tristan Harris, ancien éthicien du design chez Google, The Social Dilemma dévoile habilement bon nombre des préoccupations qui ont animé la conversation autour de ces entreprises au cours des dernières années, avec une analyse particulièrement approfondie de l’utilisateur des médias sociaux en tant que produit vendu à annonceurs.
Ce qui émerge est une trajectoire similaire à ce qu’Orlowski a vu avec le changement climatique: le capitalisme à courte vue remplaçant les dommages à long terme à la société.
«Personne ne pensait au tout début, lorsqu’ils ont commencé à brûler des combustibles fossiles, que cela conduirait à une catastrophe mondiale. Nous sommes maintenant aux prises avec les conséquences du changement climatique, et il faut beaucoup de temps pour s’en éloigner », dit Orlowski. «Je compare cela à l’industrie de la technologie, où nous avons découvert ce modèle commercial de publicité ciblée et individualisée qui semblait extrêmement rentable au départ. Et nous apprenons maintenant les conséquences de ces flux individuels à domicile. »
«Tout le monde est sur son propre îlot de pensée maintenant, et vous voyez que les algorithmes personnalisent une vision du monde pour chacun d’entre nous», poursuit Orlowski. «Et il devient de plus en plus difficile pour nous de dialoguer avec des gens qui ont une vision du monde différente. Ma vérité est différente de votre vérité – c’est ce que nous voyons dans notre société en général maintenant. Et je ne pense pas que ce soit le cas.
Pour aider à illustrer sa thèse, Orlowski a tourné une sorte de court métrage narratif qui se déroule tout au long du document, mettant en vedette une famille moyenne qui est la proie des dangers des médias sociaux. Le personnage principal de cet arc est Ben (Skyler Gisondo), le fils adolescent qui non seulement est aspiré dans les algorithmes intentionnellement conçus pour une dépendance maximale, mais qui se radicalise également par le terrier de la rhétorique qui divise, il commence à s’effondrer. À cela, Orlowski a ajouté un personnage supplémentaire qui personnifie l’IA derrière ces plateformes sociales. Comme un événement croisé entre Black Mirror et Inside Out de Pixar , nous voyons comment l’IA (Vincent Kartheiser) manipule les actions quotidiennes de Ben, de ce qu’il achète à avec qui il interagit.
«Nous ne voulions pas que ce soit un film qui ne parlait que de têtes – c’était une barre très basse pour nous en tant qu’équipe créative. Nous voulions donc l’élever », dit Orlowski. «Alors que nous apprenions tout cela et que nous avons vraiment commencé à comprendre le fonctionnement de l’apprentissage automatique, j’ai commencé à comprendre ce qui se passe de l’autre côté de votre écran d’une manière différente.»
Orlowski dit que Inside Out est devenu un point de référence vers lequel ils revenaient sans cesse. Il a également été inspiré par sa propre décision de quitter les médias sociaux lors de la rédaction de ce document – et par la façon dont les médias sociaux ne le quitteraient pas de manière agressive.
«Il y a une chose appelée ‘résurrections’ où les plates-formes essaient de vous ramener», dit Orlowski. «Je n’arrêtais pas de sentir qu’il y avait cette force de l’autre côté de l’écran à laquelle personne ne pense, et personne ne comprend vraiment comment cela fonctionne. C’est pourtant ce qui motive toutes ces actions individuelles. C’est ce que nous voulions donner vie. »
«J’avais l’impression d’être un pion dans le système», poursuit Orlowski. «Il y a un dicton dans le film, si vous ne payez pas pour le produit, vous êtes le produit. Et j’avais juste l’impression d’être manipulé et vendu. Je me sentais dégoûtant. Je ne veux pas être un rouage dans une machine qui transforme ces milliards de dollars de valeur pour les entreprises. »
Malgré le ton inquiétant du dilemme social et la décision personnelle d’Orlowski de quitter les médias sociaux, il insiste sur le fait que ce document n’est pas antitech. Il s’agit plutôt d’une mise en accusation des modèles commerciaux qui animent ces plates-formes et d’un appel à plus de réglementation.
«Tout comme avec le changement climatique, nous ne pouvons pas rejeter entièrement le blâme et le fardeau sur le public. Le public ne résoudra pas le changement climatique en changeant ses ampoules. C’est une étape, mais ce n’est pas la solution », dit Orlowski. «Dans le même ordre d’idées, je ne pense pas que le fardeau devrait incomber aux parents de réglementer l’utilisation de leur téléphone par leurs enfants. Je pense que les parents peuvent jouer un rôle énorme dans la protection de leur propre famille à la fois contre les méfaits pour la santé mentale et contre les méfaits de la désinformation politique. Mais il y a un problème plus important que nous devons résoudre.