'Als je niet betaalt voor het product, ben jij het product', zegt Tristan Harris, voormalig medewerker van Google in de nieuwe Netflix-documentaire The Social Dilemma. Het is een uitspraak die we al eerder hoorden. Facebook, Instagram, TikTok, zelfs Google - al die zogenaamd geweldige diensten die ons vermaken, ons helpen te connecten met anderen, dingen voor ons opzoeken - natuurlijk doen ze dat voor niets. Ze verdienen miljarden aan ons! Algemeen bekend.
Toch is het schokkend om verschillende oud-medewerkers van al die diensten - denk: de mensen die de algoritmes schreven en de ontwerpers die de like-knop bedachten - in The Social Dilemma uiteen te zien zetten hoe dit dan precies werkt. En hoe ver het gaat. Vooral omdat het zo vreselijk confronterend is.
'Alles wordt nauwkeurig bijgehouden', zegt Jeff Seibert, oud-manager bij Twitter. 'Naar welke afbeelding je kijkt, hoe lang je er naar kijkt. Ja, serieus: hoe lang je er naar kijkt.' Facebook, Gmail, Twitter, al deze diensten weten alles, zegt hij. 'Of je eenzaam bent, of depressief. Ze weten wanneer je naar foto's van je ex kijkt. Ze weten wat je laat op de avond doet.' En alsof dat nog niet eng genoeg is, wordt al deze informatie tegen je gebruikt.
De andere kant van het scherm
Dit laatste gaat veel verder dan de meeste mensen denken. 'Veel mensen denken dat het onze data is die verkocht wordt', zegt Aza Raskin die voorheen bij Firefox en Mozilla Lab werkte. 'Het is niet interessant voor Facebook om onze data te verkopen.' In plaats daarvan, zegt hij, moet je je voorstellen dat er aan de andere kant van je telefoonscherm een soort Avatar-achtig model van jou bestaat. Dit model is een optelsom van alles wat je ooit hebt bekeken, welke likes je kreeg en gaf, wat je opzocht. Dit wordt de hele tijd gefinetuned om steeds beter te voorspellen wat jij voorgeschoteld moet krijgen om je zo lang mogelijk te laten scrollen. Want hoe langer je scrolt, hoe meer je bekijkt en hoe meer je waard bent voor adverteerders. Het gebruiken van jouw data gaat dus veel verder dan Google die jouw zoekopdracht naar witte sneakers doorgeeft aan bedrijven die witte sneakers verkopen, zodat je plots overal advertenties van witte sneakers ziet. Je data wordt gebruikt om je verslaafd te maken aan je telefoons. Want scrollend lever je geld op.
De documentaire legt dit laatste uit aan de hand van een ietwat creepy segment waarin het algoritme wordt gespeeld door Mad Men-acteur Vincent Kartheiser. Hij staat in drievoud achter een bedieningspaneel en reguleert met zijn knoppen wat een tienerjongen tijdens het scrollen van zijn feed tegenkomt. Een epic-fail skateboardfilmpje, gevolgd door een sneaker-reclame en de foto's van dat meisje wiens updates hij altijd liket. De jongen scrollt en scrollt. Als de jongen even niet op z'n telefoon zit, stuurt het panel snel een melding om hem weer online te krijgen. 'Je ex heeft een nieuwe relatie.' 'Je bent getagd in een foto.'
Het hele segment, inclusief het controlepaneel, moet haast wel geïnspireerd zijn door de animatiefilm Inside Out. Alleen in plaats van mooie herinneringen bewaren of waarschuwen voor iets waarover we kunnen struikelen, is het enige doel van de mannen achter de knoppen om het mens op het scherm te houden. Zo lang mogelijk.
Gokkasten in Vegas
En dat doen ze met behulp van psychologie. Onze feed, iedere melding, is precies zo ontwikkeld dat we iedere keer shotjes dopamine krijgen (Een like! Een foto van die leuke jongen! Schoenen!) en dus door willen blijven gaan. Iedere keer als we onze feed verversen, krijgen we iets nieuws te zien. Dus blijven we verversen. Wanneer iemand ons tagt op Facebook, krijgen we er direct een mailtje van. En hoewel het veel gebruikersvriendelijker was geweest om de foto in de mail te delen, moeten we doorklikken naar Facebook - waar we waarschijnlijk weer even blijven hangen omdat andere dingen onze aandacht trekken. Harris vergelijkt onze telefoons met de gokkasten in Las Vegas. 'Iedere keer als je 'm ziet liggen, weet je dat-ie misschien iets voor je heeft. Dus speel je die gokkast.'
Het systeem werkt zo goed, dat zelfs de voormalig baas van Pinterest Tim Kendall toegeeft dat hij een paar jaar geleden na zijn werk niet met zijn jonge kinderen speelde, maar in de voorraadkast zijn mails checkte en op Pinterest surfte. Dat terwijl hij precies wist hoe de worst gemaakt werd.
Onmogelijke schoonheidsidealen en nepnieuws
Dat we dankzij deze verslaving uren kwijt zijn aan het kijken naar een schermpje, zonder dat we er echt iets voor terugkrijgen, is niet het enige en zelfs niet het grootste gevaar van social media, zegt The Social Dilemma in de tweede helft van de documentaire. Social media heeft onder tienermeisjes gezorgd voor een enorme toename in depressies, zelfbeschadigingen, eetstoornissen en zelfmoorden. Het 'ideale', totaal bewerkte beeld dat we de hele dag door van onszelf op social media delen, zorgt voor een verwrongen zelfbeeld. Voor onmogelijke schoonheidsidealen. En dus voor heel veel onzekerheid onder meisjes (en jongens, waarschijnlijk) die toch al in een onzekere, gekke levensfase zitten. Al gok ik dat niet alleen tieners hier last van hebben.
Daarnaast is social media een ongekende katalysator voor nepnieuws en samenzweringstheorieën. 'Fake news op social media verspreidt zes keer sneller dan echt nieuws', zegt Harris. Niet per ongeluk, maar expres. Omdat het systeem zo ontwikkeld is. Want nepnieuws levert bedrijven meer geld op: 'De waarheid is saai.' Vandaar dat een verhaal over een pedofielennetwerk dat vanuit de kelder van een pizzeria gerund zou worden (Pizzagate), veel meer mensen kon bereiken, dan de berichten waarin dit verhaal compleet gedebunked werd. Dit omdat bijvoorbeeld Facebook 'Pizzagate' ongevraagd voorschotelde aan iedereen voor die ooit had gezocht op anti-vaccinaties of chemtrails, en dus vatbaar voor samenzweringstheorieën leek. Wat er uiteindelijk toe leidde dat een gewapende man de pizzeria bestormde om 'de kinderen te bevrijden'.
Kloof tussen bevolkingsgroepen
Waar social media ooit werd ontwikkeld om mensen met elkaar in contact te brengen, creëert het alsmaar doorontwikkelde algoritme van nu juist social media-bubbels. Hierdoor is de kloof tussen hele bevolkingsgroepen wereldwijd groter dan ooit geworden. Kijk alleen maar naar de Republikeinen en Democraten in Amerika. Of naar de corona-ontkenners en normale mensen in Nederland. Omdat deze groepen in hun bubbels alleen maar keer op keer hun eigen ideeën en opvattingen bevestigd zien, snappen ze werkelijk niet hoe de andere groep kan denken wat ze denken. Dat dit onbegrip, zeker de afgelopen maanden, steeds vaker tot geweld lijkt te leiden, is beangstigend. Voormalig Pinterest-man Kendall zegt oprecht te vrezen voor een burgeroorlog als er niet snel iets verandert.
The Social Dilemma is al met al huiveringwekkend. En een niet mis te verstane waarschuwing van de mensen die hielpen social media zo invloedrijk te maken en nu oprecht vrezen voor de toekomst. 'Wij hebben deze dingen gemaakt en we hebben een verantwoordelijkheid om ze te veranderen', zegt Harris. Op de vraag of de bedrijven hun uiterst lucratieve verdienmodel ooit zullen aanpassen om het geheel menselijker te maken, zegt hij simpel: ze zullen wel moeten.
De documentaire zal waarschijnlijk geen gedachten veranderen onder de CEO's in Silicon Valley. De Mark Zuckerbergs van de wereld weten al lang wat hun product doet en waarom. Maar hopelijk draagt de docu wel bij aan het collectieve bewustzijn over wat social media met ons, de gebruikers, doet. Hoe afhankelijk het ons maakt. Hoe verdeeld we er door raken. Misschien komen er dan genoeg mensen in opstand om verandering af te dwingen. Persoonlijk kan ik sinds ik de documentaire zag mijn telefoon in ieder geval niet meer openen zonder de realisatie dat ik word gebruikt. En ik moet zeggen; het maakt het scrollen toch een stuk minder leuk. Toch raad ik je aan om The Social Dilemma vanavond nog te kijken, en al je vrienden te dwingen het ook te doen. Alleen misschien niet via Twitter.
