Joe Rogan a Tristan Harris o doporučovacích algoritmech

Měli bychom se soustředit na asymetrii moci. Říkám to i ve filmu, bereme své prastaré mozkové vybavení, prefrontální kortex, který se používá pro akci zaměřenou na cíl, sebekontrolu, sílu vůle, zdrženlivost, zkoušku s marshmallow, nedáš si marshmallow teď, počkáš na dvě později. To vše probíhá v prefrontálním kortexu. Když si sedneš s myšlenkou: Teď se podívám na jednu věc Facebooku, protože mě kamarád pozval na událost, ten příspěvek musím vidět.

A najednou se přistihneš, jak už hodinu scrolluješ. Řekneš si: Je to moje chyba, měl bych mít více sebekontroly. Ale za obrazovkou, za tím kouskem skla se na tvůj mozek zaměří superpočítač, který předvídá perfektní věc, kterou ti ukáže jako další. A můžeš to cítit, tohle je důležité. Když táhneš prstem, myslíš si, že jen používáš Facebook, prostě se ti ukáže další věc od kamaráda. Ale to se neděje.

Když táhneš prstem, doslova tím budíš superpočítač, avatara, verzi vúdú panenky Joe. A vúdú panenka Joe je jako… Když na Facebooku stále více klikáš, je to jako přidávat panence další vlasy. A tvé lajky jsou pro panenku jako další oblečení. A více sledovací doby videí je pro panenku jako další boty. Vúdú panenka je stále přesnější, čím více klikáš. Toto je ve filmu Sociální dilema, čím více postava tu věc používá, tím vzniká stále přesnější model, se kterým manipuluje AI za obrazovkou.

Myšlenka je v tom, že AI dokáže předvídat a popíchnout panenku tímhle videem, postem od kamaráda, něčím dalším. A najde tu správnou věc, o které ví, že tě tam udrží. Protože už ví, že to samé video, stejný post zvládl udržet dalších 200 milionů vúdú panenek. Jsi stejný jako další panenky. Zde je příklad, na všech platformách je to stejné. Kdybys byl náctiletá dívka a otevřel bys video o dietách na YouTube, 70 % sledovací doby YouTube vychází z doporučení vpravo dole.

Ta věc, která ukazuje další doporučená videa. A co se ukáže náctiletým dívkám, které sledují videa o dietách? Ukazují se videa o anorexii, protože ta lépe udrží pozornost náctiletých dívek. Ne protože jsou pro ně dobrá, protože jim pomůžou. Ony prostě často fungují v udržení pozornosti. Fungují, když už sleduješ videa o dietách? Jo, jsi třináctiletá holka, sleduješ video o dietách, YouTube vzbudí vúdú verzi této dívky a řekne: Mám tu dalších 100 milionů vúdú panenek třináctiletých dívek a všechny tíhnou ke sledování těchto dalších videí.

Vím, že se pro to používá slovo thinspirace. - Cože? - Inspirace k anorexii. Jo, opravdu. YouTube se na tento problém před lety zaměřil, ale když stroj pracuje naslepo, pak jen vybírá věci, které jsou poutavé. Proč zvolili, že nenechají stroj pracovat naslepo s jednou věcí, třeba anorexií?

Teď posouváme konverzaci k cenzurování Twitteru a moderování. Já se na cenzuru a moderování nesoustředím, protože skutečný problém musíš vidět z větší dálky a ptát se, jak funguje celý stroj. Bez ohledu na to, čím začnu, co se mi doporučí jako další? Pokud začneš u videa o druhé světové válce, YouTube doporučí několik videí o popírání holokaustu. Když začneš jako náctiletá dívka u diet, doporučí se videa o anorexii.

V případě Facebooku… Je zde hrozně moc různých příkladů. Facebook ti doporučuje skupiny, které pro tebe považuje za nejpoutavější. Kdybys byl čerstvá maminka, měl jsi tu mou kamarádku Renée DiRestu, pracovali jsme spolu a ona je skvělý příklad, jako čerstvá maminka se přidala do skupiny pro matky, které si samy vyrábí bio jídlo pro děti. A Facebook má postranní lištu s nápisem: Další skupiny, které by vás mohly zajímat.

Co myslíš, že bylo nejpoutavější? Opakuji, že Facebook vybírá, do jaké skupiny bys mohl vstoupit, abys tam trávil co nejvíce času. U skupiny s domácí výrobou jídla bys odhadoval jaké další skupiny? - Nejspíš něco o očkování? - Přesně, anti-vakcíny pro maminky. Když se do té skupiny přidáš, znovu se rozběhne celý proces. Podívej se na Facebook. Ten si říká: Mám 100 milionů vúdú panenek a všechny se přidávají do skupiny „Mamky proti vakcínám“.

Co je dokáže zaujmout na delší dobu, když jim navrhuji jiné skupiny? Jaké skupiny se mohou objevit? Chemtrails, Pizzagate… - Plochá země? - Plochá země, rozhodně. Střídavě skáču mezi YouTube a Facebookem, mají stejnou dynamiku, soutěží o pozornost. YouTube doporučil konspirace o ploché zemi stomilionkrát. Když jsi rodič během covidu a posadíš své děti k YouTube, jako by to byl digitální dudlík, protože musíš pracovat, pak se vrátíš a u večeře ti dítě řekne: Holokaust se nestal a země je placatá.

Lidé se ptají proč a důvodem je toto. A co se týče tvé pointy s jakýmsi moderováním. Můžeme vzít palici, když veřejnost křičí, já a Renée uděláme poprask a podobně. Takový rámus vytváří velká komunita. A oni řeknou: Jasně, máte pravdu, plochou zemi musíme vyřešit.

A doladí algoritmus. Pak lidé udělají poprask kolem těch inspiračních videí pro dětskou anorexii. A oni vyřeší problém. Tím ale začnou konat na základě reakcí. Ale když se podíváš z nadhledu, stále jde o doporučování z tak trochu šílené části YouTube… Jsou problémem doporučení? Protože mně nevadí, že lidé mají směšné představy o duté zemi.

Přijde mi to zábavné. Ale také jsem třiapadesátiletý chlap. Nejsem dvanáctiletý kluk s omezeným vzděláním, který si řekne: Bože můj, vláda nám lže, jsou tu ještěří lidé, kteří žijí v zemi. To je argument o konspiracích, mohou ovlivnit mladé lidi, snadno ovlivnitelné nebo lidi, kteří nemají sofistikovaný smysl k filtrování blbostí. Správně, algoritmy nedělají rozdíl mezi lidmi, kteří se tomu jen smějí, a mezi snadno zranitelnými.

Obecně ti jen řeknou, kdo je zranitelný. Další příklad, o kterém přemýšlím. Když jezdíš po dálnici, Facebook a Google vymýšlí, co ti pošlou, aby tím udržely tvou pozornost. Když se díváš na autonehody, které sleduje každý, podle Facebooku a Googlu chce celý svět sledovat bouračky, prostě je krmí, bouračky, bouračky, bouračky. Algoritmy dělají to, co ve filmu popisuje Guillaume Chaslot, který vynesl informace o doporučovacím systému YouTube.

Ony hledají tvou perfektní cestičku, která tě udrží na 5 hodin. A konspirační teorie, temná zákoutí YouTube, jsou právě ta temná zákoutí, která udrží lidi na 5 hodin. Musíš si uvědomit, že už jsme asi 10 let v tomto rozsáhlém psychologickém pokusu. V každém jazyku, ve stovkách zemí. Jde o stovky jazyků. Toto strhávalo lidi k šílenostem.

Když říkám šílenosti, představ si spektrum na YouTube. Na jedné straně máš klidné věci, Walter Cronkite, Carl Sagan. Pomalé a trochu nudné, ale vzdělávací materiály. A na druhé straně spektra máš to nejšílenější, co můžeš najít. Šílenosti. Je jedno, kde začneš. Můžeš začít s Cronkitem, nebo u šíleností. Ale když budu jako YouTube chtít, abys sledoval více, budu tě strhávat spíše ke klidným věcem, nebo k šílenostem?

- K šílenostem. - Vždy k šílenostem. Představ si, že vychýlíš lidstvo z roviny, třeba jen o 3 stupně. Pak odstoupíš a necháš společnost pokračovat v kurzu. Jaron Lanier to řekl ve filmu. Když vychýlíš společnost o 1 či 2 stupně, je to celý svět. To, co si všichni myslí, čemu věří. Když se podíváš na úroveň toho, jak moc jsou dnes lidé ponoření do konspiračních teorií, a beru na vědomí COINTELPRO, operaci Mockingbird…

Spousta těch věcí je skutečných, neodmítám je kategoricky. Ale ptejme se, jaký je základ věcí, kterým věříme o světě? Stále větší základ je v technologii. Můžeme se dostat k tomu, co se děje v Portlandu. O něm vím jen to, čím mě krmí má sociální média, podle kterých je celé město v plamenech, válečná zóna. Ale pak zavolám tamnímu kamarádovi, který řekne: Je tu krásný den, nikde poblíž se neděje žádné násilí, jde jen o nějaké dva bloky.

A o to jde, křiví se tím náš pohled na realitu. A myslím, že to, čeho se snažil dosáhnout film Sociální dilema a jeho režisér Jeff Orlowski, je otázka, jak se mohla tato společnost zbláznit na všech místech zároveň. Toto se nestalo náhodou, šlo o záměr obchodního modelu. Kdy se ten obchodní model zavedl? Kdy začali používat doporučovací algoritmy?

YouTube byl zpočátku jen série videí, neměl sekci s doporučeními. Kdy to bylo? To je dobrá otázka… Původní YouTube sloužil jen k postování videí, lidé mohli prostě jít na URL a posílat ji dál. Oni museli vyřešit… Když se soupeření o pozornost zintenzivnilo, museli vyřešit, jak si tě udrží.

Pokud si dobře pamatuji, doporučená videa vpravo se objevila dost brzy. Šlo o určitou inovaci, která měla udržet lidi u YouTube. Jakmile lidé na YouTube neustále sledují videa, YouTube může slíbit novým lidem, kteří budou nahrávat videa: Když to nahraješ k nám, získáš více zhlédnutí než na Vimeo. O to jde. Zrovna teď mám v mobilu TikTok. Ty máš v mobilu TikTok? Samozřejmě bych neměl, je to spíš pro účely výzkumu.

Aha, výzkum. - Umíš s ním vůbec zacházet? - Ne. - Dvanáctiletá dcera je tím posedlá. - Vážně? Jo, nevydrží chvíli sedět. Když 5 minut nic nedělá, začne s tím… Začne s TikTokem. Rok 2012. Takže Mayové měli pravdu. V roce 2012 oznámila platforma vylepšení objevem systému navrženého k rozpoznání videí, která chtějí lidé sledovat.

Upřednostněním videí, která udrží pozornost, a navyšováním času, který uživatel stráví na platformě, YouTube zajistí inzerentům poskytování hodnotného a kvalitního zážitku. Takže toto byl začátek konce. Jo, na časové ose YouTube šlo o rok 2012… Svět Twitteru a Facebooku představil tlačítka pro retweet a sdílení v období mezi rokem 2009 až 2010. Nakonec se ocitneš ve světě, kde věnujeme nejvíce pozornosti věcem, které pro nás vybírá algoritmus.

Ve filmu je hlubší argument, který možná nepochopili všichni. Tyto technologické systémy převzaly kontrolu nad lidskou volbou. Přebírají kontrolu nad lidstvem, protože kontrolují, jaké máme informace. Přemýšlej o volbách. Myslím, že Facebook je tak trochu volební stroj. Nepřímý volební stroj, jelikož kontroluje informace, které dostává celá společnost během 4 let.

Pak podle těchto informací všichni volí. Můžeš říct, že rádio a televize politicky stranily už dříve. Ale rádio a televize často získávají své novinky z Twitteru. A Twitter doporučuje věci na základě těchto algoritmů. Když kontroluješ informace, které dostává celá populace, ovládáš jejich volbu. Jako armáda. Mám-li rozhodit tvou armádu, chci kontrolovat její informace. Chci zmást nepřítele.

A informační trychtýř je přesně tou věcí, která byla narušena. Pro naše myšlení je to přehrada Flint. Překlad: L1ght www.videacesky.cz