Experimenty Facebooku jsou jen špičkou ledovce

Facebook v lednu 2012 experimentoval na téměř 700 tisících uživatelích. Cílem bylo zjistit, jak se mění nálada lidí, pokud se jim zobrazují pozitivní, nebo naopak negativní příspěvky přátel. Jde zřejmě jen o špičku ledovce v manipulaci s uživateli.

Největší sociální síť na světě, Facebook, musí řešit pikantní problém, který může narušit důvěru uživatelů v to, jakým způsobem tato platforma funguje. Timeline každého uživatele nezobrazuje standardně všechny příspěvky, ale pouze ty, které speciální algoritmus vyhodnotí jako zajímavé – může jít o stránky s velkým množstvím interakce, příspěvky, které mohou být z řady důvodů přitažlivé nebo se v nich například mluví o uživateli.

Přesný mechanismus výpočtu není znám. Ve své podstatě do velké míry odlišuje zajímavou a dynamicky něco řešící síť s vysokou viralitou od města duchů. Není totiž v silách člověka přečíst všechny příspěvky, a pokud sleduje desítky stránek a skupin, tak ani je. Vhodně nastavený algoritmus je cestou, jak médium jakým je sociální síť udržet při životě. Pokud máme koncept podobný Facebooku nemáme jinou než selekční možnost výběru.

Kauza s emocionální manipulací

A právě zde je zakopaný pes. Facebook v lednu 2012 provedl experiment na asi 700 tisících uživatelích. Jedné skupině prioritně zobrazoval pozitivní příspěvky, a druhé negativní. Činil tak na základě poměrně jednoduchého zpracování textových řetězců v angličtině. Samotný mechanismus byl natolik primitivní, že zřejmě neposkytl nějak zásadně jednoznačné výsledky a dovolím si tvrdit, že s dnešními technologiemi, ať již GraphSearch nebo i zpracování přirozeného jazyka, by výsledky byly mnohem přesvědčivější a zajímavější.

Původní hypotéza, že uživatel obklopený pozitivními příspěvky bude frustrovaný a bude publikovat sám negativní posty, se nijak neprokázala, naopak se zdá, že při obklopení se dobrými zprávami, se také zlepšuje nálada. To, co vzbudilo velký mediální ohlas, je samotná manipulace s algoritmem pro zveřejňování výsledků s cílem měnit náladu a chování uživatelů. Sám fakt je jistě problematický, ale je třeba jej vidět v širším kontextu.

Kontext

Předně je nutné říci, že i když je algoritmus nastavený jako objektivní – a zde je obtížné říci, co to vlastně znamená – není velký problém náladu osob měnit. Stačí k tomu použít dostatečně velké množství softwarově řízených agentů. Výzkum, který před časem provedla univerzita ve Vancouveru ukazují, že za 40 dolarů (tolik stojí problematická aplikace), lze získat nejen obrovská osobní data od tisíců uživatelů, ale také jim sdílet v podstatě libovolný obsah s mnohem větším manipulačním potenciálem.

Podobně lze ke změně nálad užívat velké stránky, které mají uživatelé mezi oblíbenými – a jejich interakci a provoz také není těžké nakoupit. To znamená, že ten kdo se do manipulace s uživateli bude chtít pustit, potřebuje jen, co možná nejdéle dopředu, budovat síť stránek a falešných profilů. Výsledek bude přitom téměř jistě lepší, než při libovolném nastavení selekčního algoritmu.

Ten nemůže být úplně nevyvážený, neboť by síť ztrácela na zajímavosti a důvěryhodnosti, zatímco výše uvedeným způsobem vše působí velice přirozeně a autenticky. Samostatnou kapitolou by pak byly hry na Facebooku, které jsou z řady důvodů ještě silnějším manipulačním nástrojem.

Jestliže velké politické revoluce Arabského jara neměly žádnou výraznou osobnost, ale pouze náladu na sociálních sítích, jakousi anonymní masu, je zcela přirozené se ptát, zda Facebook na jedné straně nemění náladu v těchto zemích (například na politickou objednávku USA), nebo zda je prostě nekonstruuje dlouhodobá činnost CIA či jiné bezpečnostní organisace. To že se jak tajné, tak veřejné služby o sociální sítě zajímají a dlouhodobě je analyzují, je přitom známá věc.

Problém se aktuálně týká pouze Facebooku, ale lze očekávat, že se podobné manipulace budou objevovat i na jiných platformách, kde budou mít smysl a dostatečný zásah. Je také nutné zdůraznit, že zdaleka nešlo o první nebo největší výzkum na této sociální sítě, který by souvisel s náladou či chováním uživatelů. Jde naopak o téma velice vděčné a hojně zkoumané, snad jen bez systémové manipulace.

V USA se přitom objevila řada úvah nad tím, co daný experiment znamená a jaké má důsledky. První je zjištění, že sociální sítě mohou manipulovat veřejné mínění a například v prezidentských volbách, které jsou často velice těsné, může i drobná změna nálady hrát rozhodující roli. Druhý hlas nabádá k zavedení legislativních opatření na ochranu uživatelů, ale z důvodů výše uvedených je zcela bezzubí a zřejmě obtížně vymahatelný. Jedinou možností je si na vliv sociálních sítí zvyknout a věnovat se této problematice také v mediálních a dalších výchovách.

Závěr

Celá kauza je zřejmě nejlepší možnou reklamou na zajímavou oblast informatiky, která vedle umělé inteligence vypadá trochu jako popelka, ale její význam může být obdobný – počítačové zpracování emocí. Jde o oblast, která může mít velký pozitivní vliv na učení, bezpečnost řízení automobilů nebo na komunikaci a strojový překlad přirozeného jazyka. Pochopení lidských emocí a schopnost je na počítači simulovat je mimořádně zajímavé. Pokud dojde k velkému zlepšení, lze čekat, že podobné manipulace nebudou jen „střelbou určitým směrem“, ale skutečně přesně cílenou aktivitou s mimořádně silným zásahem.

A zároveň ukazuje na zranitelnost současné společnosti, která si vlastnosti a vliv nových médií a sociálních sítí uvědomuje jen velice málo. Vědecké články se do běžného vzdělávání nebo žurnalistiky dostávají poskrovnu a to, že může někdo realizovat podobnou aktivitu, je celospolečenským překvapením. Poučený uživatel totiž tuší, že jde jen o velice malý zlomek skutečného dění. Jediné, co může překvapit, je jakým způsobem a s jakými výsledky to celé bude probíhat. Facebook (ale nejen on) je spíše velkou laboratoří, než objektivním ničím nedeformovaným světem.

16. 7. 2014

Autor: