Радикализация чрез алгоритми на Youtube Самоексперимент

Видео платформата е критикувана за популяризиране на радикално и политически екстремно съдържание. Това се дължи на алгоритмите, които ни препоръчват все по-откровени видеоклипове. Но това наистина е вярно?

Видеоклипове без край: В Youtube е лесно за потребителя да консумира съдържание в продължение на часове, не на последно място поради алгоритмите.

Как да изпека най-добрата шоколадова торта? Кои са най-популярните атракции в Швейцария? Какво каза Доналд Тръмп в последната си реч? Всеки, който търси тема онлайн, е много вероятно да качи в YouTube. Видео платформата е втората по големина търсачка в света след Google. За повечето от двата милиарда активни потребители YouTube е едновременно забавление и източник на знания.

Видеоклипове без край: В Youtube е лесно за потребителя да консумира съдържание в продължение на часове, не на последно място поради алгоритмите.

Забавното съдържание, обяснителните видеоклипове („видеоклипове с инструкции“) и преди всичко музикалните клипове са особено популярни. 500 минути видео материали се качват в YouTube всяка минута. Видео порталът счупи магически белег преди три години. Оттогава на платформата всеки ден са гледани над милиард часа видеоклипове - повече, отколкото в Netflix и Facebook взети заедно.

„Youtube е един от най-мощните инструменти за радикализация на 21 век.“

Но колкото и полезен и забавен да е YouTube в много отношения, дълбините на видео платформата са толкова тъмни, в които всякакъв вид екстремно съдържание се наслаждава. Поради това експертите обвиняват YouTube, че е машина за радикализация. Според критиците това се дължи на алгоритмите, които биха допринесли значително за препоръчване на все по-радикални видеоклипове на потребителите.

По-конкретно, става дума за прославящо насилието, политически радикално, расистко и конспирологично съдържание, което е включено в препоръките за потребителите. Youtube вече е критикуван за видно показване на видеоклипове, които специално разпространяват дезинформация, например след смъртоносната стрелба в Лас Вегас. След клането през октомври 2017 г. се появиха видеозаписи, в които се твърди, че са изложили стрелбата като „измама“.

Как работи алгоритъмът?

Терминът алгоритъм често се свързва с персонализирането на съдържанието. Алгоритъмът регистрира, че сте виждали съдържание по определена тема или дума за търсене. В допълнение към всеки видеоклип, Youtube препоръчва други видеоклипове в дясната колона, които могат да се възпроизвеждат чрез автоматично пускане. Как точно е съставен алгоритъмът, до голяма степен се пази от Google. Това затруднява изследователите да получават набори от данни и да анализират системата. Като цяло историята на потребителите, контекстът и ангажираността (коментари, харесвания) на видеоклип играят важна роля в препоръките. Според Youtube алгоритъмът непрекъснато се усъвършенства. През 2016 г. служители на Google дадоха представа за системата в този документ.

Преди две години техно-социологът Зейнеп Туфекчи изрази остра критика към YouTube. В коментара си за „Youtube, Великият радикализатор“, тя описва как бързо й е препоръчано съдържание за идеологията на върховенството на белите, отричането на Холокоста и речта на омразата, докато търси видеоклипове за Доналд Тръмп. В левия спектър тя попада главно на конспиративни видеоклипове, включително 11 септември. Дори по неполитически въпроси, предложените й видеоклипове стават все по-екстремни. „Youtube е един от най-мощните инструменти за радикализация на 21-ви век“, заявява Туфекчи в своя анализ, използвайки отделни примери.

Експертът предупреждава за опасностите от изкуствения интелект. Големите технологични компании използваха алгоритми, за да „пленят“ потребителите възможно най-дълго и по този начин да генерират повече приходи от реклама. Този бизнес модел е фатален, смята Туфекчи. "Facebook и Youtube замърсяват публичната сфера и възлагат разходите на обществото", критикува тя в интервю и призова за повече държавни разпоредби за големите платформи.

Искам да направя самопроверка: Ще ми се покаже ли радикално съдържание, ако не го търся? Създавам нов акаунт в Google. Това означава, че Youtube няма готови заявки за търсене от мен и започвам от нулата. Търся „Corona ваксина“ и кликвам през препоръките. Отсега нататък алгоритъмът ще бъде "захранван".

Първите видеоклипове са безвредни, виждам добре продуцирани видеоклипове от популярни медии, които считам за надеждни. Но забелязвам видео в дясната колона. Той е озаглавен „9 стъпки за законно освобождаване от задължителна ваксинация“ и е бил извикан над 100 000 пъти. Преглеждам видеоклипа, записан от жена в нейния офис или хол. Не мога да слушам дълго, качеството на видеото не е особено добро.

Намирам коментарите под видеото да разкриват: Corona е измама, се казва. Правата на човека ще бъдат премахнати по време на пандемията. Говори се за „лъжи на предателите“. Предлага ми се друго видео „Ваксинациите не предпазват от болести“. Видеото е гледано повече от 75 000 пъти. В един коментар се казва, че ваксинациите са налице само за „разболяване на фармацевтичната мафия и популация на населението“.

Неотдавна публикувано проучване, публикувано в научното списание "Nature", стигна до заключението, че противниците на ваксинацията онлайн са в малцинство, но са много добре свързани помежду си и по този начин привличат много внимание. В настоящата пандемия интересът към ваксинацията се е увеличил. Това също играе в ръцете на тези, които се противопоставят на ваксинацията. „В същото време те също се продават добре: Правят видеоклипове с лични истории, примесени с научни цитати. Тези видеоклипове са много добре направени “, казва един изследовател.

Също така забелязвам, че субективни видеоклипове ми се показват отново и отново. По-голямата част от времето е човек, който дава своето мнение пред камерата в хола. Виждам и видеоклипове от утвърдени медии, но YouTube също препоръчва видеоклипове от доста малки акаунти. Въпреки това техните любителски видеоклипове често записват повече от
100 000 гледания. Личният подход изглежда добре приет от потребителите. Това е доказано и от бума на инфлуенсърите в продължение на много години.

Някои от операторите на канали се оплакват във видеоклиповете си, че някои от вече качените им видеоклипове са изтрити - от YouTube. Очевидно платформата се намесва редовно тук, защото тези видеоклипове нарушават указанията. Във видеоклиповете се говори за Бил Гейтс, който стои зад всичко, „лобито за ваксинация“ и „манипулирането на масите“. В коментарите потребителите се бият помежду си. Едва ли има противоречие. Тук е лесно да се изгубите в спирала на радикализация.

Миналото лято доклад в "Ню Йорк Таймс", озаглавен "Създаването на Youtube радикал", показа как да бъдете въвлечени във водовъртеж на радикални видеоклипове. В него 26-годишният Калеб Кейн описва как е бил радикализиран на видео платформата: В житейска криза той потърси видеоклипове за самопомощ и завърши с дясно екстремистко съдържание. Движението Alt-Right, което обслужва десни идеологии и разпространява расистки, ислямофобски и антисемитски възгледи, оказа голямо влияние.

Докладът беше интересен, тъй като вестникът имаше достъп до цялата история на Каин в YouTube (над 12 000 видеоклипа). Това позволи на журналистите да разберат точно на кой видеоклип и кога е щракнал Каин, докато не е попаднал в така наречената „заешка дупка“ въз основа на препоръки: Потребителят се пристрастява към нови видеоклипове и попада във виртуална дупка.

Критиката е, че бизнес моделът на YouTube и алгоритмите "неволно" доведоха Каин до радикализация. „За мен главните герои във видеоклиповете също бяха като бащини фигури“, обяснява очарованието си младият мъж. Описано е обаче и как Каин успява да намери изхода си от тази „заешка дупка“, като гледа видеоклипове с различни политически възгледи и поставя под съмнение разказа на alt-right.

„Трябва да признаем, че препоръките на YouTube са токсични.“

Ако вярвате на бившия служител на YouTube Гийом Шасло, алгоритмите са създадени по такъв начин, че хората да прекарват все повече и повече време в платформата, защото това води до повече гледания и приходи от реклама. Той описва алгоритмите като съмнителни, тъй като те биха предпочели поляризиращо съдържание. Системата създава зависимост от потребителя. „Трябва да признаем, че препоръките на YouTube са токсични“, казва програмистът, който трябваше да напусне Google през 2013 г. след спор.

Проектът му „AlgoTransparency“ е вълнуващ, тъй като дава малка представа за това как работят алгоритмите, като симулира поведението на потребител на YouTube. Французинът е написал програма, която специално търси най-препоръчителните видеоклипове в над хиляда канала в YouTube. Поради ограничените източници обаче моделът показва само част от най-препоръчителните видеоклипове.

Какви видеоклипове гледа конспиративният идеолог?

Уебсайтът на Thetube на разработчика Томо Кихара предоставя представа за света на потребител на YouTube с определени изгледи (шест различни типа потребители). Видеоклиповете се препоръчват въз основа на съответната история на потребител на YouTube. Например можете да видите препоръчаните видеоклипове на потребител, който вярва в конспиративни теории. Тук се появяват видеоклипове за QAnon или «PizzaGate». Според Кихара алгоритъмът многократно показва подобна информация, която потвърждава и засилва собственото пристрастие. Това понякога води до хората с радикални възгледи и идеи.

Гледам различни видеоклипове в Youtube в продължение на няколко дни с новия си акаунт. Продължавам да проверявам какво предлага Youtube. Когато търся „Реч на Меркел“, второто видео, предложено ми е: „Меркел пияна ли беше по време на тази реч в ЕС?“. Операторът на канала с 15 000 абонати твърди в изключително зле направеното видео, че германският канцлер е бил явно пиян и пита зрителите си какво мислят за политиците, които консумират алкохол.

Обратно на началната страница, наред с други неща, ми се предлага интервю с противоречивия германски активист Кен Йебсен. Радикални ли са тези видеоклипове? Поне бих го класифицирал като разпространяващ съдържанието на теорията на конспирацията. При друго търсене на видеоклипове с канцлера Ангела Меркел ми се препоръчват все повече и повече видеоклипове за AfD - въпреки че дотогава не съм виждал нито един видеоклип за AfD. Обратно на началната страница, десният ми микрокосмос вече е разпознаваем в началото. На път съм във филтърния балон.

Тези политически филтърни мехурчета бяха изследвани от двама комуникационни специалисти от Берлин и Цюрих през 2017 г. Въз основа на своя анализ, Jonas Kaiser и Adrian Rauchfleisch показаха как десните канали (партии и доставчици на медии) са създали „паралелна вселена“ в YouTube. Един резултат от проучването: Има малко връзки между дясната мрежа и „медиите и политическия поток“. Ето защо сте политически заседнали в задънена улица в Youtube.

Учените не са съгласни относно това какво влияние всъщност има алгоритъмът в случай на възможна радикализация на потребителите. Повече от 70 процента от времето, което прекарваме в YouTube, очевидно е повлияно от алгоритмите. Това персонализирано гледане е едновременно благословия и проклятие. От една страна, е полезно за потребителя, когато види видеоклиповете, които потенциално го интересуват. От друга страна, алгоритъмът може да доведе до забиване в монотематичен балон на филтъра.

Радикализацията съществува, механизмът е загадка

Преди година международна изследователска група от Швейцария и Бразилия проследи тези „пътища на радикализация“ с мащабно проучване в YouTube. За тази цел беше оценен набор от данни от 350 канала, 300 000 видеоклипа и 72 милиона коментара. Изследователите показаха, че потребителите на YouTube преминават от по-умерени или консервативни канали към политически екстремни канали.

Маноел Хорта Рибейро провежда изследвания в Ecole polytechnique fédérale de Lausanne.

Маноел Хорта Рибейро, един от съавторите на изследването, каза пред NZZ: „Мащабът на тази миграция към радикализация преди е бил неизвестен. Но с нашия метод не бихме могли да проучим как точно работи механизмът, който стои зад него. "

Проучването разглежда препоръките само за кратък период от време. Не беше възможно да се съберат исторически данни. Освен това липсваха персонализирани данни, тъй като алгоритъмът на YouTube показва индивидуални резултати на всеки потребител.

Рибейро е сигурен, че алгоритъмът играе роля, но: „Трябва също така да признаем, че YouTube и други големи платформи са променили значително правилата на Интернет. Екстремни гледки винаги са съществували, те са станали само по-видими и платформи като Youtube позволяват да се намират потребители. »

В YouTube беше създадена алтернативна медийна система

Медийната изследователка Ребека Луис също не вижда алгоритъма като основен фактор за радикализация. В своя анализ експертът установява, че зад това се крие по-скоро система от алтернативни влиятелни лица и добре свързана общност. „Youtube може да премахне целия си алгоритъм за препоръки утре и пак ще бъде най-големият източник на онлайн радикализация“, каза Луис. В YouTube се разработи алтернативна медийна система, която популяризира радикално съдържание и „продава“ политически екстремни идеологии.

Рибейро вижда факта, че YouTube все повече блокира радикалните канали, като положително развитие. Съвсем наскоро YouTube блокира акаунти на дясното екстремистко Идентифицирано движение, включително канала на австрийския Мартин Селнер. Youtube има интерес да представя ценно съдържание на своите потребители, казва изследователят. Преди няколко седмици Youtube също блокира акаунти на десни екстремистки Youtubers в САЩ, включително бившия лидер на Ku Klux Klan Дейвид Дюк. Потребителите трябва да бъдат защитени от реч на омраза, дезинформация и престъпно съдържание, според уебсайта. Всеки канал, който многократно нарушава указанията, ще бъде изтрит.

Когато въведох термина за търсене „Щутгарт“, видях много репортажи от качествени медии. На пръв поглед не забелязвам никакво радикално съдържание. И тук ме плашат коментарите под видеоклиповете: Щутгарт е „инсцениран“, твърди един потребител, позовавайки се на нощта на бунта. Човек дори си мисли, че това е „платен заговор“. А друг коментира, че този инцидент е чист "страх от правителството". Дори и видеоклиповете да не са радикални, многото коментари отдолу са.

За да разгледате алгоритъма на YouTube и неговите последици, трябва преди всичко конкретни потребителски данни. Но получаването на персонализирани данни не е лесно, обяснява Никола Кайзер-Брил, репортер в международната организация AlgorithmWatch. Следователно те зависят от даренията за данни от потребители на YouTube. Порталът, който критично разглежда алгоритмите на платформите, преди всичко иска повече прозрачност от Google. По-конкретно, те призовават за независим орган, който да посредничи между изследователи и платформи.

В интервю за NZZ, мениджърът на Google Изабел Зонненфелд казва, че YouTube дава по-голям приоритет на висококачественото медийно съдържание. „Медийното съдържание и надеждната информация“ умишлено получават преференциално третиране от алгоритъма, казват те. По време на коронарната криза Youtube вече изтри хиляди видеоклипове с невярно и подвеждащо съдържание.

„Алгоритъмът остава черна кутия за нас“, казва Рибейро. Но той също така разбира, че Google иска да защити поверителността на своите потребители и следователно е внимателен с данните. Въпреки това той би искал обществото да играе по-важна роля в това. «Мисля, че алгоритъмът на YouTube е страхотен. Предизвикателство ще бъде да се регулира голямото количество съдържание на платформата като на пазара и да се намалят финансовите пречки “, казва Рибейро.

Въпреки че самоекспериментът ми продължи само няколко дни, виждам известна тенденция към съмнително съдържание. Предполагам, че ако продължа да правя този експеримент, ще видя по-лоши видеоклипове. Вашето собствено поведение на използване е от съществено значение: Оставям ли се да се изкуша от кликване и провокативни видеоклипове? Позволявам ли и други мнения? Алгоритмите несъмнено играят важна роля във визуалното поведение, но по-важното е, че всеки потребител е наясно как работи YouTube и задава правилните въпроси: Какви са източниците? Колко достоверно е това? Според мен медийната грамотност е най-добрият начин за борба с радикализацията.