Дискриминационни практики за модериране Твърде грозно за TikTok

TikTok е инструктирал модераторите да скрият видеоклипове на дебели, непривлекателни или бедни хора в платформата, за да не плашат новите потребители. Изтеклите документи рисуват имиджа на компания, на която липсва око за пропорционалност.

TikTok не излиза от лошите заглавия. Ново проучване на The Intercept сега разкри, че видео платформата е инструктирала модераторите да скриват „грозните“ и бедни потребители на платформата. Това се вижда от вътрешни документи, които The Intercept са получили от податели на сигнали.

Според т. Нар. „Политика за грозно съдържание“ модераторите бяха насърчавани да изрязват видеоклипове на хора в обхвата, който политиката на TikTok обяви за непривлекателна. „Очевидно бирено коремче“ или „прекалено много бръчки“ при по-възрастните потребители доведоха до дисквалификация, както и до „ненормална форма на тялото“, „пълничък“, липсващи зъби или видими белези.

Декларираните по този начин видеоклипове не трябва да се възпроизвеждат в емисията за приложение за вас, алгоритмично контролирана начална страница, която може да катапултира видеоклип на екрана на милиони потребители по целия свят. С други думи: Всеки, който бъде изтрит от емисията за вас, изчезва в мазето на приложението, невидимо за големи части от аудиторията.

Бедността и грозотата не се препоръчват

Документът допълва картината, получена от изследването на netzpolitik.org относно насоките на TikTok за тормоз: Бързо развиваща се компания, която не разполага с професионализъм, проницателност и такт, когато става въпрос за модериране на съдържание на собствена платформа.

Грубите инструкции, преведени на английски, изброяват в едно изречение потребители, които са с наднормено тегло или „твърде слаби“, заедно с други, които имат вродени увреждания, като например нисък ръст. Един раздел по-долу е за потребители, чиито социални и финансови обстоятелства очевидно са оценени като отблъскващи от TikTok: Видеоклипове, заснети в „бедняшки квартали“ или пред строителни площадки и счупени стени.

Мотивите бяха еднакви и в двата случая: Такива потребители могат да намалят „краткосрочната лоялност на потребителите“ към платформата. „Ако външният вид на персонажа или средата на снимане не са добри, видеото ще бъде далеч по-малко привлекателно, не си струва да се препоръчва на нови потребители“, се казва в документа.

Говорител на ByteDance, китайската компания майка зад TikTok, каза пред The Intercept, че насоката „Грозно съдържание“ очевидно е същата или подобна, която netzpolitik.org публикува миналия декември. Но това не е така. Предполага се, че насоките, публикувани от нас, служат за борба с тормоза в платформата - чрез изтриване на предполагаемо застрашени потребители от емисията. Сега публикуваният документ обаче аргументира ясно маркетинговата логика. Целта не беше да се защитят потребителите от подигравки и насилие, а само приложението да не расте. TikTok просто не се вписва в бедността и грозотата.

Политическа цензура и странни приоритети

Насоките за „грозно съдържание“ са едно от многото правила за модериране на платформата, които доведоха до ограничаване на видеоклиповете в емисията за вас. Намерението: да се запази аудиторията за такива видеоклипове възможно най-малка и да се покаже друго, по-желано съдържание. Друг документ, публикуван от The Intercept, обаче разкрива многобройните издания, които TikTok направи за потоци на живо на своя сайт - и там също така става въпрос за политическа цензура.

Под крилатата фраза „противоречиво съдържание“ директивата забранява не само пропагандата на терористични организации, но и потоци, които застрашават „националната сигурност, чест и интереси“. Нарушение доведе до блокиране на акаунта. Всеки, който стриймва полицейски или военни операции на живо, например на ръба на демонстрации, беше забранен за един ден. Същото се отнася и за „клеветата на политически или религиозни лидери“.

Насоките укрепват образа, който възниква от нашето изследване: Въпреки че TikTok публично подчертава, че не цензурира никакво политическо съдържание или ограничава обхвата му, много раздели от насоките могат да бъдат тълкувани толкова широко, че лесно да бъдат използвани за критикуване на правителствата или други органи се изключват. При липса на демократични възможности за контрол и прозрачност не е възможно да се провери дали и как тези опции се използват на практика.

Също така се забелязва в изискванията за предаване на живо колко различно TikTok оценява различни нарушения. Бременните непълнолетни жени например трябва да загубят акаунта си завинаги - драстично наказание, което иначе е запазено само за порнография, заплахи със смърт или малтретиране на деца. От друга страна, онези, които са обиждали други поради техния пол, увреждане или етническа принадлежност, са били суспендирани само за един месец и след това им е било позволено да продължат да предават нормално. Всеки, който танцува вулгарно пред джамия, беше изхвърлен за един ден. Въпреки това, всеки, който е носил бикини извън плажа, трябва да бъде забранен за една седмица. Безброй други примери за такива изкривени връзки могат да бъдат намерени в целия документ.

TikTok се стреми към добър PR

TikTok подчертава пред The Intercept, че „повечето“ от споменатите насоки вече не се прилагат „или в някои случаи очевидно никога не са се прилагали.“ Според източниците обаче и двете насоки са били в употреба до края на 2019 г. и правилата за лайфстайминг са били налице само написана миналата година. На въпрос за насоките за ограничаване на бедните или непривлекателните потребители: отвътре TikTok повтори същата формулировка, наречена също netzpolitik.org: Правилата бяха „ранен груб опит“ за противодействие на тормоза върху TikTok и вече не се използват . Говорителят на компанията не отговори на възражението, че в документа изобщо не се споменава за тормоз и вместо това направи ясни препратки към потребителите: вътрешна лоялност.

В момента TikTok се опитва да осигури добро време, след като през последните месеци се натрупаха негативни съобщения за липсващи защитни мерки, непрозрачна модерация и политическа цензура на платформата.

Точно миналия петък компанията обяви, че ще отвори нов „Център за прозрачност“ в Лос Анджелис. Критици: вътрешни и външни експерти трябва да могат да добият представа за модераторските практики на видео платформата, която в момента преживява бърз световен растеж. Понастоящем TikTok набира опитен персонал от ветерани като YouTube и Microsoft. Сега компанията трябва да покаже, че не само приема сериозно своя растеж, но и се отнася с уважение към своите потребители и е готова да се учи от грешките.