Дискриминационната модерация прави горната граница на TikTok за увреждания
Нови прозрения в правилата за модериране показват как TikTok се опита да се бори с тормоза: Видеоклипове на хора с увреждания просто бяха скрити. Дори странни и дебели потребители: вътре вие отблъснахте публиката. Учудването и гневът от това са големи.
TikTok, бързо развиващата се в момента социална мрежа от Китай, използва необичайни мерки за защита на предполагаемо уязвими потребители. Платформата беше инструктирала своите модератори да маркират видеоклипове на хора с увреждания и да ограничат обхвата им. Странните и дебели хора също попаднаха в списък на „специални потребители“, чиито видеоклипове обикновено се считаха за риск от тормоз и обхватът им беше ограничен - независимо от тяхното съдържание.
Това показват вътрешните правила за модериране, които netzpolitik.org успя да види. Имахме дискусии и с източник в TikTok, който има представа за модерацията на платформата за видео споделяне. След като разгледаха ограниченията на обхвата на политическото съдържание и механизмите на умереност в първата статия и обработката на критики и конкуренция във втора статия, новите документи за първи път показват как ByteDance, китайската технологична компания зад TikTok, се справя с тормоза на своята платформа - и е взел проблемни мерки срещу него.
Модерацията на „тормозните цели“
Съответният раздел в правилата за модериране се нарича „Изображения на субекти, силно уязвими от кибертормоз“. В по-нататъшните обяснения се посочва, че това са потребители, които „се основават на тяхната физическа или психическа структура“ и трябва да се приеме, че са обект на атаки. Доказано е, че мобингът има ужасни последици за засегнатите. Следователно видеоклиповете на такива потребители трябва да се разглеждат като риск и да имат ограничен обхват.
TikTok използва опция от арсенала на модератора, за да ограничи видимостта на тези потребители. Следователно хората с увреждания трябва да бъдат маркирани като „Риск 4“ от модератора. Това означава, че видеоклипът се вижда само в държавата, в която е публикуван. За хората с действително или предполагаемо увреждане това означава: Вместо глобална аудитория от милиард - това е колко в момента използват приложението според TikTok - техните видеоклипове достигнаха максимум 5,5 милиона души. Това е броят на потребителите, които понастоящем TikTok трябва да има в Германия, според специализираното списание AdAge.
Хората с увреждания не са на голяма сцена
За случаите, които се смятаха за особено изложени на риск, TikTok имаше още по-широкообхватни разпоредби. Ако вашите видеоклипове попаднат на екраните на модераторските екипи в Берлин, Пекин или Барселона - след 6000 до 10 000 гледания - те ще получат автоматично ограничение, наречено „Auto R“. Резултатът: Ако тези видеоклипове надвишават определен размер на аудиторията, те автоматично попадат в категорията „не препоръчвам“. Такава категоризация означава, че видеоклипът вече не се появява в алгоритмично съставения For-You-Feed, който потребителят получава при отваряне на приложението. Строго погледнато, подобни приноси не се изтриват - но всъщност те едва ли имат публика.
The-For-You-Feed е възможността да получите възможно най-голяма аудитория за дуети, комедийни скечове, шеги и танцови хореографии. Тези, които го правят там, играят на голямата сцена и може да станат "известни на TikTok". Много хора маркират видеоклиповете си с хаштагове като #foryou или # fürdich за тази цел. TikTok инструктира модераторите да държат хората с увреждания далеч от този етап.
Насоките цитират „обезобразено лице“, „аутизъм“ и „синдром на Даун“ като примери за потребители, за които това се отнася. Модераторите трябва сами да преценят в процеса на преглед дали някой има тези характеристики и да маркират видеоклипа по съответния начин. Те имат средно около половин минута, за да направят това, както съобщава нашият източник в TikTok.
„Аутизъм“, „Синдром на Даун“: Тези правила за модериране при работа с предполагаемо деактивирани потребители бяха валидни в TikTok поне до септември 2019 г.
TikTok дърпа бариери
Правилата първоначално дразнят на много практично ниво: Как модераторът трябва да разпознае дали някой, който споделя 15-секунден видеоклип в TikTok, има аутистично разстройство? Тази инструкция е едно от няколкото неразбираеми правила, които също значително объркват самите екипи за модериране, както съобщава източник в TikTok.
Още по-фундаментално обаче насоката показва голяма липса на невежество, що се отнася до дебатите относно включването и видимостта на хората с увреждания в медиите. Те се извършват интензивно през последните години - движени предимно от самите хора. Докато активистите изискват достъпен интернет и видимост, TikTok умишлено поставя бариери - без засегнатите да подозират нищо.
Неразбрани грижи
Константин Грош от организацията AbilityWatch описва този подход като „пресилено и маргинализиращо“. Хората с увреждания вече са слабо представени в медиите и са патернализирани. „Регламентът, изброен тук, пренася това поведение на нови цифрови платформи, в които видимостта на хората с увреждания е съзнателно намалена поради неразбрани и ненужни грижи.“ Особено, когато знаете, че широко разпространена форма на тормоз е така нареченият призрак - съзнателният Игнориране на някой друг - бъдете тази практика опустошителна. Мерките срещу кибертормоза трябва да имат за цел да ограничат деянията, а не жертвите и да се прилагат еднакво за всички хора.
Грош също посочва, че маркирането на хора поради увреждане изглежда особено странно в Германия и се отнася до историята. Между 1940 и 1941 г. националсоциалистите систематично записват и убиват над 70 000 души с физически, психически и емоционални увреждания като част от „Action T4“.
Мануела Ханен и Кристоф Крахтен от фондация „Евангелска хепата“, която в момента изгражда приобщаващ екип за социални медии, също са раздразнени. „Ние виждаме това като цензура, за която няма основание. Напълно абсурдно е да не се наказват троловете, а жертвите на кибертормоза. За да противодействаме на усилията ни да постигнем големи диапазони по този начин, удари нашия проект на пазара. "
Активистът за приобщаване Раул Краутхаузен заяви пред netzpolitik.org: „Защитата на предполагаема жертва от себе си винаги е трудна. Не всички хора с увреждания са създадени равни. Някои могат да се справят по-добре, други по-лошо - като хората без увреждания също. "
PR кампании за разнообразие и приобщаване
Източник, който е запознат с модерацията, съобщава, че служителите многократно са посочвали проблемите на това ръководство и са искали по-чувствителна и смислена регулация. Информацията им обаче беше отхвърлена от взимащите решения в Китай. Правилата се предават главно от Пекин. Това до голяма степен съвпада с онова, което Washington Post научи от бивши служители на TikTok в САЩ.
В момента TikTok полага особени усилия, за да осигури добро време в Германия, САЩ и други пазари, където приложението напоследък се разраства бързо. С хаштаг кампании за позитивност на тялото или поведение с уважение, наскоро платформата направи много, за да забрани тормоза над TikTok. Например, в Деня за по-безопасен интернет на 5 февруари, TikTok покани „да изпрати силен сигнал чрез платформата: Сигнал за включване, разнообразие и сигурност и срещу тормоз, реч на омразата или обидно поведение“.
Към този момент модераторите все още бяха инструктирани драстично да ограничат кръга от хора с увреждания и други, за които се смяташе, че представляват риск от тормоз.
Притесненията относно TikTok се подхранват и от факта, че TikTok е много по-непрозрачен със своите политики, отколкото конкурентите от Силициевата долина. От дълго време компанията не разкрива нищо относно основата, на която се вземат решения за модериране. Под нарастващия натиск на общественото внимание, особено по отношение на протестите в Хонконг, TikTok сега се опитва ясно да се разграничи от обвинението, че съдържанието е насочено от Китай.
TikTok се управлява от китайската компания ByteDance. Смята се, че в момента той струва около 75 милиарда долара, повече от Uber и Snapchat взети заедно, съобщава Washington Post. ByteDance е собственост на Джан Имин, един от най-богатите хора в Китай. През 2017 г. ByteDance купи популярното в САЩ приложение за споделяне на видео Musical.ly и го постави под шапката на собствената си марка TikTok. Оттогава приложението, което е особено популярно сред младите потребители, бързо се разраства. Твърди се, че наскоро е достигнал границата от 1 милиард потребители - по-бързо от която и да е друга платформа за социални медии преди.
TikTok: Никога не е бил замислен като дългосрочно решение
Междувременно TikTok изглежда забеляза, че правилата за справяне с тормоза не бяха идеални. Говорител каза при поискване, че правилата са избрани "в началото", за да се противодейства на тормоза в TikTok. „Този подход никога не е бил замислен като дългосрочно решение и въпреки че имахме добро намерение с него, разбрахме, че това не е правилният подход.“ Регламентите сега са заменени от нови, нюансирани правила. Технологията за идентифициране на тормоза е доразвита и потребителите се насърчават да взаимодействат положително помежду си.
Звучи, че правилата са реликва от далечното минало на платформата. От документите на netzpolitik.org обаче става ясно, че инструкциите към модераторите са били все така валидни поне до септември тази година. TikTok не пожела да коментира други наши конкретни въпроси като как са възникнали правилата, от кога до кога са в сила и дали асоциациите за инвалиди също ще участват в разработването на новите правила.
Списък, създаден със „специални потребители: вътре“
В допълнение към споменатите правила, модераторите от TikTok поддържаха списък със „специални потребители“, които биха могли да бъдат по-засегнати от тормоза. Тези потребители обикновено бяха оценени като риск и техните видеоклипове автоматично бяха ограничени с маркировка „Auto R“ в диапазона, така че да не надвишават определен брой гледания.
В този списък има общо 24 акаунта, включително хора, които публикуват видеоклипове с хаштагове като #leben mitbeherung или имат „аутисти“ в биографиите си. Но в списъка има и потребители: вътре, които са просто дебели и които се справят самоуверено. Удивително голям брой показват дъгово знаме в биографията си или се намират в текстовете и видеоклиповете си като лесбийки, гей или недвоични.
Един от акаунтите в този списък принадлежи на Annika, в TikTok miss_anni21. 21-годишната работи като учителка в детска градина и публикува скици, почит към майка си и особено танцови видеоклипове в TikTok, които я показват с пълни физически усилия. Подзаглавие: „Обичам танците! # уверен # аз # дебеланка “. Тя беше шокирана, че TikTok я включи в списъка на жертвите на тормоз. Тя каза пред netzpolitik.org: „Намирам за очевидно и дискриминационно, че хората са понижени по този начин. Това е нехуманно. “Кога се озовавате в такъв списък, пита се тя.
Разбира се, има хора, които са психически по-малко стабилни и не могат да се справят с омразата. Самата тя не е от тях. Преди около година два от нейните танцови видеоклипове станаха вирусни, тя показа за пръв път цялото си тяло и изведнъж броят на нейните последователи избухна от 800 на 10 000 (днес над 22 000 души я гледат да танцува). С вниманието дойде и омразата. Убий те, никой по света не те иска. Отне около два до три месеца, казва тя. „Но аз съм такъв човек, не ме интересува.“ Това се дължи и на новата й публика в TikTok. „Сега ме следват хора, които ме възприемат като пример за подражание. Това ме направи още по-силен. “Това, че TikTok ограничава техния обхват и по този начин уж ги предпазва от себе си - абсолютно ненужно за тях.
През последните няколко седмици тя вече спечели 4000 нови последователи. Тя казва, че има впечатлението, че видеоклиповете й отново достигат до повече хора. Оттеглен ли е списъкът? Самият TikTok не отговори на нашите подробни запитвания.
За това изследване и източниците:
Нашите познания за модерацията в TikTok в Германия се основават на няколкочасов разговор между netzpolitik.org и източник, който има представа за модерационните структури и политиката. Проверихме самоличността на източника и техния трудов договор. Не можем и не искаме да опишем източника по-подробно от съображения за защита на информатора.
-
Ако имате някаква информация или съвет по тази или други теми, очакваме с нетърпение да чуем от вас - шифровани с удоволствие. Не използвайте служебни имейл адреси, телефонни номера, мрежи или устройства за това.
Искате по-критично отчитане?
Нашата работа в netzpolitik.org се финансира почти изключително чрез доброволни дарения от нашите читатели. С редакция от 15 души в момента това ни дава възможност да работим журналистически по много важни теми и дебати в дигиталното общество. С ваша подкрепа ние можем да изясним още повече, да провеждаме разследващи изследвания много по-често, да предоставяме повече основна информация - и да защитаваме още по-основни цифрови права!
За автора
Крис Кьовер
Маркус Ройтер
Добро настроение и цензура
Никога преди платформата не е нараствала толкова бързо, колкото TikTok. Получихме изключителна представа за модерацията и публикуваме откъси от правилата за модериране: TikTok управлява сложна система за идентифициране, контрол, потискане и насочване на съдържанието. Платформата може да ограничи видеоклипове на протести и демонстрации в съответствие с нейните правила.
Ново измерение в контрола на информацията
Нашето изследване за модериране на съдържанието в TikTok показва колко малко се зачита политическата свобода на изразяване на платформата. Китайската компания контролира и манипулира тази нова публика по непрозрачен начин, както никой друг доминиращ на пазара конкурент. Дори Facebook, от друга страна, работи почти като демократичен форум. Коментар.
Критиката на газта от TikTok
Всеки, който се скара на видео платформата, получи по-малко покритие. Публикуваме извадки от модерационните правила на TikTok. Те показват, че не само политическото съдържание е изнервило видео платформата. Споменаването на конкуренцията и критиките към компанията също бяха наказани.
Тогава по-скоро всички скандали и тълпи, както човек ги знае и не ги обича.
Това обаче показва също, че китайското ръководство изглежда доста тънкокожо.
Цялото нещо може да бъде още по-лошо: Какви са правилата, според които хората попадат на ниво „Препоръчани“? Предполага се, че точно когато се държат примерно (по смисъла на идеите на сегашното правителство в това отношение!). Съответно ще бъдат „изтласкани“ хора, на които скоро ще бъде присъден особено голям брой точки, след като е завършено обширното обществено наблюдение с 2 милиарда камери. (О, да: Дали човек с увреждания, дебел или отклоняващ се по друг начин от идеала ще има шанс да постигне много точки в близко бъдеще?
Предпочитам да спра сега, това вече ме побива повече от достатъчно!
Не разбирам 3 неща:
1.) Китай е т.н. представени в много германски компании. Те забраняват всякаква намеса във вътрешната им политика!
Защо германското правителство просто не ги изхвърли и не запази активите им?
2.) Кражбата на продукти от германци е „чест“ в Китай.
Само когато германците правят същото, има смъртно наказание. (Знам за 4! Случаи.)
Китай се въоръжава масово. Кога светът разбира това? (виж Тайван.) Ще бъде ли светът толкова неприятен като котката на Шрьодер (Путин)?
Особено очевидно е, че финансираното от такси ежедневно предаване предоставя на китайците съдържание „безплатно“. Така че платформа, която дискриминира хората и че съдържанието е достъпно навсякъде само ако е в съгласие с мнението/доктрината на Мечо Пух.
https://www.dwdl.de/nachrichten/75021/die_tagesschau_gibts_jetzt_auch_auf_tiktok/
Анулиране на добавянето
Разрешително: Освен ако не е отбелязано друго, съдържанието, което сме написали, е под лиценза Creative Commons BY-NC-SA 4.0.
С приятелска подкрепа от