Приоритизиране на кожата в Instagram News Journalism Home News - edjnet
Ексклузивно разследване показва, че Instagram дава приоритет на снимки на мъже и жени, в които те са облечени за кратко, очертавайки поведението на създателите на съдържание и възприятието на света на 140 милиона европейци в това, което остава чувствителна точка за регулациите на ЕС.
Сара живее в Берлин и е хранителен предприемач (името и градът са променени). Създадената от него компания помага на жените да се чувстват комфортно и подкрепя „интуитивното хранене“. Подобно на много собственици на малък бизнес, Сара разчита на социалните медии, за да привлече клиенти. Instagram, втората по големина социална мрежа след Facebook, е маркетингов канал, без който не може да оцелее, каза тя.
Но в Instagram, който е силно насочен към снимки и видеоклипове, тя усети, че снимките й не достигат твърде много от 53 000 последователи, освен ако не позира по бански. Всъщност четири от седемте й най-популярни публикации през последните няколко месеца я хванаха в бикини. Ely Killeuse, автор на книга със 132 000 последователи в Instagram, които се съгласиха да говорят официално, заяви, че "почти всички" от най-популярните й снимки я показват по бельо или бански.
Многобройната им публика може да предпочете да види Сара и Ели по бански. Но от началото на 2016 г. Instagram подрежда снимки от новинарските емисии на потребителите по такъв начин, че снимките, които потребителят „предпочита, да се появят в горната част на емисията“. Ако останалите снимки, публикувани от Сара и Ели, са по-малко популярни, може да се дължи на това, че не се показват толкова много на последователите им.
Кои снимки се появяват и кое не е нищо повече от въпрос на вкус. Предприемачите, които разчитат на Instagram за привличане на нови клиенти, трябва да приемат правилата, насърчавани от услугата, за да достигнат до своите последователи. Дори тези правила да не отразяват ценностите, на които са изградили своя бизнес, или тези на основната им аудитория.
Анализирани са 2400 снимки
За да разберат кои снимки Instagram приоритизира, Европейската мрежа за журналистика на данни (EDJNet) и AlgorithmWatch помолиха 26 доброволци да инсталират разширение на браузъра и да следят селекция от професионални създатели на съдържание. Избрахме 37 професионалисти от 12 държави (14 от тях мъже), които използват Instagram за популяризиране на марки или за привличане на нови клиенти за своя бизнес, най-вече в областта на храната, пътуванията, фитнеса, модата или красотата.
Разширението автоматично отваря главната страница на Instagram на редовни интервали и отбелязва кои публикации се появяват в горната част на новинарските емисии на доброволци, като дава преглед на това, което те считат за най-подходящата платформа за всеки доброволец.
Ако Instagram не се беше смесил в алгоритъма, разнообразието от публикации в новинарските емисии на потребителите щеше да трябва да съответства на разнообразието от публикации на създателите на съдържание, които следват. И ако Instagram е персонализирал информационния канал на всеки потребител според личния му вкус, разнообразието от публикации в техните информационни канали трябва да е различно за всеки потребител. Нито един от тези сценарии не съвпада.
Между февруари и май бяха анализирани 1737 публикации, публикувани от създателите на съдържанието, които наблюдаваме, включващи общо 2400 снимки. От тези публикации 362 или 21% са били разпознати от компютърна програма като снимки на жени в бикини или бельо или мъже с голи гърди. В новинарските емисии на нашите доброволци обаче публикациите с такива снимки представляват 30% от всички публикации, които се появяват под едни и същи акаунти (някои публикации се появяват многократно).
Постовете, които съдържаха снимки на жени по бельо или бикини, бяха с 54% по-вероятно да се появят в информационния канал на нашите доброволци. Публикациите, съдържащи снимки на мъже с голи гърди, са били с 28% по-склонни да се показват. За разлика от това публикациите, показващи снимки с храна или пейзажи, са били с 60% по-малко вероятно да бъдат показани в информационния канал.
Тези резултати, които могат да бъдат прочетени подробно на специална страница, преминат стандартните тестове със статистическа значимост.
В очакване на одит
Склонността към голота може да не се отнася за всички потребители на Instagram. Въпреки че беше последователен и очевиден за повечето доброволци, малко малцинство беше обслужено с публикации, които по-добре отразяват разнообразието от публикации на създателите на съдържание. Алгоритъмът на Instagram вероятно благоприятства голотата като цяло, но персонализирането или други фактори ограничават ефекта за някои потребители.
Нашите резултати са далеч от заключенията, които може да има пълен одит на алгоритъма на Newsfeed на Instagram. Те само документират случилото се в новинарските емисии на нашите доброволци. (Можете да ни помогнете да подобрим вашите резултати, като инсталираме разширението, ние ще публикуваме актуализации, след като имаме повече данни.) Без достъп до вътрешните данни и производствените сървъри на Facebook, винаги ще бъде невъзможно да се направят окончателни заключения.
Facebook не отговори точно на въпросите ни, но изпрати изявление: „Това изследване е погрешно поради няколко причини и показва неразбиране на начина, по който работи Instagram. Класираме публикациите във вашата емисия въз основа на съдържанието и акаунтите, към които сте проявили интерес, а не въз основа на произволни фактори като наличието на бански костюм. "
Имаме основания обаче да вярваме, че нашите констатации представляват начина, по който Instaram работи като цяло.
Максимизиране на ангажираността
В патент, публикуван през 2015 г., инженери от Facebook, компанията, която управлява Instagram, обясниха как Newsfeed може да избере кои снимки да се приоритизират. Когато потребителят публикува снимка, тя автоматично се анализира на място, съгласно патента. Снимките са придружени от „показател за ангажираност“, който се използва, за да се реши дали да се покаже конкретно изображение в информационния канал на потребителя.
Показателят за ангажираност се основава, от една страна, на предишното поведение на потребителите. Ако потребителят оцени определена марка и снимка показва продукт от същата марка, показателят за ангажираност се увеличава. Но показателят за ангажираност може да бъде изчислен и въз основа на поведението на всички потребители на услуги. Патентът конкретно предвижда, че полът, етническата принадлежност и "нивото на събличане" на хората на снимка могат да бъдат използвани за изчисляване на показателя за ангажираност.
Докато Instagram твърди, че информационният канал е организиран според критерия "най-важното" за определен потребител, патентът на компанията обяснява, че може да бъде класифициран според това, което харесват всички потребители. Дали потребителите виждат снимките, публикувани от акаунтите, които следват, зависи не само от тяхната поведенческа история, но и от това, което Instagram смята за най-завладяващо за другите потребители на платформата.
Фалшиви корелации
Facebook автоматично анализира снимки със софтуер, известен като компютърно зрение, преди алгоритъмът да реши какво да се показва в информационния канал на потребителя. Такъв софтуер събира автоматични изводи от набор от данни за обучение, проектирани от хиляди ръчно коментирани изображения. Неговите ограничения могат да повлияят на начина, по който Instagram дава приоритет на снимките в емисии новини.
Компютърни учени знаят от много години, че такива системи копират и усилват предразсъдъци към техните данни за обучение, водещи до фалшиви или грешни корелации. Например програма за идентифициране на вълци и кучета въз основа на снимки на кучешки зъби, намерени онлайн, няма да разпознае животните в обичайния смисъл на думата. Вместо това ще обозначи всяко животно на заснежен фон.
Данните за обучение по компютърно зрение обикновено се изготвят от нископлатени работници, които са стимулирани от факта, че трябва да работят бързо и да носят задоволителни резултати за работодателите. Това ги кара безразборно да възлагат зададените категории и да пренебрегват тънкостите, които една снимка може да съдържа, пише Агате Балайн, кандидат за докторант относно пристрастията на автоматизираните системи в Технологичния университет в Делфт.
Тези последици могат да бъдат тежки. През декември бразилски художник се опита да популяризира една от публикациите си в Instagram. Искането му беше отхвърлено с мотива, че публикацията съдържа насилствени елементи. В него участва само едно момче и пилот от Формула 1 Дейвид Хамилтън. И двамата бяха с тъмна кожа. През април на инструктор по йога бе отказана реклама с мотива, че снимката призовава за нецензурни думи, въпреки че показва само позицията на петела отстрани. Тя е азиатско-американска.
(В нашата експериментална настройка използвахме и система за компютърно зрение, Google Vision. Макар че нейните резултати са необикновени - етикетът „красота“ например се даваше само на жени - много вероятно е нейните предразсъдъци да подобно на механизма за компютърно зрение на Facebook, дори само защото е изграден до голяма степен от същите хора.)
Тънка линия, която да следвате
Ръководството за инструкции на Instagram поддържа фактът, че голотата не е „разрешена“ в тяхната услуга, но благоприятства публикации, които показват кожа. Тънката разлика между това, което се насърчава и това, което е забранено, се решава от нечувани и вероятно пристрастни алгоритми за компютърно зрение. Всеки път, когато публикуват снимка, създателите на съдържание трябва да следват тази много тънка граница между показване на достатъчно, за да достигнат последователи и не разкриване толкова много, че да бъдат премахнати от платформата.
Въпросник за 2019 г., проведен от американското списание Salty върху 128 потребители на Instagram, показа, че неправомерното изтриване на съдържанието е по реда на деня. Колко чести са подобни събития и ако чернокожите и жените са непропорционално засегнати, е невъзможно да се каже, докато алгоритмите на Instagram не останат неодитирани.
Във всеки случай, преглед на 238 патента, подадени от Facebook, съдържащ фразата „компютърно зрение“, показа, че от 340-те души, изброени като изобретатели, само 27 са жени. Доминираната от мъже среда обикновено води до неблагоприятни резултати за жените. Коланите за кола, например, се тестват само върху мъжки манекени, което води до по-висок процент на наранявания сред жените. Нашите изследвания показват, че алгоритмите на Facebook могат да следват този модел.
Страх от забраната на сенките
Сара и други базирани на Instagram предприемачи бяха ужасени от разговори с пресата. Повечето професионални създатели на съдържание в Instagram се страхуват от възможни ответни мерки от Facebook, изразени под формата на изтриване на акаунти или забрани в сянка (метод, при който публикациите на потребителя не се показват на никого или само на няколко последователи без знанието на потребителя) - смъртна присъда за техния бизнес.
Млада предприемачка с около 70 000 последователи, която заяви, че Instagram е "много важен" за нейния бизнес, уточни пред AlgorithmWatch, че не иска да бъде призната заради страха си от забрана в сянка. В официално изявление Ely Killeuse заяви, че притежаването на друг източник на доходи е "условие номер едно" за нея. Твърде многото пристрастяване към Instagram би означавало да загубите свободата и психическото си здраве, добави Ели.
Общият регламент за защита на данните (GDPR), който влезе в сила през 2018 г., и регламентът за бизнес платформите (P2B), който ще бъде приложим от 12 юли 2020 г., вече носят много гаранции за потребителите и професионалистите. По-специално, GDPR изисква от потребителите да имат „право на обяснение“ за автоматизирани решения, а регламентът P2B трябва да принуди онлайн брокерските услуги да разкриват „основните параметри, които определят (алгоритмичното) класиране“.
Тази нова мярка не трябва да принуждава платформите да разкриват спецификата на своите алгоритми, според Петра де Сътър, която ръководи Комисията за вътрешен пазар и прожекции на Европейския парламент. Предотвратяването на Instagram от сортиране на новинарските емисии на потребителите не би било юридически осъществимо, пише тя в имейл до AlgorithmWatch. Вместо това прозрачността на P2B трябва да позволи на добре информирани политически решения на по-късен етап, добави тя. Що се отнася до страховете от забрани в сянка, де Сътър смята, че им се придава твърде голямо значение. „Въпросът никога не е отмъстил“, пише тя.
P2B може да е различен, но две години след влизането в сила на GDPR някои експерти се оплакват от много погрешно изпълнение. Един от проблемите е, че ирландският орган за защита на данните, който е отговорен за регулирането на европейското дъщерно дружество на Facebook в Дъблин, изглежда сякаш е с недостиг на персонал и „изглежда не разбира GDPR“ като един механизмите на платформата, обяснени за AlgorithmWatch. Друг проблем е липсата на политики. Нито един орган, на европейско ниво или сред държавите-членки, няма силата или инструментите да слуша някоя от гигантските платформи, включително Instagram, оставяйки много от разпоредбите на GDPR неприложени.
Възможна дискриминация
Докато нашите резултати показват, че създателите на съдържание за мъже и жени са принудени да показват кожата си по сходни начини, ако искат да достигнат до своята аудитория, ефектът може да бъде по-широк за жените и да се счита за дискриминация срещу жени предприемачи. Въпреки това, въпреки че дискриминацията по полов признак е забранена от Хартата на основните права на Европейския съюз, няма легален начин за потребител на Instagram да започне съдебно производство. Спецификата на предприемачеството в социалните мрежи не е взета предвид в законодателството.
Мириам Кулман, асистент в Университета по икономика и бизнес WU Виена, пише пред AlgorithmWatch, че европейското антидискриминационно законодателство се занимава почти изключително с трудовите отношения. На свободна практика, като професионалистите, които сме наблюдавали, не са защитени.
Някои групи се борят за правата си като независими създатели в социалните медии. IG Metall, най-големият съюз в Европа, подкрепя колективните действия на създателите в YouTube, изисквайки повече справедливост и прозрачност от Google (който е собственик на YouTube), когато видеото беше демонетизирано. Те не планират да разширяват своята програма до и от създателите на съдържание в Instagram или други платформи.
Един на всеки трима европейци
С хиляди европейски предприемачи, които създават съдържание в Instagram, въздействието на техните публикации е огромно, тъй като те се хвалят, че имат стотици хиляди последователи. Facebook твърди, че близо 140 милиона жители на ЕС или всеки трети от тях са използвали Instagram през април.
Сред хората на възраст между 18 и 24 години, разпространението на Instagram е около 100% във всяка държава от ЕС . Държавните поръчки у дома по време на пандемията Covid-19 драстично увеличиха времето, прекарано в Instagram. За една седмица в карантина в Италия възгледите на Instagram са се удвоили от нормалните, съобщи Facebook инвеститори.
Собствен профил
Преди близо век известният британски автор Вирджиния Улф каза, че жените се нуждаят от „собствена стая“, за да процъфтяват креативността им. Следвайки мненията на чуждестранните власти, пише тя, това е все едно да поканиш гниенето да се размножава в сърцето на нечия работа.
В Instagram, като се вземе предвид мнението на властите, които са изградили алгоритъма на Newsfeed, не е възможност. Отказът да се показват части на тялото драстично намалява публиката. Мъжете или жените предприемачи трябва да следват правилата, определени от инженерите на Facebook, ако искат да имат шанс да си изкарват прехраната.