Ще бъдат ли косени алгоритмите при пускане
Блогът на лектор по информационни науки.
22 декември 2016 г.
Ще бъдат ли косени алгоритмите при пускане ?
Тук е вече старата морска змия. В бурята от Фалшиви новини и ерата на пост-истината, Google или по-точно неговият алгоритъм, е обвинен в открояване на антисемит или отказ от резултатите от търсенето. Това обаче не е първият път, когато „Google скрива евреи.“ Нито алгоритмите показват расизъм, нито че „изкуственият интелект“ се е опитал във фашизма.
С няколко думи, ключът към тези проблеми е следният: алгоритмите произвеждат форма на детерминизъм (при избора на информация и изборите, нашите избори, които произтичат от това). Този детерминизъм е част от различен режим на истината според всяка платформа (относно режимите на истината на Google - популярност -, на Facebook - ангажираност - или на Wikipedia - проверимост, вижте какво написах тук) и каквито и да са различните режими на истинност на различните платформи, всички дават предимство на тиранията на актьорството (вж. работата на Доминик Кардон). И има само едно решение за решаване на този проблем с алгоритмичния детерминизъм и пристрастия в резултатите от търсенето: възстановяване на ентропията и децентрализацията чрез създаване на индекс, независим от мрежата.
Наистина ли се случи Холокостът? Точният отговор е да не се задава грешен въпрос на нацистката партия.
Затова сега на въпрос: "Холокостът настъпи ли?" Запитан от Google, за първи път се появява неонацистки сайт (Stormfront), който публикува статия за клик, озаглавена: „10-те най-добри причини Холокостът никога не се е случило“. (можете спокойно да щракнете върху предишната връзка, която сочи към статия от Guardian, която разказва историята, а не към неонацисткия сайт).
Имате ли 2 минути? ДОБРЕ. Когато обяснявам на студентите си от DUT infocom историята на алгоритмите и инструментите за изследване и че поставяме под съмнение понятието „релевантност“ и „популярност“, аз им давам един и същ пример през цялото време. В двигателя на американския Google, заявката „нацистки“ дава като първи резултат сайта на Американската нацистка партия.
Същата заявка ("нацистка"), но за немската версия на двигателя, дава за много дълго време като първи резултат мястото на музея на холокоста (днес дава само компилация от страници в Уикипедия за нацизма).
Същата заявка, един и същ алгоритъм, без ръчна намеса в резултатите от търсенето и все пак две първи напълно антагонистични връзки: Американската нацистка партия и мястото на музея на Холокоста. В края на демонстрацията моите ученици разбраха, че понятието „релевантност“ е напълно субективно, че понятието „популярност“ има културни, исторически и законодателни пристрастия (нацистката партия е законна в Съединените щати) и че Алгоритмичният детерминизъм сам по себе си е ограничен от културния детерминизъм. И че всичко това ще даде много интересен урок;-)
И така днес, когато задаваме грешен въпрос (холокостът се е състоял?) Към търсачка, чийто алгоритмичен бизнес е да даде премия на изпълнителите и "популярност", и по-специално на нацистката партия и фаскосферата като цяло бивши майстори в актьорското изкуство и създаване на противоречия, първо получаваме отговор, който обяснява 10-те добри причини, поради които Холокостът никога не се е състоял.
Репортер на Guardian обобщи идеално целия цинизъм по случая (и неговото разрешаване) в статията, озаглавена „Как да избием най-добрите сайтове на Google за отказ? И да. Ще ви преведа най-важното:
„Успях да направя това, което Google каза, че е невъзможно. Аз, журналист без компютърни познания, успях да променя реда на резултатите от търсенето с Google на запитването„ дали холокостът наистина се е случил? “(.) Изритах Stormfront от върха от списъка. Вмъкнах резултат от страницата на Уикипедия за Холокоста. Замених лъжа с факт. "
Как? 'Или' Какво? Като играете с рекламната мрежа Adwords и като закупите платена връзка (страницата на Уикипедия за Холокоста) за всички искания за отказ, споменаващи Холокоста. Цената на операцията: между 24 и 289 паунда стерлинги. Бизнес както обикновено. Журналистиката има цена.
"Ако вече не виждате тази спонсорирана връзка, нямам повече пари. Всяко кликване ми струва 1,12 паунда и имам дневен лимит от 200 паунда."
Двеста пъти истината на ден. Ако някой реши да купи тази истина. За хилядите други ежедневни искания за Холокоста ще трябва да бъдем доволни от първите 10 причини, поради които това не се случи. И статията завършва, като цитира Дани Съливан:
„Google промени алгоритъма си **, за да възнагради популярните над авторитетни резултати. По единствената причина, че печели повече пари за Google.“
(** За модификацията на алгоритъма на Google, като „неволно“ засили интоксикацията в ущърб на информацията, вижте тази статия за Venture Beat)
И когато не се е случил Холокостът, Графиката на знанието на Google ни показва „фрагмент от функции“, който на въпроса „Интелигентни ли са чернокожите?“ отговаря, че това несъмнено е „най-малко интелигентната раса“. (двойно sic). И напоследък бихме могли да умножим примерите за това, което се възприема като пълен бараж на алгоритъма, но което е само демонстрация, че той напълно изпълнява поставения му офис: донесете повече пари на Google.
Ще мислим каквото искаме, но тази недвусмислена демонстрация трябва да убеди онези, които все още не са били, че всяко понятие за етика в мащаба на тази платформа е, ако не и излишно, то най-малкото разтворимо в техния модел. Което следователно се равнява на същото.
След това идват два други различни проблема: това на доверието, което имаме в тези резултати от търсенето, и това на отговорността на платформите за показване на този вид резултати.
По отношение на доверието, в действителност то нараства (всички проучвания показват, че ние винаги даваме повече заслуги за резултатите от изследванията от мрежата, в пряка конкуренция с тези от телевизията, радиото или пресата) и това доверие се възпитава. Следователно зависи от участниците в образователния свят да изградят образованието на гражданите около доверието, което имаме право да предоставим в резултатите от изследванията, преминали през алгоритмичния филтър. Това ще рече, за да обясни как работят алгоритмите, техните режими на истинност, тяхната логика на вирусност.
Относно отговорността на платформата, това е шега. Искам да кажа, с изключението на педофилията и в по-малка степен на изричния призив за тероризъм, шега е да се вярва, че платформите ще поемат своите отговорности. Необходимо е само да се види, по повод тази нова афера, как реагира Google, като обясни, че не искат да правят бизнес с сайтове за отричане (което не попречи на журналиста от Guardian да „купи тази ключова дума.), И обяснява в ред, който не се е променил от първите бомбардировки на Google, че тези резултати от търсенето не отразяват мненията на Google и че не е имало човешка намеса в техния алгоритъм и че съжаляват (и че, разбира се, без никаква ръчна намеса те пак ще почиства на ръка предложенията или най-лошите резултати за бизнеса).