Как можем да използваме разумно алгоритмите? Йорг Дрегер, член на изпълнителния съвет на фондация Бертелсман, im
Изпълнителният съвет на фондация Бертелсман не вярва в плашещ дебат за последиците от цифровизацията. В интервю за Thoralf Cleven 51-годишният описва как дигиталната промяна може да модернизира нашето общество и да го направи по-справедливо - ако използваме разумно алгоритми.
Когато отида до колата след работа, смартфонът ми докладва редовно и без да бъде питан с времето, изчислено за пътя за вкъщи и алтернативните маршрути, в зависимост от пътната обстановка. Практично е, но и някак плашещо, нали?
Такива опори са страшни, стига да ни карат да се чувстваме като извън контрол. За мен това съобщение се появява, след като ставам - с време до офиса или среща. Но знам какви данни използва това приложение и - много важно - как мога да го спра. Ние всички имаме тази сила. От друга страна, никога не би ни хрумнало да се замислим как работят алгоритмите, ако внезапно се наложи да настъпваме спирачките по време на шофиране и антиблокиращата система ABS ни помага да останем в лентата. Но това също е резултат от алгоритмичния анализ на данните.
Затова става по-важно всеки от нас да е наясно кога и как алгоритъмът действа с нас?
Да. Преди всичко трябва да сме наясно със социалните последици. Навигационното устройство в колата, например, определя времето за шофиране и по този начин живота при насочване на маршрута, но също така и чрез евентуално оптимизираните емисии на CO2 и скоростта на климата или шумовото замърсяване.
Има ли все още области от живота, в които данните не играят роля?
Насаме, да, поне докато ги изключваме. В противен случай? В САЩ съдиите използват алгоритми, за да определят степента на наказанието, те са се превърнали в незаменима част от подбора на персонал и дори местата за начални училища - например в Берлин - сега са разпределени по този начин. Така че алгоритмите отдавна са престанали да определят технически области като ABS, но сега играят решаваща роля в живота на всеки индивид. Ето защо е важно да говорим по-малко за краткосрочните ефекти от използването на изкуствен интелект и повече за дългосрочните ефекти. Те са изключително формиращи за бъдещото общество.
Предпочитате ли всъщност да говорите за алгоритми, изкуствен интелект или интелигентни машини?
Алгоритъмът звучи много технически и е по-скоро възпиращ. Изкуственият интелект създава впечатлението, че ние, хората, сме заместени. От моя гледна точка правилният термин е „разширена интелигентност“. Той може просто да разшири уменията ни и да ни помогне, да поемем много специфични задачи, като например анализиране на огромни количества данни.
Защо в миналото бяхме по-малко притеснени от използването на данни - ключова дума ABS - и сега развиваме истински страх?
Изкуственият интелект често се свързва с терминатора или матрицата от филми. И политическият дебат се върти най-вече около това колко работни места ще бъдат унищожени. И двете имат негативни конотации и водят до защитни реакции. По-добре би било да обсъдим как можем да подобрим човешките си способности с помощта на машини. Защото за това става въпрос. Социалната придобивка трябва да бъде на преден план. Защо не попитаме как можем да изградим по-добро общество с подобрена интелигентност?
Може би защото работата им е важна за мнозина? Какви биха били вашите стълбове в такъв дебат?
Разбира се, работата е много важна. Ето защо е толкова важно днес да решим как искаме да живеем и работим утре. Когато се използват разумно, алгоритмите предлагат възможности за повече справедливост и глобална справедливост, по-добър достъп до образование или работни места, отколкото имаме или можем днес.
Какво имаш предвид конкретно?
Използвайки технология в процесите на кандидатстване, вече мога да гарантирам, че повече жени се предлагат на ръководни позиции. Също така мога да позволя по-малко дискриминация по произход в съдебни производства. Следователно зависи от човешката преценка как и за какво изграждаме и използваме алгоритми. Става въпрос за контрол и прозрачност на процедурите. Алгоритъмът често държи огледало на това как се държим. Това може да засили несправедливото ни поведение, но хората също могат да превключат с него.
Икономиката се стреми към ефективност. Не е ли това често в противоречие със социални интереси като участието на всички хора - независимо дали са физически увредени или хронично болни или произхождат от бедно семейство?
Мисля, че е по-ценно да направим обществото с 20 процента по-справедливо, отколкото автомобилното производство с 20 процента по-ефективно. Пример: В САЩ кол център използва алгоритми за намиране на служители от кандидати, които ще останат дълго време, без да напускат. Работи страхотно. Тогава обаче беше забелязано, че хората от проблемните области изобщо не са си намерили работа, така че просто са били дискриминирани. Ето защо компанията реши да заглуши алгоритъма на този етап, така че да не прави повече дискриминация. Приоритетът беше: справедливост пред ефективността.
Алгоритмите обаче не могат да предотвратят по-късна дискриминация в ежедневието или на работното място въз основа на цвета на кожата или произхода.
Не, чувствителността към проблемите трябва да дойде преди тяхното алгоритмично решение. Тогава хората получават възможности, които едва ли са имали преди. Това от своя страна ще доведе до промяна в нагласите и ценностите, убеден съм в това. Алгоритмите не се интересуват откъде идвате, на колко години сте, цвета на кожата, пола и образователния си път. Например ще можете да използвате компютърни игри, за да разпознаете своите компетенции и да ги комбинирате с изискванията на дадена работа. Не само прецизността е впечатляваща. Впечатлен съм от потенциала за по-справедливо общество - програмите не гледат само на евентуално неравен образователен път и липсата на формална квалификация. Виждате и невидимите, скритите способности на индивида.
Можем ли да изключим чувството си за червата, преди да вземем решения?
Определено не. Но ние можем да сравним нашата вътрешна чувствителност с помощта на данни и да дадем на нашите черва различно вещество. Ако погледнем отблизо първо, за да дадем на всички равен достъп до все по-цифровия свят, щеше да се постигне много.
Справедливи ли са алгоритмите?
Те са също толкова справедливи или несправедливи като хората. Ако ги изградя по съответния начин, те могат да донесат справедливост. Но те не могат да ни освободят от социалния дебат за това, което е справедливо. Например в Съединените щати е установено, че определени популации имат по-лесен достъп до университети, отколкото други. В резултат беше установено, че засегнатите малцинства в бъдеще ще бъдат достатъчни, за да имат по-слаба гимназиална квалификация, за да получат място в университет, за което мнозинството ще се нуждае от по-добър сертификат. Честно ли е Това трябва да бъде обсъдено и решено в политически процес. Във всеки случай това е лост за отстраняване на структурните недостатъци.
Нали това е егалитаризъм?
По-специално в образователния сектор изкуственият интелект би могъл да сложи край на изравняването чрез персонализирано обучение и в същото време да стане по-социално справедлив: Индивидуалната подкрепа вече не трябва да зависи от кредитната карта на родителите. Алгоритмите няма да заменят учителя - той ще бъде от посредник на знанието за всички до спътник на обучението за индивида.
Сега алгоритмите вече вземат официални решения. Кой поема отговорност, когато грешиш?
Всеки, който е решил да използва алгоритми, също трябва да поеме отговорност за тях след това, включително осигуряване на качеството.
Познати сме с оценките на въздействието от законодателството в областта на строителството и околната среда. Имаме ли нужда от нещо подобно и за алгоритмите ?
Възможно е. Винаги ще има области, в които е достатъчно да се знае, че алгоритмите работят - например при предоставяне на автомобили под наем. След това има области, в които искаме да разберем решенията - например със застрахователните тарифи за автомобили, които се определят от програми за анализ на данни и нямат право да дискриминират никоя група от населението. Нуждаем се от задължителни процедури за одобрение в чувствителни, социално значими области - например при одобрение на медицински роботи или при поддържаща употреба в съдилищата. Трябва да има опции за контрол и оплаквания както в цифровия, така и в аналоговия.
В крайна сметка, дали алгоритмичното общество е по-демократично, отколкото е днес?
Алгоритмите определено ще ни дадат достъп до повече информация. Дали те също могат да направят обществото по-демократично, ще зависи от това дали ще успеем да влезем в сериозни политически дискусионни процеси с доставчиците на социални медии за опасностите от катализаторите, ехо камерите на радикализацията. В момента техните алгоритми популяризират и засилват все по-крайните мнения. Компенсацията обаче може да бъде и технически подкрепена.
Балансът се счита за скучен във Facebook или Twitter.
Но трябва ли да приемем това, ако по-голямата част от обществото иска баланс? Мисля, че в този момент корпоративната социална отговорност е да пробият техните търговски интереси - в името на мирното съжителство. Тук определено има положителни примери: След последната американска предизборна кампания Facebook имаше огромен дебат за политическо влияние на врата си. В резултат на това механизмът за търсене на Google беше изследван във федералната предизборна кампания - в резултат на което личните характеристики едва ли играят роля в политическите заявки за търсене на резултатите. Така че работи.
Федералното правителство прие „AI стратегия“ за работа с изкуствен интелект. Каква отговорност пада на държавата по отношение на цифровите промени?
За държавата цифровата промяна означава преди всичко, че тя трябва да развие подходящите дизайнерски умения. В две отношения: Държавата създава рамкови условия за работата на интелигентните машини с цел те да служат на общото благо. В същото време самата държава управлява алгоритмични системи в органите за сигурност, социални или финансови органи, решенията на които никой гражданин не може да избегне. Следователно държавата има двойна роля, която трябва да изпълнява бързо и всеобхватно.
Достатъчно ли сме бързи?
Може би си струва да разгледаме Китай. Животът на китайците е почти алгоритмичен. Това стига дотам, че чрез спазване на правителствените разпоредби или друго добро поведение в акаунта ви на граждани се натрупват бонуси, с помощта на които можете да се качите в самолета покрай чакащите линии.
Това звучи доста обезсърчително.
Китай изобщо не трябва да бъде пример за нас - но примерът ни подтиква да побързаме да намерим собствените си отговори. Независимо дали ни харесва или не: трябва да говорим за това, което искаме и какво не е позволено да съществува. Това обаче е по-взискателно от спорния дебат за това колко работни места могат да бъдат загубени чрез дигитализация. Защото става въпрос за нашите ценности и въпроса как ги свързваме с нашето бъдеще. Примерът с Китай доказва, че това бъдеще вече е започнало.