K; Какво! Но k; роботите също могат да f; изберете APuZ
Ако можете да пожелаете интелигентна машина, каква би била тя?
Теа Дорн - Искам да работя с главата и сърцето си, поради което мисля, че е прекрасно, че устройствата ми правят домакински задължения, за които бих стиснал само зъбите си. Но никога не ми е хрумнало да наричам пералнята си интелигентна.
Раул Рохас - Искам технология, която не ми пречи постоянно и ме заключва за компютъра - както правят имейлите например. Нямам мобилен телефон, това е изходът ми. Искам да използвам мозъка си за нещо друго. Така че разработвам автономни превозни средства, които могат да се използват като таксита.
Не сме ли на тяхната милост?
Рохас - не Напротив. Искам да превърна колата във вид обществен транспорт. В Берлин имаме 1,3 милиона превозни средства, плюс автобуси и метро. Бих искал да имам 100 000 автономни превозни средства вместо автомобили: споделено такси. Те качвали хора на улицата и ги отвеждали до метрото, автобуса или друга дестинация. Карате заедно, споделяйте разходите. Това облекчава трафика. Вече няма да има платна за паркиране и велосипедите ще могат да използват платното, което е станало безплатно. Ще има по-малко инциденти. И би било толкова удобно! Вече няма нужда да се карам сам, мога да вляза в такси, да чета, да работя. Това би било моето „автопиене“ за града.
дорник - Без възражение срещу тази визия! В крайна сметка не ме интересува дали шофьорът е зад волана или колата се кара сама. Но засега все още сме сами зад волана - и постоянно ни покровителстват. Вбесява ме, когато колата ми се опитва да ми каже чрез истерично надничане как да паркирам или кога да си взема почивка. А навигационните системи са най-чистите машини за ориентация. Ако е възможно, ще изключа всичко.
Рохас - Нямам и навигационна система. Но сериозно: изнасям много лекции за автономни превозни средства и най-честата реакция е: Не искам някой да ми отнема волана! Отговарям: Богатите хора имат шофьор и не ги интересуват подробностите. Не искаме ли всички да сме богати? Тогава вече не се интересувам от шофиране. Чета вестника си, книгата си, докато шофьорът не каже: Пристигнахме.
дорник - Това също: красива визия! Просто се страхувам, че хората няма да използват спечеленото време, за да четат Аристотел или поне да четат вестника. Те ще се занимават още повече с устройствата си. Но разбира се е вярно, че - особено в големите градове - трябва да се подобри много в трафика. Всеки, който е пеша или с колело в Берлин, мрази автомобилния трафик.
Но?
дорник - Загрижен съм от бързината, с която делегираме решенията, които някога трябваше да взимаме сами, или уменията, които трябваше да придобием сами, на технологията: развивам усещане дали съм се движил достатъчно днес? Няма нужда, казва ми приложението за здраве. Планиране на инвентара? Няма нужда, хладилникът знае кога да добави ново мляко. Научете чужди езици? Защо, има програми за превод.
Г-н Рохас, вие искате технология, която прави нещата вместо вас и държи работата далеч от вас. И така, нека си представим домакинство, което пере само пране, прави храната ...
Рохас - Не не. Не обичам домашните роботи. Моят личен спорт е косене на тревата, бране на листа и пране. Не бива да облекчавате хората от всичко в домакинството, защото те ще спрат да се движат и ще напълнеят. Като във филма "WALL-E". Знаеш ли това?
дорник - Само ремаркето.
Рохас - Хората седят на летящ диван, с екрана пред носа си, а роботите носят храната. Такова бъдеще би било жестоко. Следователно някои машини, които биха могли да бъдат изградени, не трябва да се произвеждат по социални причини. Роботи за грижи за болници, например, които свеждат до минимум контактите между болните и другите хора.
дорник - Масивна работа се извършва по тяхното развитие. От една страна, това е разбираемо: има недостиг на медицински сестри, така че защо да не използваме роботи, за да помогнем? От друга страна, с всяко технологично решение на социален проблем, нашето социално творчество ще продължи да намалява. По същество ми се струва, че става въпрос за: Как да запълним свободните пространства, които ни дава новата технология? Наближаваме ли Атина 4.0, в която всеки може да философства и да спортува от сутрин до вечер, защото приятелски настроените роби роби вършат цялата досадна работа вместо тях? Или се оказваме така, както „WALL-E“ предполага: дебел, мързелив и глупав?
Рохас - Това е дилемата. Класическата античност така или иначе не ми е пример за подражание, защото само мъжете бяха свободни, докато жените и робите вършеха работата. Мисля повече за утопичните социалисти.
дорник - Троцки би бил голям защитник на технологизацията днес, защото се надяваше, че това ще даде на хората свободата да образоват.
Рохас - Големият въпрос с ранните социалисти беше кой работи по-ниско. Вашият отговор: машини. Фридрих Енгелс пише, когато е бил още малък: Казахте, че се нуждаем от по-нисък клас, който почиства тоалетните, но сега има автоматична тоалетна, която се измива сама! За него това доказа, че човечеството на бъдещето ще бъде освободено от тези лоши работни места - социалистическата утопия от 19-ти век. Сега имаме много повече машини, отколкото Маркс и Енгелс някога са мечтали, но нямаме голямо бъдеще със свободни хора. Човек може почти да се отчая.
дорник - добре Мисля, че хората имат само две възможности: Или продължават да се примиряват с факта, че освен всички велики неща, които могат да направят, те имат и ограничени недостатъци: понякога тъжни, понякога болни и в крайна сметка има смърт. Или иска да остави всичко това завинаги и да бъде завинаги във форма, винаги в добро настроение и в крайна сметка безсмъртен. Нашият случайен, хуманистично оформен образ на човека щеше да свърши. Подозирам, че в Силициевата долина бих спечелил подигравателен смях, ако кажа там, че считам по-нататъшната оптимизация на хората в машинен стил за край на нашата автономност и достойнство. Най-смелите там мечтаят да качат мозъка си в облака, където той може да се слее със световното знание: пълно разтваряне на границите. На моя език: краят на личността, характера, индивида.
Рохас - Всичко това са фантазии, всички са глупости.
дорник - Успокоен съм, когато казвате това.
Като нормален читател, откъде да знам, че това са глупости?
Рохас - Трудно е да се разбере. Рей Курцвейл, ръководителят на трансхуманизма, преди десетилетия твърди, че хората ще бъдат заменени от машини, че в един момент ще има само машинен интелект. Той казва, че до 2030 г. компютрите ще имат толкова транзистори, колкото хората имат неврони, така че машините автоматично ще бъдат по-умни. Това са глупости и са самонадеяни. Отново и отново забелязваме колко сме още далеч от разбирането на мозъка и познанието. Всеки, който вярва, че машините могат да бъдат точно като хората, не разбира, че сме тяло и ум.
дорник - Kurzweil е толкова последователен, че тялото е досаден придатък на ума.
Рохас - Ако можеше да съхранява цялата си информация на твърд диск, бързо щеше да установи, че няма да бъде същият без тялото си.
дорник - Както казах: Надявам се, че сте прав и „сингулярността“, за която Курцвейл мечтае, никога няма да съществува. И все пак не мисля, че човек трябва да отхвърля всички транс- и постхуманистични визии ...
Рохас - Но. (смее се)
дорник - ... защото те ни изправят пред изчезващата точка на нашата технологична история на цивилизацията. Те ни принуждават да се запитаме: Наистина ли искаме да завършим пътя, който сме избрали толкова радикално?
Рохас - Изграждането на роботи е като магьосник и хората се заблуждават. Пример: ако оставите малки роботи да бутат произволно кубчета, в даден момент в средата на арената ще се образува купчина. Случайно е, но хората си мислят: А! Роботите изграждат кула заедно. Ти си интелигентен!
дорник - Не е ли така, защото хората винаги са мечтали да създадат същества, които безкрайно превъзхождат - по отношение на здравето, дълголетието, красотата, силата, интелигентността? Пигмалион и идеалната жена, еврейска митология и Голем, Ницше и свръхчовекът. Така че не съм изненадан от този ентусиазъм. Но споделям вашата оценка, че все още имаме работа с доста евтина магия на щанда, поне в момента. Бях на рецепция онзи ден и малко бяло роботче се разхождаше, поздравяваше гостите и можеше - най-вече - да разбере дали е мъж или жена. Ако мислеше, че вижда дама, имаше роза.
Рохас - Това е популярна глупост. Знам какво е състоянието на техниката. Всички готвим само с вода. Хората, които изграждат тези роботи, се държат така, сякаш роботът наистина разбира много. Вместо да обясняват ограниченията и проблемите на технологията, те преувеличават прекомерно, за да получат инвеститори или нови пари за научни изследвания.
дорник - Вярвате ли, че тези Изкуствени Интелигенции един ден биха могли да развият нещо като емоции?
Рохас - Не. Това е абсолютно немислимо. Работя по него от 35 години. Има някои скромни умения, на които се опитваме да преподаваме компютри. Но: разпознаването на реч все още не е чудесно. Има няколко полезни неща като разпознаване на лица на летището или системи за превод. Последните работят, защото сега има толкова много книги онлайн на немски и английски, че компютърът може автоматично да научи съответствието между двата езика.
Това се нарича дълбоко обучение - хората обучават програмите с големи количества данни.
Рохас - Да. Той обаче работи само до известна степен. Показвам на компютъра милиони снимки на котки. Тогава в един момент той ще разбере какво е котка. Но когато го питам защо? Той не може да го обясни.
Откъде идват тези данни?
Рохас - От всички нас.
дорник - Всеки ден.
Рохас - Ако качите снимки в Instagram, данните попадат във Facebook. Това им позволява да подобрят програмите си за разпознаване на лица. Или програми за разпознаване на котки. Ние генерираме тези данни - доброволно и безплатно за Google и Facebook.
AI на Google наскоро нарече черни хора горили. Друг AI свързва кухнята и жените. Системите не се учат по стойностно неутрален начин?
Рохас - Не. При дълбокото обучение има само модели. И това води до решение. Ако една жена трябва да бъде видяна в 90 процента от рекламите за кухнята, тогава е ясно откъде идва това. Големите данни съдържат всички наши ценности, противоречия и предразсъдъци.
дорник - Чух, че една от онези така наречени автономни системи във военните, които разпознаваха танкове, изведнъж се провали. Никой не знаеше защо. Тогава беше установено, че по-голямата част от изображенията, използвани за обучение на системата, показват танкове под синьо небе. Сега небето беше облачно и системата загуби.
Рохас - За съжаление това е приказка, такава система никога не е била използвана. Сериозен пример е катастрофата на Тесла, защото е била замесена истинска търговска система. Тогава бял камион блокира магистралата. Камерата на колата не можеше да различи облаците в небето от камиона; тя не спираше.
дорник - Нищо не може да замести човешката преценка. Хората са в състояние да претеглят и да стигнат до присъда, да спорят и да оправдаят своето решение. Може ли това да е една от разликите между изкуствения интелект и нас?
Рохас - Да. Всъщност машините нямат дълбока преценка. Преди всичко те нямат интуиция, нямат такт.
дорник - Има много повече от това: изкуственият интелект няма чувство за срам или вина, няма съжаление, няма съвест. Въпросът, който често се задава на вашата изследователска област, е: Кой е отговорен, ако самоуправляваща се кола реши в несигурна ситуация да прегази пенсионираната двойка, а не майката и детето? Не трябва ли наистина да се питаме какво означава, когато стотици хиляди превозни средства скоро са по нашите пътища, на които просто не им пука дали ще прегази някой?
Рохас - Продължавам да чувам този въпрос: Кой е отговорен? Разбира се хората, които изграждат системата! Моето предложение е да работите толкова добре предварително, че такива ситуации не могат да възникнат на първо място. Минимално разстояние, намалена скорост, леки строителни материали - ако вземем всичко това предвид, можем да се надяваме да изградим автомобилни системи, които не причиняват сериозни сблъсъци и в крайна сметка са по-безопасни от днешните автомобили.
Трябва ли ИИ да се регулира международно?
дорник - Човечеството основава Международната агенция за атомна енергия, когато осъзнава каква опасна и потенциално застрашаваща земята сила е отприщила с ядрена енергия. Вероятно е време да помислим дали не се нуждаем от подобно съоръжение, което да наблюдава развитието и използването на AI.
Рохас - Винаги съм за регулацията, например за генното инженерство и оръжията. Само в този специален случай не виждам веднага как интелигентните алгоритми могат да бъдат регулирани. Трябва да помислите внимателно - решението не е точно тривиално.
И наистина не трябва да се притесняваме, господин Рохас, че роботите един ден ще бъдат по-умни от хората или един ден ще се освободят от нас?
Рохас - Определено не е през този век! Като цяло не мисля, че роботите в даден момент ще поемат контрола над нас. Конрад Цузе, първият производител на компютри в Германия, веднъж каза: Ако компютрите станат твърде нахални, дръпнете щепсела.
Интервюто се появи за първи път в "Крисмън".
Модерация: Mareike Fallet и Michael Güthlein, chrismon 12/2017, www.chrismon.de
Този текст е публикуван под лиценза на Creative Commons "CC BY-NC-ND 3.0 DE - Приписване - Нетърговско - Няма производни произведения 3.0 Германия". Автори: Теа Дорн, Раул Рохас за От политика и съвременна история/bpb.de
Имате право да споделяте текста, като назовавате лиценза CC BY-NC-ND 3.0 DE и авторите.
Информация за авторските права върху изображения/графики/видеоклипове може да бъде намерена директно с изображенията.
Теа Дорн, Раул Рохас
Теа Дорн
е писател и философ. Нейният роман "Die Unglückseligen" (Knaus) е за премахването на смъртността. Темата за изкуствения интелект я засяга: На тазгодишното годишно заседание на Германския съвет по етика на тема „Автономни системи“ тя разследва въпроса как тези машини променят нашия образ на себе си.
Раул Рохас
е математик и професор по компютърни науки в Свободния университет в Берлин. Той оглавява Центъра за машинно обучение и роботика в Далем и става известен с роботи, играещи футбол, с които той и екипът му печелят много шампионати. В момента работи върху автономни превозни средства, прототипът се нарича „AutoNOMOS“. По това време докторската му дисертация имаше съвсем друга тема: Карл Маркс.