Нуждаем се от морален кодекс за роботите

Днес живеем в епоха на ускорен технологичен прогрес, в който реалността се приближава шеметно бързо с визията на Азимов. Роботите са все по-голяма част от живота ни, все по-интелигентни, все по-автономни, все по-способни да инициират действия сами, да „мислят с главата си“ - дори тази „глава“ да е процесор - да излизат извън наложените условия. на човешкия контрол. При тези условия роботът може да направи много полезно и също толкова много вреда. Тук вече сме в ситуацията на изработване на морален кодекс за нашите роботи, система от закони, подобни на тази, която мисли Азимов. Визията му се превърна в реалност, бъдещето вече е тук. Но толкова ли е лесно да се изработи този морален кодекс?

Законите на роботите и техните интерпретации

Понастоящем хиляди проекти са фокусирани върху изграждането на машини, които не само могат да се движат, комуникират, изпълняват точно зададени от хората задачи, но и да вземат решения, в зависимост от условията, да избират свои собствени решения.; с други думи, да бъде автономен. И под машини или роботи имаме предвид не само хуманоидни роботи (които обаче представляват малцинство в днешния свят на роботите), но и множеството военни и утилитарни роботи с всякакви форми и размери, както и компютърни системи, които осигуряват автономната дейност на тези по-разнообразни композиции и които ще играят огромна роля в бъдеще, като бъдат интегрирани в хиляди системи, от безпилотни летателни апарати до оборудване, използвано в строителството, от домакински уреди до подводници, от автомобили без шофьори до хирургични мини-роботи. С други думи - всяка система, която „мисли“ с помощта на процесори, като е надарена с така наречения изкуствен интелект.

Крайната цел на изследванията на изкуствения интелект е да се създадат машини, които са възможно най-близо до хората по отношение на когнитивните способности и способностите за вземане на решения. Учените мечтаят за автоматизирани системи, които подобно на човека могат бързо да оценят ситуацията, да си припомнят натрупаните преди това знания, да прекарат всичко през ситото на моралните правила и, интегрирайки всички тези аспекти, да вземат решение, по което да действат. . Звучи просто. Но не е така.

Роботите на Азимов трябваше да се подчиняват на три закона, голям и широк, но всички се основават на забраната за увреждане на човек.

Роботът не трябва да наранява човешко същество или, ако не участва, да позволи на човешко същество да бъде наранено.
Роботът трябва да се подчинява на заповеди, дадени от хора, освен ако тези заповеди противоречат на Първия закон.
Роботът трябва да се защити, стига такава защита да не противоречи на първия и втория закон.

Статия, публикувана наскоро в „Икономист“, обаче насочи вниманието към някои сценарии - хипотетични, засега - при които послушен и добре образован „робот“, осъзнаващ важността на трите закона и решен да се съобрази с тях, би бил поставен в изключително трудни ситуации. . Какво трябва да прави автомобил без шофьор, например, когато има опасност да удари пешеходци: да се обърне рязко, за да ги избегне, с риск да нарани пътниците и да удари други автомобили? Или дрон, който трябва да стреля в сграда, където се крие терорист, какво да прави? Да унищожи сградата на всяка цена, за да постигне целта си, дори ако това означава убийство на невинни цивилни, които се намират в същата сграда?

Всъщност самият Азимов в някои от кратките истории, написани през целия си живот, след публикуването на Runaround, си представя сценарии, при които роботите нарушават един или друг от законите или поне мечтаят да го направят., като по този начин се предполага, че нито един набор от фиксирани правила не може да покрие напълно всички възможни ситуации. Което доказва, че нещата никога не са толкова прости, колкото на хартия.

Въпреки факта, че законите за роботите бяха формулирани преди 7 десетилетия, проблемът с моралния кодекс започна да се изостря едва през последните години, когато бурно развитие на системи, оборудвани с изкуствен интелект, принуди хората да осъзнаят това, с успехите се появява тревожна страна: тази за това как ще се държат тези творения - почти същества - когато станат автономни, както техните създатели искат. И така, говорим за съвсем скорошен феномен. Като доказателство изчерпателната работа по тази тема е скорошна:

През 2009 г. Oxford University Press публикува Moral Machines: Teaching Robots Right from Wrong (автори: Wendell Wallach и Colin Allen), цялостен синтез на предизвикателствата при изграждането на AMA и цитирайки приблизително 450 библиографски източника, по-голямата част от които датират от на 21 век.
През 2011 г. Cambridge University Press публикува сборник с есета за етиката на изкуствените системи (Machine Ethics; автори: Майкъл Андерсън и Сюзън Лий Андерсън)
Също през 2011 г. Ник Бостром и Елиезер Юдковски вмъкнаха статия, наречена „Етиката на изкуствения интелект“ в „Наръчник на изкуствения интелект в Кеймбридж“.

И така, по-голямата част от книгите и статиите, както и популярни статии, публикувани в различни публикации, датират само отпреди няколко години, което изглежда показва, че проблемът е станал остър. Несъмнено явлението е свързано с факта, че през последните няколко години роботите и като цяло системите, оборудвани с изкуствен интелект, наистина са станали способни на много, различни действия и решения, което поставя въпроса за морално възпитание на тези композиции.

Пред очите ни се появява нов тип създание: вече се говори за специална категория "същества", така наречените изкуствени морални агенти (AMA), системи, надарени с изкуствен интелект, но които ще бъдат (и ще бъдат) необходими за взема решения не само според обективни условия, но и в съответствие с морал, който ще им бъде "вкаран в главите" от тези, които са ги проектирали и изградили.

Експерименти, мнения, визии

Ето някои от последните проучвания, които илюстрират огромното значение на този аспект на технологията, както и мненията на някои специалисти по този сложен въпрос:

През 2008 г. експертът по изкуствен интелект Ноел Шарки от Университета в Шефилд, Великобритания, обърна внимание на факта, че роботите, създадени за забавление на децата и грижите за възрастните хора, трябва да бъдат подложени на етична строгост.

Но колко вероятно е еволюцията на роботите да наложи да ги дарим с морален кодекс? Статия в Popular Science извежда на сцената странния характер на лъжещия робот, не герой от фантастична литература, а такъв, който е станал истински. Това е експеримент, проведен от изследователи от Лабораторията за интелигентни системи на Федералното политехническо училище в Лозана, Швейцария, експеримент, фокусиран върху еволюционните възможности на роботите, способността им да учат и да си сътрудничат, за да намерят определен ресурс (полезен материал ) и избягвайте източник на вредни материали.

В експеримента участвали 1000 робота, разделени на групи от по десет. Всеки робот беше снабден със сензор, сигнална система (синя светлина) и „геном“ - двоичен код, който контролира как роботът реагира на стимули. Роботите от първо поколение бяха програмирани да светят синята си светлина, когато откриха полезния източник, помагайки на други роботи да го намерят.

Топ 200-те роботи, тези, които най-бързо успяха да намерят най-добрия добър ресурс, формираха основата за следващото поколение. Техните "геноми" бяха комбинирани и резултатът беше използван за програмиране на ново поколение роботи.
След 9 поколения роботите са станали изключително ефективни при намирането на ресурси и комуникацията с други роботи, за да ги насочат към ресурси. Но ако робот намери ресурса, той сигнализира, че го е намерил и всички останали се трупат там, за да го използват, това означава, че остава по-малко за този, който го е намерил, нали? Невероятно, но вярно: това „мислеха“ някои от роботите в експеримента. И не само разбраха проблема, но и намериха решение.
След 500 поколения 60% от роботите се научиха да лъжат: не запалиха крушките си, когато намериха ресурса, който търсеха; това, което са намерили (само) тяхно! Но беше още по-силно, когато други роботи забелязаха, че лъжците ги фалшифицират, запазвайки светлината и започнаха да търсят онези без крушка, осъзнавайки, че е по-вероятно да са намерили това, което трябва да бъде намерено. . С други думи, те са направили точно обратното на това, което е било планирано да направят!

Така роботите могат да се научат да лъжат. И ако се лъжат един друг, не може ли един ден да ни излъжат? И ако в крайна сметка ни излъжат, какво може да попречи на някои от тях да се справят още по-зле (от наша гледна точка)? Някои от тях биха могли лесно да ни навредят физически; надарени с оръжия (кой знае дали не биха могли сами да ги построят?) дори може да ни убие. Звучи като параноичен делириум? Може би. Но ако големите, неинтелигентни индустриални машини представляват реална опасност за хората, когато се обработват без подходящи грижи, въздействието на AMA без моралните ограничения, които позволяват на човечеството да живее живота си в относителна опасност, може да бъде още по-опасно. безопасност.

Естествен сценарий, разбира се, но тук, повече от половин век след тази интерпретация, вече имаме проблема с еволюцията на изкуствените интелигентни системи, границите на тази еволюция, как бихме могли да ги снабдим с уроците, необходими за хармонично съжителство. с човека, техния създател, когато границата между човешките познавателни способности и тези на WADA ще стане напълно тънка или ще изчезне.

Как да ги научим да различават злото от доброто? Как да ги защитим от злините, които ни преследват и често се изплъзват от хватката на моралните задръжки, като причиняват толкова много вреда на околните: егоизъм, алчност, жажда за власт?

Засега ги контролираме и възможността те да поемат контрола изглежда като утопия. И все пак фактът, че хората, които ежедневно работят с тези системи (и знаят добре какво могат и какво не могат) се занимават с въпроса за етиката на тяхното функциониране, показва, че времето, когато ще трябва да намерим морална основа за съвместно съществуване, не е доколкото си мислех.