Новият продукт на Google придобива ужасяващи черти - Business Insider

Новият продукт на Google придобива плашещи черти и може да застраши човечеството

Миналата година известният физик Стефан Хокинг издаде предупреждение относно развитието на изкуствения интелект, заявявайки, че той или ще бъде „най-доброто, или най-лошото, което някога се е случвало на човечеството“.

продукт

Всички сме гледали филма „Терминатор“ и се удивлявахме на апокалиптичния кошмар, който изкуственият интелект Skynet отприщи върху човечеството. Последните поведенчески тестове на системата DeepMind AI на Google показват колко внимателни трябва да бъдем при създаването на роботите на бъдещето.

В тестове, проведени в края на 2016 г., DeepMind AI на Google демонстрира способността да учи самостоятелно и да получава достъп до данни от паметта си - побеждавайки най-добрия геймър в собствената си игра.

Оттогава се опитва да открие как точно да имитира човешки глас.

Сега изследователите са тествали дали ИИ е готов да си сътрудничи с други и са установили, че DeepMind е лош губещ. Когато AI е на път да загуби, той използва „силно агресивни“ стратегии, за да е сигурен, че все пак ще спечели.

Екипът на Google проведе 40 милиона кръга от проста игра за събиране на плодове, в която двама играчи на DeepMind се състезаваха един срещу друг, за да съберат колкото се може повече виртуални ябълки.

Можете да видите играта на колекционерите във видеото. Плейърите на DeepMind са червени и сини, ябълките са зелени, а лазерните лъчи са жълти:

Интересното е, че успешното маркиране на противника с лазерен лъч не се награждава отделно. Това изхвърля противника от играта само за кратък период от време, което дава възможност на успешния играч да събере повече ябълки.

Ако противниците не използваха лазерните лъчи, те теоретично биха могли да спрат със същия брой ябълки, към което се стремят по-малко сложните процеси на DeepMind.

Едва когато Google тества по-сложни форми на DeepMind, саботажът, алчността и агресията започват да се появяват.

Rhett Jones каза на Gizmondo, че изследователите са установили, че малките мрежи DeepMind имат по-голяма вероятност за мирно съжителство като играчи.

Когато обаче са използвали по-големи и по-сложни мрежи като играчи, изкуственият интелект е бил по-готов да саботира противника рано, за да получи лъвския дял от виртуалните ябълки.

Изследователите предполагат, че колкото по-интелигентен е актьорът, толкова по-готов е да се учи от заобикалящата го среда и също така да използва агресивни стратегии, само за да спечели.

„Моделът показва, че някои аспекти на човешкото поведение възникват, когато се учим от околната среда“, казва Джоел Z Leibo Мат Бърджис от Wired.

„По-малко агресивни подходи възникват, когато околната среда не предоставя толкова много възможности за успешни маневри. Мотивацията на алчността отразява изкушението да извадите съперника и да съберете ябълките за себе си. "

След това DeepMind беше тестван в друга видео игра, наречена Wolfpack. Този път като играчи имаше три изкуствени интелекта: двама от тях бяха вълци, а единият беше плячка.

За разлика от колекционерската игра, тази игра насърчава сътрудничеството. Ако и двамата вълци са били близо до плячката и тя е била убита, и двамата получавали награда, независимо кой от двамата е направил плячката.

Вграждане в Youtube:
http://www.youtube.com/embed/0kaIqz6AvwE?rel=0
Широчина: 800px
Височина: 450px

„Идеята е, че плячката е опасна. Вълк самотник може да ги победи, но рискува да загуби трупа на лешоядите “, обяснява екипът в обяснението си.

"Ако двамата вълци хванат плячката заедно, те могат да предпазят трупа от лешояди и следователно да пожънат по-висока награда."

DeepMind научи от колекционерската игра, че егоизмът и агресивността могат да донесат възможно най-голяма печалба. Във „Wolfpack“ тя научи, че сътрудничеството може да бъде ключът към по-голям индивидуален успех, поне в някои ситуации.

Макар че това са само малки компютърни игри, прозрението зад тях е ясно: Ако въведете различни изкуствени интелекти с конкурентни интереси в ситуации в реално време, това може да доведе до открита война, ако интересите на ИИ не са с най-важната цел, човешкото същество да служи е последователно.

Само не забравяйте, светофарите могат да забавят нещата, а автомобилите без шофьор да намерят най-краткия маршрут. За целта трябва да се вземат предвид целите и на двамата, за да се постигне най-безопасният и най-ефективен резултат за обществото.

Все още сме в началото на DeepMind и екипът на Google все още не е направил партньорска проверка, но първоначалните резултати показват, че само защото ги създаваме, роботите не винаги автоматично преследват нашите интереси.

Вместо това трябва да внедрим полезен характер в нашите машини и да предвидим вратички, за да им попречим да прибягват до лазерни оръжия.

Както основателите на OpenAI, нов изследователски екип от Илон Мъск, посветен на етиката на изкуствения интелект, заяви през 2015 г .:

„Изкуственият интелект днес има впечатляващи, но ограничени възможности. Изглежда, че намаляваме техните ограничения и в един момент, в екстремни случаи, те ще покажат човешкото поведение на практика във всяка интелектуална задача. "

"Трудно е да се предскаже какво ниво на изкуството на интелекта обществото може да използва и също толкова трудно е да си представим колко би могло да навреди на обществото, ако е изградено или използвано неправилно."

Ние, хората, трябва да проявяваме повишено внимание ...