Изкуственият интелект се нуждае от Magna Carta - HBR
Време за четене: 7 минути
Машини, по-силни от хората? С напредването на изкуствения интелект научната фантастика става реалност. Но не е късно да зададете правилата, за да живеете в хармония с машините.
Компанията е в основен момент в своето огромно и непознато цифрово бъдеще. Мощна технология, изкуствен интелект (AI), се издига от пепелта си, до голяма степен благодарение на напредъка в невронните мрежи по модел на човешкия мозък. AI може да забелязва модели в огромни неструктурирани набори от данни, да подобрява производителността, когато данните станат достъпни, да идентифицира обекти бързо и правилно, да дава препоръки и да взема все по-точни решения, като същевременно намалява намесите и следователно намесата на сложни и "политически" човешки същества. Това повдига важни въпроси относно степента на избор и включване на хората през следващите десетилетия. Как ще бъдат включени и представени хората на всички нива на власт и доходи? Как ще управляваме този „смел нов свят“ ?
Да се върнем осем века назад, през януари 1215 г. Връщайки се от Франция, английският крал Жан Сан Тере се изправя пред гнева на бароните, които искат да сложат край на непопулярния му режим на „vis et voluntas“ (сила и воля). В знак на умиротворение, суверенът и архиепископ на Кентърбъри събират в Лондон 25 бунтовнически барона, за да преговарят за "Харта на свободите", която ще закрепи набор от права за контрол върху преценката на краля. През юни те постигат споразумение, което гарантира по-голяма прозрачност и представителност в кралските решения, определя ограничения на феодалните данъци и налози и дори предоставя определени права на крепостни селяни. Известната "Magna Carta" беше недостатъчен документ, изпълнен с клаузи от особен интерес, но ние го виждаме днес като ключов момент в прогреса на човечеството към справедливи отношения между властта и тези под нея. Хартата подготви почвата за Ренесанса, Просвещението и демокрацията.
Именно този баланс между все по-голямата сила на новия потент - интелигентната машина - и този на човешкото същество е този, който е заложен, в свят, в който машините винаги ще създават по-голяма стойност, ще произвеждат повече собствени обекти. днес, като същевременно намалява човешкия контрол върху дизайна и решенията. Работата и начинът на живот определено се променят. Нашето творение вече ни е подминало.
AI формира нашите мнения
Залогът надхвърля заетостта и икономиката: във всички сфери на живота машините започват да решават вместо нас, без нашето съзнателно участие. Те разпознават нашето поведение в миналото и това на хората, за които се предполага, че са като нас по целия свят. Получаваме информация, която оформя нашите мнения, перспективи и действия според предпочитанията, които сме изразили чрез предишните си действия или тези на други, които действат в нашите сфери. На волана на нашата кола ние предаваме поведението си на производителите на автомобили и застрахователните компании, за да се възползваме от технологиите за пилотиране на все по-автономни превозни средства, което в замяна ни носи нови услуги и по-безопасно транспортно средство. Производителите на любимите ни развлечения и видео игри, по-богати и персонализирани от всякога, използват нашите социално-икономически профили, език на тялото и когнитивни и визуални предпочитания, за да преценят нашата ценова чувствителност.
Докато приемаме нови услуги, ние избираме да се доверим на машина, която да ни „изчисли правилно“. Машината в крайна сметка ще ни познава може би по-искрено, отколкото ние самите - поне от строго рационална гледна точка. Но това няма да вземе предвид когнитивните пропуски между това, за което се твърдим, че сме и това, което всъщност сме. Въз основа на реалните данни за нашите действия, той ни ограничава до това, което сме били, вместо да се интересуваме от това, което бихме искали да бъдем или да се надяваме да станем.