Единствеността, тя не задържа вода! "; Интернет новини
От научна фантастика до наука
"Сингулярността, тя не държи вода", извика той като вик от сърце по време на неотдавнашна среща около книгата му, организирана от Digital Renaissance (аудио). Докато Singularity първоначално описва критична точка във функция в математиката, понятието бързо избяга от първоначалната си област. Сега той обозначава друга критична точка: обещанието, че интелигентността на машините надвишава тази на хората (вижте многобройните ни публикации по въпроса). Проблемът е, че това пророчество не звучи сериозно: по-скоро прилича на колекция от идеи от PowerPoint, отколкото на аргументирани разсъждения. Малката книжка на Жан-Габриел Ганасия уместно напомня историята на тази комбинация.
Изображение: Законът на Мур чрез Zdnet.
Автономността на машината не е за утре
Жан-Габриел Ганасия критикува самия мит за машинния интелект. Ако производителността на технологиите спира дъха (помислете например за AlphaGo или автономни автомобили) и ще продължи да бъде така, като разширява своите полета на действие, могат ли тези постижения да ни накарат да вярваме, че компютрите ще станат автономни, че ще могат без хора да действа ?
Всъщност интелигентността на машините - или по-скоро способността им да симулират интелигентност - не разчита на увеличаване на изчислителната мощ. Ако „машинното обучение дава на машините способността сами да изграждат знания и да го използват, за да се преконфигурират чрез пренаписване на собствените си програми“ и по този начин дарява машините с форма на непредсказуемост, като могат да обработват толкова масивни данни (че ние не сме способни да се обработват като хора), трябва ли да се тревожим за тяхното овластяване ?
Всъщност уточнява много добре Жан-Габриел Ганасия:
„Каквито и да са методите за обучение на алгоритмите (независимо дали са„ контролирани “,„ без надзор “или„ чрез подсилване “), машините обаче не придобиват автономност във философския смисъл на термина, тъй като остават обект на категориите и цели, наложени от тези, които ще са отбелязали примерите във фазата на обучение. "
Ако придобият техническа автономия, те не могат да си дадат собствени закони, а именно правилата и целите на поведението си. Те не са в състояние да станат „философски автономни“. „Философско автономно оръжие не би се задоволило да предизвика изстрел по избрана цел, защото е дало характеристики на цвят или форма, а би определило за себе си характеристиките на целите, които би решило да удари, за да задоволи целите, които тя би имала даде се на себе си ”.
Каквито и да са техниките за машинно обучение, те изискват конфигурация, за да изберат критерия за оптимизиране, без машината да може да го промени. „Машините не модифицират сами по себе си езика, на който се изразяват наблюденията, които подхранват техните механизми за обучение и знанията, които те конструират. "
Тоест, техниките за обучение нямат способността да измислят нови концепции или да изграждат нови концептуални устройства. Ако те знаят как да категоризират много по-добре от нас, за Жан-Габриел Ганасия: „нищо в сегашното състояние на технологиите за изкуствен интелект не ни позволява да твърдим, че компютрите скоро ще могат да се усъвършенстват безкрайно без помощта на хората“ . и следователно нищо не ни казва, че те ще могат да ни надминат или да придобият форми на автономия във философския смисъл на термина.
От обещания ... до мит
Както той обясни на конференцията, AI е много добър в имитирането на определени човешки функции. Компютрите играят играта Go по-добре от нас. Разпознаването на изображения на Google FaceNet е много по-добро от нашето. Но това не означава, че машините могат един ден да имитират поведението на човек, тоест, че са в състояние да си поставят собствени цели. Днес системите за обучение се използват за създаване на хищнически и несправедливи системи за прогнозиране. Нечестно, защото се изчислява от вас и вече не се обединява в цел от общ интерес и справедливост, уточни той. „С големите данни очакваме въз основа на корелация. Това очакване се основава на аксиома на закономерността: случилото се в миналото трябва да се повтори. »Но редовността може да предсказва само това, което е редовно, без да може да предскаже кога тази закономерност ще приключи.
Предвиждането винаги се е основавало на засичане на корелации, припомня изследователят. Въпреки изобилието от методи и инструменти, днес изглежда не е много по-предсказуемо от преди, отбелязва той. Моделирането е само посредник между учения и неговия обект на изследване, инструмент за наблюдение на измерването. Но дори умножаването на наблюдения не винаги е достатъчно, за да подкрепи даден модел. И изследователят сравнява въпроса за Сингулярността или трансхуманизма с глобалното затопляне: Ако и в двата случая се опитаме да предскажем бъдещето, паралелът свършва там. „В случая на климатологията ние симулираме различни модели при различни научни хипотези; те са валидирани чрез ретроспективни проучвания върху данни от контролирани наблюдения; след това сравняваме очакванията, до които водят тези модели; накрая те се публикуват и обсъждат публично. Днес всички сценарии завършват с глобалното затопляне, въпреки че скоростта на процеса и неговите последици се различават при различните модели. В случая с Технологичната единственост е съвсем различно: няма ясна оценка спрямо този сценарий спрямо други. "
За Ганасия ретроспективните проучвания показват, че проспективните изследвания в областта на информационните технологии винаги се оказват много приблизителни. Що се отнася до Сингулярността, в крайна сметка за него тя е толкова невероятна, че не може да бъде разгледана сериозно. Скоростта на изчисление не прави интелигентност. Докато ученето е мощно, то има вътрешни ограничения: не знаете как да автоматизирате изместването на парадигмата ... Всъщност, малко е, че Сингулярността всъщност е абсолютно невъзможна по природа. За Ганасия апокалиптичното съобщение, индуцирано от Сингулярността, не произтича от рационалността, а от подход на почти религиозен ред.