Автор на бестселър Никълъс Кар; Компютрите изострят социалното неравенство; WiWo
Компютрите ни приспиват във фалшиво чувство за сигурност?
Да, може да отидем твърде далеч в стремежа си за безопасност и ефективност. Миналата година американският авиационен орган FAA публикува доклад, в който се предполага, че нашите пилоти вече нямат достатъчно опит в ръчното летене. Те разчитат толкова много на компютри и бордови инструменти, че губят собствените си летателни умения и инстинкти. Ако прехвърлим отговорността за самолета и пътниците обратно към пилотите, а не към компютрите, може да летим по-безопасно, отколкото сме сега.
Днес има много по-малко самолетни катастрофи, отколкото преди 15 или 20 години. Технологичните постижения допринесоха значително за това.
Абсолютно. Автоматизацията в авиацията е история на успеха. Но през последните 100 години от историята на полетите постепенно сме прехвърлили работата от хората към машини. И днес виждаме, че може би сме стигнали една крачка твърде далеч. Дори ако автоматизацията обикновено е добре дошла, това не означава, че всяка следваща автоматизация също е полезна. В определен момент оттегляме твърде много човешки опит, правейки нещата по-несигурни от преди.
Те смятат, че някои инциденти дори не биха се случили, ако човекът имаше още какво да каже отново?
Склонни сме да се доверяваме на компютрите много бързо. Когато компютрите работят надеждно, нямаме причина да се съмняваме в тях. В резултат на това се мързелуваме и разчитаме на технологиите. Изследователите говорят за определено ниво на комфорт, което идва с автоматизацията. Това е човешката природа: Ако вярваме, че някой друг - независимо дали машина или друг човек - ни върши работата, ние ставаме по-малко внимателни. И това може да има фатални последици. През 2009 г. самолет на Air France, летящ от Рио де Жанейро до Париж, се разби в Атлантическия океан. Загинаха 228 души. От гласовите записи и данните в черната кутия знаем, че пилотите са летели с автопилот. Когато сензорите за скорост на въздуха изведнъж се провалиха, защото бяха замръзнали, системата за автопилот се изключи. Без технологията пилотите бяха напълно смазани и допуснаха сериозни грешки, които в крайна сметка доведоха до катастрофата.
И обратно, нека не рискуваме живота на хората, ако пренебрегнем автоматизацията и съзнателно обръщаме по-малко внимание на всички технически възможности?
Абсолютно. Моят аргумент не е против автоматизацията. Просто се застъпвам за автоматизация, която е мъдра и внимателна. Механизацията и новите компютърни технологии често имат неочаквани ефекти. Повечето хора вярват, че ако автоматизирате един аспект на работния процес, останалата част от процеса просто продължава.
Грешка?
Да. Мит е да вярваме, че отделните аспекти могат да бъдат автоматизирани изолирано от цялостния процес. Всеки път, когато автоматизираме части от работа, ние автоматично променяме цялата работа. И това често води до неочаквани ефекти, които дизайнерите на технологиите изобщо не бяха предвидили.
Например?
В Съединените щати много болници са заменили ръкописните медицински досиета с цифрови. На теория има много причини за това: Например, за да можете по-лесно да получите второ мнение от колега. Всичко, което трябва да знаете, за да можете да поставите диагноза, е само на един клик разстояние. На практика обаче е установено, че дигиталната медицинска карта има неочаквани ефекти върху взаимоотношенията лекар-пациент. Проучванията показват, че след като лекарят започне да използва компютъра при изпита си, вниманието на пациента драстично намалява. Вместо да говорят с пациенти, лекарите се взират в екрана на компютъра 25 до 50 процента от времето.
Нека преувеличим ползите от автоматизацията?
Да, нека просто се придържаме към медицинския пример. Много болнични мениджъри търсят начин да намалят ненужните и скъпи тестове на пациенти. Чрез дигитализиране на медицинските записи те се надяват да ограничат броя на ненужните тестове. Възможността за достъп до рентгенови изображения или кръвни тестове на пациенти, които вече са били извършени в миналото, би направила подреждането на новите тестове излишно в много случаи. Разходите за болницата биха намалели - досега теорията. Но често се случва точно обратното. Разходите се увеличават. Изследване, публикувано през 2012 г. в списанието „Health Affairs“, показва: Тъй като компютърът улеснява организирането на нови тестове и можете да ги видите на екрана за много кратко време, като цяло са подредени повече от по-малко ненужни тестове.
Нека останем на темата за разходите. Историята ни учи, че компютрите и машините правят някои работни места остарели. Компанията за пазарни проучвания Gartner наскоро прогнозира, че всяко трето работно място ще бъде заменено от роботи или дронове до 2025 г. Виждате ли го също толкова мрачно?
Не мисля, че е реалистично да предположим, че роботите и компютрите ще могат да направят всичко за нас до 2025 г. Машините все още са обект на големи ограничения. Липсват им креативност, критично мислене, здрав разум и способност да разбират света във всички контексти. Само ние, хората, можем да направим това. И компютрите няма да преодолеят тези препятствия в обозримо бъдеще.
И все пак компютрите и алгоритмите променят начина ни на работа.
Абсолютно. Интересно е, че компютрите вече не само заменят физически взискателните работни места, но и се грижат за дейности, които преди са били извършвани от добре обучени работници в областта на знанията. Сега машините заменят много повече от обикновената работа по поточната линия. Виждаме това при адвокати и съдии например. Специални програми за анализ на текст позволяват на компютрите да сканират хиляди документи и да подготвят досиета за правни дела. В миналото за това трябваше да наемете много талантливи хора, които преглеждаха купища документи и търсеха връзки за съответния отделен случай. Тенденцията е ясна: все повече и повече добре платени работни места от средната класа се автоматизират. И от друга страна, не виждаме компютрите да могат да компенсират загубите на работа. Компютрите все още не са създали големи категории нови, добре платени работни места.
Как роботите улесняват ежедневието
Дали автоматизацията и механизацията на нашия трудов свят изострят нарастващото неравенство в нашето общество?
Да. Вярвам, че това е една от причините, поради които се борим с неравенствата в доходите и увеличаването на неравенствата в богатството, поне в САЩ. Новите технологии позволяват печалбата да се концентрира в ръцете на няколко души. В миналото индустриализацията и механизацията на труда са довели до повишена производителност. И компаниите са били много добри в това да се уверят, че нарастващата производителност е от полза за големи части от обществото. Допълнителните печалби бяха споделени между много работници. Настъпи широк просперитет. Ако, от друга страна, днес погледнем системата, която корпорации като Google са създали, тогава изведнъж виждаме много по-голяма пропаст. Очевидно компютрите и автоматизацията задълбочават социалното неравенство. Тъй като нарастването на производителността вече не се споделя между голям брой работници от средната класа. Парадоксално е: въпреки че брутният вътрешен продукт се увеличава, все по-малко хора се възползват от него. И компютрите са една от причините за това развитие.
Недостатъците на процесите на автоматизация по-големи ли са от предимствата?
Нямам идея как да изчисля това. В това отношение не се занимавам с този въпрос. Дискусията за автоматизацията става вълнуваща, когато отидем в детайли. От друга страна, грубите псевдоизчисления нямат много смисъл.