Антиутопията, която се сбъдна 0

Нещо се случва със света и то ни засяга пряко. Може би едни от най-мрачните прогнози за пътя на развитие на човечеството са се случили или са на път да се случат. Изкуственият интелект, колонизирането на други планети, създаването на форми на живот в лабораторни условия вече не ни се струват така далечни, както бяха в изминалите десетилетия.

Изобретателят Илън Мъск предсказва, че изкуственият интелект е на път да остави хората без работа. От своя страна физикът и космолог Стивън Хокинг на няколко пъти ни предупреждава за рисковете, които крие развитието на ИИ. Бил Гейтс също изказва опасенията си, свързани с развитието на ИИ. Истина ли е т. нар. екзистенциален риск, който крие съществуването и усъвършенстването на ИИ? Имаме ли повод за тревога след като великите умове на Мъск, Хокинг и Бил Гейтс споделят подобни страхове?

,,Не знаем как да контролираме суперинтелигентните машини.''

Стивън Холинг описва въпроса с развитието на ИИ като твърди, че в краткосрочен план въздействието на ИИ зависи от това кой го контролира, а в дългосрочен- дали изобщо може да бъде контролиран. Според него може да се твърди, че ИИ е изобретение с двойна употреба, каквото е например ядреното делене в качеството си на реактор в електроцентралите и участието си в ядрените бомби. ИИ може да бъде има и някои вредни за човечеството употреби.

Един очевиден пример са автономните машини за убиване. Повече от 50 държави разработват роботи на бойното поле. Най-търсените ще бъдат роботите, които се насочват към мишената си за унищожение без участието на човек, който да ги управлява. Изследването на автономните роботи и дроновете на бойното поле е богато финансирано днес в много страни, включително Съединените щати, Обединеното кралство, Германия, Китай, Индия, Русия и Израел. Тези оръжия не са забранени от международното право, но дори и да са, е съмнително, че ще се съобразят с международното хуманитарно право или дори със законите, регулиращи въоръжения конфликт. Как ще различат приятеля си от врага? Как ще бъдат предпазени цивилните граждани? Кой ще бъде подведен под отговорност? Това, че тези въпроси остават без отговор, тъй като развитието на автономни машини за убиване се превръща в непризнато състезание по въпросите на въоръжаването етичният аспект на ситуацията.

"Те ще станат самозащитни и ще търсят ресурси, за да постигнат по-добре своите цели. Те ще се борят с нас, за да оцелеят и ще се противопоставят на това да бъдат изключени. "

Ключът на проблема е, че не знаем как да контролираме суперинтелигентните машини. Мнозина смятат, че ще бъдат безобидни. Но важно проучване, проведено от A.I. ученият Стив Охонундро посочва, че те ще развият основни устройства. Дали тяхната работа е да да разработват запаси или да управляват нашата критична инфраструктура на енергия и вода, те ще станат самозащитни и ще търсят ресурси, за да постигнат по-добре своите цели. Те ще се борят с нас, за да оцелеят, и те няма да искат да бъдат изключени.

Изследванията на Охонундро стигат до извода, че задвижването на суперинтелигентни машини ще бъде на сблъсък със собствените етични норми, освен ако не ги проектираме много внимателно. Нека си спомним един от най-емблематичните филми на режисьора Стенли Кубрик, ,,2001: Космическа одисея'', в който по време на космическа мисия робот става причина за смъртта на космонафт само и само, за да предотврати изключването си. Можем да кажем, че отново киното и литературата са напипали мрачните аспекти за развитието на ИИ още преди учените да сторят това, сега остава техните теории само да бъдат потвърдени от науката. Повечето велики умове твърдят, че ИИ никога няма да може да достигне способността да мисли като човека, но нека не забравяме, че ако това се случи, това означава, че ще може да мисли и зло подобно на човека. Ще поживeем и ще видим. А каква е вашата прогноза?