Религиозни лидери призовават: За да не заживеем в алгокрация - под властта на хората, които събират данни чрез машините, трябва да бъдат въведени стандарти за алгоретика
...Умове, неизмерно по-висши от нашите, гледаха на тази земя със завистливи очи. И бавно и сигурно крояха своите планове срещу нас...
Всеки, който през 80-те години на миналия век е бил в съзнателна възраст и достатъчна адекватност, за да слуша и възприема интелектуален продукт от мащабите на рокоперата “Войната на световете”, базирана на сюжета на едноименния роман на Хърбърт Уелс, и до днес потръпва, щом чуе тия думи, изречени с гласа на Ричард Бъртън.
Смразяващият ефект идва не толкова от тембъра на разказвача, колкото от момента на осъзнаване на идеята, заложена в повествованието. Че нещо, далеч отвъд нашите представи, би могло да ни наблюдава толкова внимателно, така както изследовател под микроскоп изучава същества, роящи се и размножаващи се в капка вода. Но тези “очи”, които ни преценяват толкова методично, са студени и безчувствени. В тях няма любов, състрадание, милост... Въобще няма никаква емоция. Защото този “свръхум” или “висш разум” всъщност не е Бог.
Романът на Хърбърт Уелс е от 1898 г., рокоперата на Джеф Уейн е от 1978 г., а Стивън Спилбърг направи и по-съвременна екранизация. Но през 2023 г. идеята за тези “неизмерно по-висши умове” вече не е образът на марсианци или някакви други извънземни, които ще дойдат отвъд бездната на Космоса, за да ни завладеят. Днес прочитът е може би много по-стресиращ, отколкото е бил навремето, защото студеното око, което ни наблюдава, вече е тук, на Земята. Нарича се изкуствен интелект. Това понятие включва в себе си и цялата концепция, при която компютърни машини чрез все по-усъвършенстващи се алгоритми анализират огромни масиви от информация от заобикалящия ни свят и предприемат действия по изпълнението на определени задачи или постигането на дадени цели.
Изкуственият интелект отдавна говори с човешки глас. Когато чрез съответните приложения ни указва правилния път или ни подбира музика, която да слушаме или ресторант, в който да вечеряме с приятели. Той
може сам да управлява кола, а сигурно би могъл и да вечеря с приятелите ни, ако му позволим
Възможно е и да направи впечатление на по-добра компания, защото ще разкаже най-подходящите истории според настроението на масата и ще слуша по-внимателно от нас, когато другите говорят, защото не само знае много повече за собствените ни приятели, но и защото ще иска да разбере още.
Смартфоните ни или по-скоро алгоритмите, инсталирани във всички приложения, които ползваме, ни изучават непрекъснато. Те ни слушат и ни гледат дори когато не ползваме активно устройствата. И не защото някой иска да шпионира конкретно нас. По това, което правим, говорим или гледаме всеки ден, алгоритъмът съставя парче по парче или по-скоро байт по байт наш облачен аватар. Наше алтер его. Което с непрекъснатото самоусъвършенстване на алгоритмите се превръща в много по-плътно подобие на физическия си земен първообраз. Засега това служи за определени комерсиални задачи. Например по ключови думи и поведенчески модели да ни таргетира маркетингово, за да получаваме реклами за продукти, които бихме купили. Това със сигурност знаем, че вече се случва. Но какво още не знаем? И най-важното, докъде може да стигне това?
И макар мнозина от нас да нехаят, има хора, които, изглежда, са сериозно загрижени за бъдещето. На 10 януари във Ватикана се проведе среща, посветена на изкуствения интелект, в която участваха равин Елиезер Сима Вайс от Главния равинат на Израел, архиепископ Винченцо Палия - председател на Папската академия за живота, и шейх Абдала бин Бая - президент на Форума за мир в Абу Даби.
Представителите на трите авраамически религии - юдаизъм, християнство и ислям - подписаха Римския призив за етика на изкуствения интелект. Документът е създаден в рамките на Папската академия за живота и насърчава алгор-етиката, тоест етичното развитие на изкуствения интелект.
В интервю архиепископ Палия ми каза, че Папската академия за живота е инициирала разговор с новия президент на Microsoft, наследника на Бил Гейтс, с IBM, както и с други лидери в разработването на изкуствен интелект, за да им предложи създаването на етичен съюз.
“Алгоритмите трябва да са в услуга на хората, а не обратното. Човекът е този, който трябва да продължи да управлява машината, а не машината да е тази, която ръководи човека в избора му”, казва монсеньор Палия.
По думите му Римският призив е етичен, образователен и правен манифест, който иска да съпътства процеса на възникване на нови и конвергентни технологии, които се основават на алгоритми. И уточнява, че става дума за всички тези математически процеси, чрез които се произвеждат инструменти и платформи и които оказват влияние върху живота на нашите общества. А без съмнение това влияние, което вече е всекидневно, ще продължи да бъде определящо и в бъдещето, засягайки живота във всичките му аспекти. И то ще е така невероятно огромно, че Ватиканът си дава сметка за риска алгоритмите да се превърнат в нещо като нова диктатура.
“Можем да го наречем алгокрация, власт на алгоритмите, която се превръща във власт на тези, които събират данните, взети чрез тези алгоритми”, казва монсеньор Винченцо Палия.
Той допълва, че
сред подписалите Римския призив са IBM,
представител на италианското правителство, секретарят на FAO и представители на другите авраамически религии.
“Съдържанието на този манифест е разделено в три насоки: етична, образователна и законодателна. Резултатите от алгоритмичните процеси да поставят в центъра не човешката личност, а нейното манипулиране - ето това бихме искали да избегнем. Тези инструменти да служат на човешкото развитие, а не на неговото измерване. Тази инициатива е насочена и към големите индустрии и университетите, така че да се развие етична култура на новите технологии. Наричаме това алгоретика. Тоест алгоритмите да отговарят на етични правила”, обяснява архиепископът.
Питам монсеньор Палия за тази нова дума “алгоретика”, която все по-често ще чуваме в бъдеще. Алгоритми и етика, тоест числа и морал. Как тези две понятия, които на пръв поглед нямат нищо общо, могат да битуват заедно?
Той е категоричен: “Тези две думи трябва да са заедно, защото разделянето им би довело до много опасно разминаване. Математиката или всички инструменти не могат да не бъдат свързани с човешката дефиниция. Първо, защото алгоритмите се управляват от хора, и второ, защото тяхното влияние е насочено към живота на човечеството. Не можем да разделим човека на техническа и морална част. Човешкото поведение едновременно използва технически инструменти и трябва да е подвластно на морални категории. Помислете само какво могат да направят новите технологии в модификацията на човешкия геном! Затова морала трябва да го има”.
Председателят на Папската академия за живота припомня, че човек е Божие творение, каквато и технологична мощ да придобие: “Ето, пандемията, един вирус, който дори не е живо създание, напусна Китай, пристигна в Европа и за десет дни обхвана света.
Ние, които сме способни да отидем на Луната, трябваше да преоткрием маските, използвани преди 3 века,
за да се защитим. Това е важен урок, който трябва да научим. Може да сме стигнали далеч в науката, но продължаваме да сме крехки, всичко е в Божиите ръце. Затова трябва да внимаваме да не поверяваме тялото и душата си на студените, механични и понякога безмилостни ръце на технологията. Нека я използваме правилно, тя може да е инструмент, който помага в близостта между хората, побратимяването и любовта”.
Технологиите определено могат това. Така както свързаха мен и архиепископа чрез звук и картина в реално време, макар той да бе в Рим, а аз - в София. Но технологиите могат да ни обрекат и на самота, давайки ни измамното усещане, че можем да имаме всичко само чрез дисплея на електронното си устройство.
Монсеньор Палия казва, че проблемът за самотата може да обобщи всичко. Защото първенството на човека над технологиите демонстрира първенството на Бог, тъй като е първенство на взаимоотношенията, на обичта, първенство на прегръдките, първенство на разговора, на диалога... А иначе рискуваме алгоритмите да ни затворят в един много тъжен индивидуализъм, превръщайки ни в пленници, обитаващи балона на виртуалността.
“Трябва ни физическа близост, а не виртуална. Аватарът, който технологиите ни създават, никога не бива да замести света на нашите реални взаимоотношения”, казва с усмивка 77-годишният архиепископ.
И веднага допълва, че според него терминът “изкуствен интелект” е двусмислица, но за съжаление, вече е придобил масова популярност и сме принудени да го приемем. Но в действителност в този термин се крие опасна неяснота. Защото интелектът като такъв се нуждае от плът, мозък, човешки клетки, докато алгоритмите - не. Алгоритмите са машина, те са изчисление. Те са извън тази любов, която понякога надхвърля пресмятанията и стига до себеотрицание, до мъченичеството дори.
И наистина, ако се опитаме да проумеем великия смисъл на християнската вяра, ние всички, като Божии творения, сме красиви и уникални не защото сме малко или повече интелигентни. Нашият дар се състои в това, че можем да изпитваме любов. Именно това ни различава от машините.
