- AI може да срине финансовата система или електрозахранването, предупреждава нобелов лауреат
- Зукърбърг, Мъск и Алтман разбират потенциалните рискове, но поставят финансовите интереси над безопасността
Кръстникът на съвременния изкуствен интелект и носител на Нобелова награда проф. Джефри Хинтън, предупреди, че човечеството може да се изправи пред сериозна криза заради новите технологии още тази или следващата година.
Според него е възможен мащабен инцидент, предизвикан от изкуствен интелект, който временно да парализира финансовата система или електрозахранването.
В интервю за британския вестник „Гардиън" 78-годишният учен заявява, че не е сред песимистите, които смятат, че развитието на AI неизбежно ще доведе до катастрофа. Той вярва, че технологията може да отвори път към „прекрасно бъдеще", но същевременно допуска, че може би човечеството е щяло да бъде по-добре, ако изобщо не беше създало изкуствения интелект.
Хинтън настоява за въвеждането на строги международни правила и независим контрол върху компаниите, разработващи AI. Според него трябва да бъде създадена система, подобна на американската Агенция по храните и лекарствата (FDA), която да изисква убедителни статистически доказателства, че новите модели носят повече ползи, отколкото вреди, преди да бъдат пуснати на пазара.
Ученият сравнява настоящия подход на големите технологични компании с допускането на лекарството талидомид до употреба през 50-те години на миналия век. Препаратът впоследствие се оказва причина за тежки вродени увреждания при хиляди деца. Според Хинтън не е правилно първо да се допускат потенциално опасни технологии, а последствията да се решават едва след настъпването на щетите.Хинтън смята, че инцидентите с автономни AI агенти през последните месеци са сериозен предупредителен сигнал. Той сравнява случая с опитите на AI системи на OpenAI да проникнат в сайта Hugging Face с частичната авария в атомната електроцентрала „Три Майл Айлънд" в САЩ през 1979 г.
„Или по-късно тази година, или през следващата ще видим Чернобил", предупреждава ученият. По думите му подобен инцидент може да накара обществото и политическите лидери да осъзнаят сериозността на рисковете.
Хинтън уточнява, че не става дума за ядрена авария, а за мащабна криза, предизвикана от изкуствен интелект. Сред възможните сценарии той посочва кибератака срещу електроенергийната система, която да доведе до масови прекъсвания на тока, или срив на финансовата система, продължаващ цяла седмица.
Според него подобно събитие би могло да бъде преодоляно, но би принудило световните лидери да обърнат сериозно внимание на опасностите.Ученият отправя остри критики към ръководителите на водещите технологични компании, които продължават да разработват все по-мощни модели в надпреварата за пазарно господство.
Той заявява, че няма доверие на изпълнителния директор на OpenAI Сам Алтман. По думите му Марк Зукърбърг, Илон Мъск и Алтман разбират потенциалните рискове, но поставят финансовите интереси над безопасността.
Хинтън определя като „изключително тревожен" факта, че Алтман ръководи една от малкото американски компании, разработващи най-модерните системи с изкуствен интелект в конкуренция с Китай.
През 2023 г. Хинтън напусна Google, за да може свободно да говори за опасностите от развитието на AI. Той работи в тази област от около 44 години, а през 70-те години допринася за развитието на концепцията за изкуствените невронни мрежи – математически системи, които се учат и натрупват опит по начин, наподобяващ човешкото учене.
Заради ролята си в създаването на съвременния AI Хинтън често е сравняван с Робърт Опенхаймер – учения, свързван със създаването на ядрените оръжия. Самият той обаче отхвърля сравнението, като посочва, че хиляди други учени са работили върху развитието на невронните мрежи.Според Хинтън в рамките на следващите десет години, а вероятно и по-рано, човечеството ще разбере дали може да контролира рисковете от изкуствения интелект и да използва потенциала му за създаване на общество с изобилие от ресурси.
В противен случай той предупреждава за опасност от огромна пропаст между богати и бедни, масова безработица, сериозни културни конфликти и разпад на обществените отношения.
Въпреки тревожните прогнози ученият остава предпазливо оптимистичен, че катастрофалните сценарии могат да бъдат избегнати.
„Интуицията ми подсказва, че все още контролираме ситуацията. Напълно възможно е да направим нещо. Това ще стане само ако положим сериозни усилия, но имаме тази възможност", казва той.Темата за регулирането на изкуствения интелект все по-активно присъства и в международния политически дневен ред.
Британският премиер Анди Бърнам заявява, че страната му ще използва председателството на Г-20 през следващата година, за да търси съгласие за общи глобални принципи и стандарти, които едновременно да насърчават развитието на AI и да ограничават рисковете.
Хинтън подкрепя по-строг подход, предложен от президента на Финландия и още 32 държави, сред които Сингапур, Германия, Канада и Австралия. Планът предвижда задължително тестване на най-модерните AI модели, независима оценка на безопасността им и общи междуправителствени стандарти.
Американският президент Доналд Тръмп обаче се противопоставя на идеята за глобален механизъм за контрол и настоява водещите компании в сектора сами да регулират дейността си. Според позицията на Вашингтон прекомерните ограничения могат да отслабят конкурентоспособността на САЩ в надпреварата с Китай.
Хинтън участва и в нов документален филм за изкуствения интелект, озаглавен „AI: Probably Nothing to Worry About" („AI: Вероятно няма за какво да се тревожим"). В продукцията участват още бившият му колега от Google Демис Хасабис и други представители на технологичния сектор.
„Чувствам, че имам дълг. Имам репутация, която ме превръща в говорител по тази тема, и трябва да я използвам докрай", казва Хинтън.