Мартин Вечев: Работя по трето поколение изкуствен интелект, трябва да е безгрешен

https://www.24chasa.bg/mnenia/article/6908897 www.24chasa.bg

Все повече ще изчезват професиите в които има повтаряемост на процесите, липса на креативност, казва професорът от университета в Цюрих

40-годишният българин Мартин Вечев е професор по компютърни науки в Швейцарския федерален институт по технологии (ETH) в Цюрих, който работи по нови методи трасиращи пътя към трето поколение изкуствен интелект. Неотдавна Вечев участва във важна среща с депутатите от Европейския парламент, заедно с трима Нобелови лауреати и още 23 водещи учени, финансирани от Европейския научноизследователски съвет.  В срещата участва и министърът на образованието и науката Красимир Вълчев. Темата бе инвестирането в млади учени и ролята на инициативи като Европейския научноизследователски съвет и програми като Хоризонт 2020 за бъдещето на Европа.

През 2009 г. 32-годишният тогава Мартин Вечев получи наградата "Джон Атанасов" за високи постижения в областта на информатиката и информационните технологии. Възпитаникът  на Софийската математическа гимназия е създал програми, които проверяват абсолютно точно определени системи дали работят вярно или не. Именно тези програми се използват в следващото поколение американски военни кораби, които ще са на въоръжение в армията на САЩ през 2050 г.

Освен стартов грант от Европейския научноизследователски съвет и наградата Джон Атанасов постиженията на Мартин Вечев са получили още редица престижни награди, включително, Googlе и Facebook Faculty Awards, IBM Extraordinary Accomplishment Award и много други. Той е съосновател на две старт-ъп компании: DeepCode.ai, която разработва продукти в областта на изкуствения интелект, и ChainSecurity, която създава системи осигуряващи сигурността в блокчейн.

-          Г-н  Вечев, през 2009 г. ви беше връчена наградата Джон Атанасов за високи постижения в областта на информатиката и информационните технологии. Какви по-важни събития последваха в живота ви в следващите 9 години досега?

-          През 2009 г. работих в изследователския център на IBM - T.J. Watson в Ню Йорк. Бях там до края на 2011 г., след което в началото на 2012 г.  се преместих в Европа и в момента съм професор в Швейцарския федерален институт по технологии (ETH Zurich) в Цюрих. Тук ръководя научна група която работи в сферата на изкуствения интелект, като целта е да направим тези системи по-добри, по-сигурни и по-надеждни. Работата ни по тази тема е получила редица награди, като например тази от Европейския научноизследователски съвет (ERC Grant, 1.5 милион евро) а също и от фирми като Google, Facebook и  други. Миналата седмица говорих по тази тема и в Европейския парламент тъй като тя е от важно значение за обществото.

Мартин Вечев (крайният вдясно) в Европейския парламент в Страсбург.

-          Как стана така, че избрахте Цюрих за ваша нова постоянна дестинация? 

-          Имах възможност да остана в САЩ, както в изследователския център така и в големи университети от които имах предложения, но предпочетох да се върна в Европа. Техническият университет в Цюрих е един от най-силните – той е в първите 10 в света по отношение на информатиката и e пръв Европа. Тук има и отлично финансиране за науката, тъй като тя е приоритет на държавата. Европейският начин на живот ми допада повече, а и съм по-близо до България, което е важно за мен. 

-          Според актуалната ви визитка сега вие разработвате нови методи, очертаващи пътя към трето поколение изкуствен интелект. Обяснете ни какво означава трето поколение и защо е важно Европа да има водеща роля в тази област? 

-          Грубо казано трето поколение означава системи, при които може да се обясни защо изкуственият интелект взема дадено решение и че прави точно това което трябва да прави. Сегашните системи с изкуствен интелект са базирани на обучаване на модели с помощта на големи обеми данни. При тях обаче проблемът е, че те са като черни кутии – дори когато вземат полезни решения, не може да се разбере защо го правят. Идеята на третото поколение системи с изкуствен интелект е да вземе най-доброто от първото поколение, което работи на базата на правилата и логиката но където вземаните решения са сравнително прозрачни и може да се обяснят. Тези методи обаче не са оптимални когато трябва да се моделира реалния свят който е сложен и не може да се опише с точни правила. Това е един от проблемите които системите от второ поколение изкуствен интелект се опитват да решат, например чрез самообучението от много примери и големи обеми данни. По този начин те могат да се научат да разпознават пътен знак, автомобил, човек и т.н. Въпреки че са по-ефективни за такива задачи, тези системи не са прозрачни и е много трудно да се разбере как и защо вземат дадено решение а също и да се докаже че няма да взимат неправилни решения или такива които да застрашат сигурността на хората. Идеята на третото поколение изкуствен интелект е да обедини предимствата на предишните две, като реши в голяма степен проблемите при тях и ги направи по-прозрачни, по-отговорни и съответно по-добре управляеми и сигурни. Като цяло, това е едно от главните направления по което работим. 

-          Какво се очаква да дадат разработките от трето поколение изкуствен интелект в области като енергетика, транспорт,комуникационни технологии? Каква, според вас ще бъде ролята на социалните мрежи в този процес? 

-          Третото поколение изкуствен интелект трябва да реши големите проблеми, които има пред предишните две поколения изкуствен интелект, които навлизат вече повсеместно в живота. Например при автоматизирането на шофирането – там изкуственият интелект взима решения които могат да застрашат живота на хората.  Ако не може да се гарантира поведението на колата единствено в правилна посока, трудно някой ще повярва в безопасността на тези системи, постоянно ще има страх от катастрофи. Колкото повече навлиза изкуственият интелект в критични за човека сфери, толкова по-важно става да можем да контролираме начина по-който тези системи взимат решения и да търсим отговорност от тях. А при социалните мрежи, там има различни проблеми но единият важен момент е прозрачността на данните. Големите корпорации не са склонни да отворят данните за обработка с изкуствен интелект, а в данните има важна информация която определя какво прави системата по нататък.

От друга страна, навлизането на изкуствения интелект със сигурност ще предизвика изчезването или намаляването на определени професии, но това е ставало и преди по време на автоматизация: едни професии изчезват а други се създават. Все повече ще изчезват професиите в които има повтаряемост на процесите, липса на креативност и където е по-лесно да се съберат данни. По тази причина образованието трябва да наблегне на развиване на креативността и други способности които са по трудни за машините. И разбира се как да работим с тези системи така че да подобрим качеството на живота и работата си.

-          Все повече разработки, базирани на изкуствен интелект, се прилагат и в медийната индустрия. Запознат ли сте с тенденциите в този сектор и към какво, според вас, трябва да се насочат медиите, за да си осигурят устойчив модел на развитие в новите времена? 

-          Да, вече има издания, които използват изкуствен интелект за генериране на част от публикациите – там където има повтаряемост на събитията и динамиката идва само от нови потоци данни - при прогнозата за времето, при спортни събития, при определени финансови материали и др. При креативните статии обаче това по-трудно би могло да стане – затова медиите трябва да инвестират в тази посока. Дори при медиите обаче чрез изкуствен интелект и машинно самообучение може да се автоматизират до 60-70% от процесите – за да могат журналистите да се фокусират върху креативните неща, които предизвикват интереса на аудиторията – реално това не е в бъдещето, вече се случват тези неща. 

-          „24 часа” спечели финансиране  от Google за създаване на иновативна новинарска платформа, имаме и втори проект, с който кандидатстваме в сферата на изкуствения интелект. Това ли е правилният път за развитие на медиите? 

-          Да, за вас медиите ще става все по-важна възможността за събиране и обработка на големи обеми данни, за да може потребителите ви да получават все повече персонализирана информация от която наистина се интересуват и имат нужда. 

-          Вашият проектът "BIGCODE бе награден със стартов грант от Европейския научноизследователски съвет през 2015 г. Така създадохте старт-ъпа DeepCode.ai. Кажете каква е неговата функция и как се развива до момента? 

-          DeepCode.ai е изкуствен интелект система която помага да се създават програми. Тя е нещо подобно на Grammarly – докато пишеш, ти посочва грешки или ти предлага как даден израз би звучал по-добре. Нашата система е аналогична, но за писане на програмен код: системата може да посочи как да се направи програмата по-правилна, по-сигурна, по-бърза и по-четима. Така че, чрез изкуствен интелект, DeepCode помaга на софтуерните хора и фирми да намалят разходите за тези дейности и да произвеждат по качествени продукти.

Към DeepCode има много голям интерес, защото е първият подобен на пазара, а преди месец DeepCode спечели и финансиране за около 1 милион франка. Бих искал да посоча че Главния технически директор на DeepCode.ai e д-р Веселин Райчев, който завърши докторат в ETH и също спечели наградата „Джон Атанасов” преди две години, а изпълнителният директор е Борис Паскалев. DeepCode е създаден от нас тримата. Всъщност с Веселин сме учили в Софийската Математическа Гимназия (СМГ), но по различно време.

-          Имате и втори стартъп, ChainSecurity, която се занимава със сигурността в блокчейн. 

-          Да, там сме създали нова автоматизирана система която да проверява дали умните програми (така нарачените smart contracts), които работят рърху блокчейна (например Ethereum, HyperLedger Fabric), са сертифицирани от гледна точка на сигурността.  Това е важно, защото там грешките струват милиони долари. Нашата система автоматично доказва че програмата няма такива грешки. ChainSecurity има различни клиенти и партньори, от такива които се занимават с ICO до големи организации. Фирмата се занимава и с други дейности около blockchain, например нови методи за осигуряване на сигурността на данните и т.н.

-          Имахте идея да направите научен център по информатика в България още 2009 и там да работят и да се създават учени от световна класа, като вас. Актуална ли е още тя и има ли новини, свързани конкретно с България? 

-          Да, тази идея продължава да е актуална и това е цел по която работим. Накратко, за да може България да бъде водеща високо технологична държава, трябва да има общо съгласие за правилната концепция. На първо място това означава че изследователската дейност и науката трябва да са приоритет за държавата, нещо което се знае добре по света.

Специално в информатиката, тази дейност, правилно развита с подходящите хора, води до създаването на цяла еко-система от университети и центрове където се прави наука, където се обучават хора (докторанти, магистри, бакалаври) както на фундаментални така и на практически знания и където  постоянно се създават както високо технологични стартъпи и фирми, така и следващо поколение идеи, които в крайна сметка диктуват как се променя света. Например, двата стартъпа за които говорихме са вече част от тази еко-система тук но те са само една част от това което правим. Обикновенно, такива еко-системи привличат и най-големите и силни фирми и изследователски центрове в света които отварят врати на такива места с цел да работят с хората които са в екосистемата (професори, студенти, инженери и други). Това разбира се също помага тази екосистема да запазва добър баланс между науката и бизнеса. Всичко това води до привличане на големи инвестиции, на много силни учени, което в крайна сметка помага да се формира икономиката на държавата. Тоест, тези инвестиции се връщат многократно.

В България в момента такава еко система липсва по ред причини. Например, много хора имат грешна представа за науката като нещо което е отделно от реалния свят или просто нямат информация за това как наистина работят такива екосистеми.  

Като цяло, аз смятам че такава еко-система е особено важна за България понеже ние сме малка държава и трябва да наблегнем много силно на качеството а не на количеството.  Ние имаме традиции в точните науки, силни училища до 12-а клас, като СМГ например, а също и хора които имат желание да работят в тази насока. Това е нещото което искаме да спомогнем да стане в България, и на срещата в Европейския съюз говорих с различни хора именно по тази тема, така че тя да може лека полека да се осъществи по-скоро.  

-          Известни учени, включително Стивън Хокинг, предупреждаваха, че разработките при изкуственият интелект може да донесат както големи ползи, така и опасности. Споделяте ли това мнение и как, според вас, опасностите могат да бъдат избегнати и преодолени

-          Така е, но въпреки че в сферата на изкуственият интелект има голям напредък последните 10 години, тя все още е далече от това което биха искали хората и от това което често се рекламира и пише по медиите.

Едно от нещата, върху които се работи активно (и ние работим), е така нареченият всеобщ изкуствен интелект (AGI - Artificial General Intellgience)  – идеята е той да обедини, подобно на човешкия мозък, всички видове интелект. В момента имаме системи за различни видове изкуствен интелект – за превеждане на езици, за отсяване на спам, за управление на автомобил и т.н., но всички те действат отделно едни спрямо други. Идеята на AGI е да ги обедини в една система – нещо, което ще стане един ден. И тогава изкуственият интелект ще бъде съвсем близо до живота на хората и ще бъде полезен за много неща. А опасността от изкуственият интелект се състои именно във възможностите той да допуска грешки, които могат да доведат до големи проблеми и щети. Ето защо е много важно системите, които създават изкуствен интелект, да бъдат отворени и сертифицирани, тоест да бъде доказано, че тези системи не могат да допускат грешки. Това е и една от основните теми която беше засегната от френския президент Макрон преди месец и в която Франция смята да инвестира близо 2 милиарда евро.

-          Как живеете в личен план, извън работата, има ли новини?

Съпругата ми Ангелина е българка. Имаме две деца, Виктор на 11 години и Александра на 6. Мисля, че добре вървят нещата в личен план. За разлика от много хора които са напуснали България и нямат интерес към нея, ние поддържаме силна връзка с България. Връщаме се често, тъй като там имаме семейство, приятели и контакти във различни сфери в обществото: изкуството, спорта, бизнеса, информационните технологии, университети и други.

Абонамент за печатен или електронен "24 часа", както и за другите издания на Медийна група България.

  • Щом има пропуск за цигарите, бързо да има и поправка

    Производството на нелегални цигари се оказа пропуснато от Наказателния кодекс.  Така - волно или неволно, заради тази дупка в българското законодателство държавата се е превърнала в нещо като стимулиращ фактор за производството и разпространението на контрабандни цигари. И се е стигнало дотам, че този бизнес да стане по-печеливш и от бизнеса с
  • Дойде ли време да спрем да местим стрелките?

    Двойното време е нелогичен анахронизъм ЛЯТНОТО часово време като организация на светлата част от денонощието, е въведено исторически като мярка за икономия на електрическа енергия за осветление. По-късно, набрало инерция, то се мотивира и като мярка за повишаване на качеството на живота. Приключи обществената консултация на Европейската комисия,