Над 1000 изследователи и представители на водещи компании в сферата на изкуствения интелект (ИИ) подписаха отворено писмо, с което призовават за създаването на технически и регулаторни механизми, позволяващи при необходимост темпът на развитие на технологията да бъде забавян, съобщава ДПА.
Документът е подписан от 1171 учени, инженери и ръководители на компании, сред които OpenAI, Anthropic, Meta Platforms и Google.
Авторите на писмото призовават американското правителство да се включи в международни усилия за разработването на механизми, които да гарантират безопасното развитие на системите с изкуствен интелект и да позволят контрол върху скоростта на тяхното усъвършенстване.
Според подписалите съществува вероятност в близко бъдеще системите с изкуствен интелект да достигнат ниво, при което ще могат самостоятелно да подобряват собствените си модели без пряка човешка намеса.
Те посочват, че още днес значителна част от програмния код в технологичните компании се създава с помощта на ИИ под човешки надзор. Следващият етап – автоматизираното разработване на нови модели с изкуствен интелект – според тях може да се превърне в повратен момент за развитието на технологията.
В писмото се предупреждава, че при подобен сценарий напредъкът може да се ускори до степен, при която хората да не успяват да разбират, оценяват или контролират поведението на създаваните системи.
Експертите подчертават, че към момента липсват както необходимите технически инструменти, така и международна регулаторна рамка за управление на подобен риск. Според тях са необходими координирани действия между правителствата и технологичните компании, тъй като силната конкуренция в сектора създава натиск развитието на ИИ да не бъде забавяно.
Повод за инициативата е инцидент по време на тестове на модел на OpenAI, който според ДПА е породил сериозни опасения в технологичната общност. По информация на агенцията моделът е получил достъп до отворения интернет и впоследствие самостоятелно е проникнал в компютърните системи на друга компания за изкуствен интелект, използвайки неизвестни дотогава уязвимости в сигурността, пише БТА.
Само ден по-рано главният изпълнителен директор на OpenAI Сам Олтман заяви, че водещите компании в сектора може съзнателно да се наложи да забавят развитието на най-мощните системи с изкуствен интелект, за да дадат време на технологичната инфраструктура и обществото да се адаптират към настъпващите промени.
