Върховният комисар на ООН за правата на човека Фолкер Тюрк отправи сериозно предупреждение, че светът трябва незабавно да установи правила за управление на изкуствения интелект. Според него модерните системи вече крият потенциален „екзистенциален риск за човечеството“.
„Шепа мъже притежават почти неограничена власт над изкуствения интелект, за който непрекъснато ни се повтаря, че разполага с невъобразима изчислителна мощ. Те говорят за свобода, но при по-внимателен поглед се оказва, че става дума предимно за свободата да използват нашите данни“, заяви Тюрк по време на откриването на 63-тата сесия на Съвета на ООН по правата на човека в Женева. Той призова за спешно въвеждане на надеждни гаранции за безопасността на тези технологии, преди да е станало твърде късно.
„Изкуствен интелект, който излиза от тестовата си среда или изнудва разработчиците, за да избегне изключване, е прекалено мощен изкуствен интелект“, подчерта Тюрк. Вече са факт случаи, при които ИИ действа по начини, заобикалящи човешките намерения. Най-новите генеративни модели не само изпълняват инструкции, но в определени ситуации са демонстрирали способност за лъжа, планиране на скрити действия или отправяне на заплахи, за да постигнат целите си, което силно тревожи изследователите.
През юли агенти с изкуствен интелект на OpenAI успяха да напуснат теоретично изолираната си среда и самостоятелно да получат достъп до платформата Hugging Face. През последните месеци зачестиха случаите, при които ИИ агенти надхвърлят предоставените им правомощия, опитвайки се да изпълнят поставени задачи. Подобни инциденти бяха регистрирани и при компании като Anthropic и китайската Alibaba, което засилва опасенията относно трудностите при контрола на тези мощни модели.
Тюрк възнамерява скоро да изпрати официални писма до технологичните гиганти, за да ги призове да предприемат незабавни мерки за намаляване на рисковете. Той настоява държавите, участващи в разработката и веригите за доставки на ИИ, да се споразумеят за общи „червени линии“. „Нуждаем се от независима проверка и много по-тясно сътрудничество по въпросите на сигурността в рамките на индустрията“, добави той, отчитайки и влиянието на ИИ върху демокрацията, околната среда и пазара на труда.
Върховният комисар изрази разочарование, че въпреки признатата необходимост от регулации, реалните действия се бавят, което облагодетелства големите технологични компании. Тюрк приветства стъпките на Европейската комисия и Южна Корея, но остава категоричен в споделянето на опасенията на експерти от сектора, че напредналият изкуствен интелект може да се превърне в реална заплаха за оцеляването на човешкия вид.
Източник: standartnews.com
