Изкуственият интелект може да се превърне в екзистенциален риск за човечеството, ако светът не изгради достатъчно бързо ефективни механизми за неговия контрол. Това предупреди върховният комисар на ООН по правата на човека Фолкер Тюрк.
Предупреждението прозвуча при откриването на 63-ата сесия на Съвета на ООН по правата на човека в Женева. Според Тюрк международната общност трябва да действа сега, а не да чака технологиите да станат толкова мощни, че контролът върху тях да се окаже много по-труден.
По думите му вече се появяват сценарии, които доскоро изглеждаха като научна фантастика.
Тюрк даде пример с изкуствен интелект, който би могъл да се измъкне от тестова среда или да изнудва разработчиците си, за да предотврати собственото си деактивиране. Според него подобно поведение би било знак, че дадена система е станала прекалено мощна.
Но тревогата на ООН не е насочена единствено към хипотетичното „завладяване“ на машините.
Тюрк атакува и концентрацията на власт около най-мощните AI технологии. Според него „шепа мъже“ разполагат с почти неограничена власт над изкуствения интелект, докато огромни количества лични и обществени данни се превръщат в ресурс за технологичните компании.
Върховният комисар постави под въпрос и начина, по който се използва аргументът за „свободата“ в технологичния сектор. Според него зад част от тези призиви всъщност стои свободата на компаниите да използват и експлоатират данните на хората.
Особено сериозно е предупреждението за използването на AI във военната сфера.
Тюрк заяви, че е ужасен от съобщенията за използване на напълно автономни оръжия в Украйна и призова за тяхната бърза забрана.
Така въпросът вече не е само дали изкуственият интелект ще промени начина, по който работим, учим и общуваме.
Според ООН светът трябва спешно да реши кой контролира най-мощните системи, какви граници не могат да бъдат преминавани и кой носи отговорност, когато AI взема решения с реални последици.
Посланието на Фолкер Тюрк е категорично – човечеството не трябва да чака технологията да стане неконтролируема, за да започне да я регулира.
Защото тогава може да се окаже, че моментът за поставяне на спирачки вече е отминал.
