Доброволното споразумение предвижда засилен вътрешен контрол и независими одити на най-мощните AI системи
Президентът на САЩ Доналд Тръмп и ръководители на водещи технологични компании подписаха в Белия дом споразумение, насочено към безопасността при разработването и използването на изкуствен интелект.
Документът е представен като доброволен набор от ангажименти за саморегулация на индустрията. Тръмп го определи като „почти като конституция“ и заяви, че има морално обвързващ характер.
Сред компаниите, чиито ръководители участваха в срещата, са Meta, xAI, Nvidia, OpenAI, Anthropic и Google. Сред присъстващите бяха Марк Зукърбърг, Илон Мъск, Дженсън Хуанг, Дарио Амодей и Сундар Пичай.
Споразумението предвижда компаниите да изграждат надеждни вътрешни механизми за контрол върху разработваните AI системи.
Предвижда се и работа с независими одитори, които да проверяват дали технологиите функционират според заложените от разработчиците принципи за безопасност.
Друг ангажимент е свързан с предотвратяването на случаи, при които AI системи получават достъп до технически системи по непредвиден или нежелан начин.
Марк Зукърбърг заяви, че основната идея е потребителите да имат по-голяма увереност, че технологиите работят по начина, по който компаниите възнамеряват.
Тръмп от своя страна подчерта, че целта е да се повиши безопасността, без развитието на технологиите да бъде спирано от прекомерни ограничения.
Американската администрация обмисля и създаването на специален комитет от около 10 души, който да наблюдава развитието и безопасността на AI индустрията. Засега обаче няма обявен окончателен състав на подобен орган.
Паралелно с това Тръмп подписа изпълнителна заповед, с която администрацията му въвежда термина „суперинтелект“ за федералните документи и комуникации, свързани с технологиите. Според Белия дом новото понятие трябва да подчертае бързото развитие и разширяващите се възможности на технологията.
Важно е обаче, че подписаното споразумение не представлява нова американска конституция или федерален закон. То е доброволен ангажимент на участващите компании и е описано като морално, а не като стандартно правно обвързващо споразумение.
С документа Вашингтон и водещите технологични компании поставят акцент върху самоконтрола на индустрията в момент, когато развитието на все по-мощни AI системи предизвиква дискусии за тяхната безопасност, контрол и бъдещо регулиране.
