На Генеральній Асамблеї ООН група експертів, політиків та активістів анонсувала нову ініціативу під назвою "Глобальний заклик до червоних ліній для ШІ". Її основна мета полягає в тому, щоб до кінця 2026 року визначити міжнародні заборони на найбільш ризиковані способи використання штучного інтелекту. Про це повідомляє Gizmodo.

Цей документ вже підтримали понад 200 осіб, серед яких колишня президентка Ірландії Мері Робінсон, екс-президент Колумбії Хуан Мануель Сантос, а також видатні вчені, такі як Джеффрі Хінтон і Йошуа Бенджіо, яких вважають "батьками" штучного інтелекту. Серед підписантів також є відомі науковці та активісти.

Учасники закликають уряди досягти угоди щодо базових обмежень, які можуть запобігти "універсально неприйнятним ризикам". Хоча в документі немає конкретних правил, наводяться приклади можливих "червоних ліній", таких як заборона використання ШІ для активації ядерної зброї, масового стеження за громадянами або створення систем, які неможливо зупинити.

Організатори пропонують, щоб майбутня угода базувалася на трьох принципах:

• чіткий перелік заборонених практик;
• незалежні механізми перевірки та аудиту;
• створення міжнародного органу для контролю виконання угод.

Водночас остаточне визначення меж і процедур залишено на розсуд держав. Ініціатори пропонують проводити спеціальні саміти та робочі групи для узгодження позицій.

США вже мають зобов'язання "не дозволяти ШІ контролювати ядерну зброю", ухвалене ще за адміністрації Байдена. Проте, представники розвідки адміністрації Трампа висловили незадоволення тим, що компанії, які розробляють ШІ, не дозволяють використовувати свої технології для внутрішнього стеження. Це може ускладнити прийняття глобальних безпекових рішень, на які сподіваються експерти з ШІ.