На Генеральной Ассамблее ООН группа экспертов, политиков и активистов объявила о новой инициативе под названием "Глобальный призыв к красным линиям для ИИ". Основная цель заключается в том, чтобы к концу 2026 года определить международные запреты на наиболее рискованные способы использования искусственного интеллекта. Об этом сообщает Gizmodo.

Этот документ уже поддержали более 200 человек, включая бывшую президента Ирландии Мери Робинсон, экс-президента Колумбии Хуана Мануэля Сантоса, а также видных ученых, таких как Джеффри Хинтон и Йошуа Бенджио, которых называют "отцами" искусственного интеллекта. Среди подписантов также есть известные ученые и активисты.

Участники призывают правительства достичь соглашения по основным ограничениям, которые могут предотвратить "универсально неприемлемые риски". Хотя в документе нет конкретных правил, приводятся примеры возможных "красных линий", таких как запрет на использование ИИ для запуска ядерного оружия, массового наблюдения за гражданами или создания систем, которые невозможно остановить.

Организаторы предлагают, чтобы любое будущее соглашение основывалось на трех ключевых принципах:

• четкий список запрещенных практик;
• независимые механизмы проверки и аудита;
• создание международного органа для контроля соблюдения соглашений.

В то же время окончательное определение границ и процедур оставлено на усмотрение государств. Инициаторы рекомендуют проводить специальные саммиты и рабочие группы для согласования позиций.

Соединенные Штаты уже имеют обязательства "не допускать, чтобы ИИ контролировал ядерное оружие", установленные еще в администрации Байдена. Тем не менее, представители разведки администрации Трампа выразили недовольство тем, что компании, разрабатывающие ИИ, не разрешают использовать свои технологии для внутреннего наблюдения. Такие ситуации могут усложнить принятие глобальных мер безопасности, на которые надеются эксперты по ИИ.