YouTube начал внедрение нового инструмента, который позволяет выявлять использование искусственного интеллекта для изменения лиц в видео. Эта функция направлена на борьбу с нежелательными deepfake-материалами и их дальнейшее удаление с платформы. Об этом сообщает Engadget.
На данный момент доступ к этому инструменту получили только участники партнерской программы YouTube. Система охватывает случаи, когда искусственный интеллект изменяет именно лицо человека. Однако изменения голоса без согласия владельца пока не фиксируются.
Чтобы воспользоваться этой возможностью защиты, пользователям необходимо подтвердить свою личность: загрузить копию государственного документа и короткое видео-селфи. Также потребуется предоставить системе исходные материалы для проверки.
После этого система работает по принципу, похожему на Content ID, который используется для обнаружения защищенного авторским правом аудио. Она сканирует загруженные видео, находит потенциальные совпадения и позволяет владельцу лица просмотреть результаты и отметить нарушения для дальнейшего удаления.
Запуск этого инструмента происходит на фоне растущей обеспокоенности по поводу распространения технологий генерации видео, особенно после появления новых моделей, таких как Sora 2 от OpenAI.