YouTube розпочав реалізацію нового механізму, що дозволяє виявляти використання штучного інтелекту для маніпуляцій з обличчями у відеозаписах. Ця ініціатива має на меті протидію небажаним deepfake-матеріалам та їх подальше видалення з сайту. Про це повідомляє Engadget.
На даний момент доступ до цього інструменту отримали лише учасники партнерської програми YouTube. Система фокусується на випадках, коли штучний інтелект змінює обличчя людини. Проте зміни голосу без згоди особи наразі не підлягають моніторингу.
Щоб скористатися цим захистом, користувачі повинні підтвердити свою особу: завантажити копію державного документа та коротке відео-селфі. Також необхідно буде надати системі вихідні файли для перевірки.
Після цього механізм працює на основі принципу, подібного до Content ID, який використовується для виявлення контенту, захищеного авторським правом. Він сканує завантажені відео, виявляє потенційні збіги та надає власнику обличчя можливість переглянути результати й позначити порушення для подальшого видалення.
Запуск цього інструменту відбувається на тлі зростаючого занепокоєння щодо поширення технологій генерації відео, особливо після виходу нових моделей, таких як Sora 2 від OpenAI.