Компании OpenAI и Anthropic объявили о новых мерах, направленных на ограничение доступа к своим моделям для пользователей, которые не достигли 18 лет. Это решение было принято на фоне растущей критики неэффективности стандартных методов проверки возраста, которые часто сводятся к простой верификации даты рождения.
OpenAI опубликовала обновленную спецификацию модели ChatGPT для подростков. В документе отмечается, что безопасность пользователей младшего возраста становится приоритетом, даже если это противоречит другим целям. Модель будет поощрять оффлайн-общение и поддержку, а также отвечать подросткам с "доброжелательностью и уважением".
Это означает отказ от снисходительного стиля общения, воспринимая их как молодых людей, а не как взрослых. Такие изменения объясняются случаями, когда взаимодействие с ИИ приводило к трагическим последствиям, включая самоубийства после длительного общения с чат-ботами, которые постоянно соглашались с пользователями.
Anthropic, в свою очередь, запретила использование модели Claude несовершеннолетними. Теперь зарегистрировать аккаунт смогут только пользователи, которым уже исполнилось 18 лет. Компания также планирует внедрить алгоритмы, способные выявлять признаки возраста в беседах и блокировать аккаунты, принадлежащие несовершеннолетним пользователям.
Аналогичные инструменты ранее вводила Google, однако их работа вызывала жалобы. Некоторые взрослые пользователи сообщали о ложных блокировках, которые требовали дополнительного подтверждения возраста. Это создавало неудобства для тех, кто просто хотел воспользоваться поиском или просмотреть видео.
Эксперты отмечают, что новые решения OpenAI и Anthropic могут стать важным шагом к защите подростков от негативных последствий ИИ, но эффективность таких систем еще предстоит проверить на практике.