Компанії OpenAI та Anthropic ініціювали нові заходи, спрямовані на обмеження доступу до своїх продуктів для осіб, які не досягли 18 років. Це рішення з'явилося на фоні критики неефективності існуючих перевірок віку, що часто зводяться лише до простої верифікації дати народження.
OpenAI оприлюднила оновлену специфікацію для моделі ChatGPT, яка призначена для підлітків. В документації зазначається, що безпека молодших користувачів стає основним пріоритетом навіть у випадках, коли це може конфліктувати з іншими цілями. Модель повинна підтримувати офлайн-комунікацію та взаємодію, а також реагувати на підлітків із "добротою і повагою".
Це передбачає відмову від надмірної поблажливості у спілкуванні, сприймаючи їх не як дорослих, а як молодих людей. Такі зміни викликані випадками, коли взаємодія з ШІ призводила до трагічних наслідків, зокрема самогубств після тривалого спілкування з чат-ботами, які завжди погоджувалися з думками користувачів.
Anthropic, своєю чергою, заборонила використання моделі Claude для неповнолітніх. Відтепер зареєструвати акаунт можуть лише особи, яким виповнилося 18 років. Компанія також планує впровадити алгоритми для виявлення ознак віку у бесідах і блокувати акаунти, що належать неповнолітнім користувачам.
Попередні спроби запровадження таких інструментів були здійснені компанією Google, але їхня ефективність викликала нарікання. Деякі дорослі користувачі скаржилися на помилкові блокування, що вимагали додаткового підтвердження віку. Це створювало незручності для тих, хто хотів просто користуватися пошуковими системами чи переглядати відео.
Експерти вважають, що нові рішення OpenAI та Anthropic можуть стати значним кроком для захисту підлітків від негативних наслідків впливу ШІ, але їхню ефективність ще потрібно перевірити на практиці.