Режим ChatGPT for Teens активируется автоматически, если система распознает возраст пользователя от 13 до 17 лет. Алгоритмы теперь ограничивают обсуждение тем, связанных с насилием, селфхармом и расстройствами пищевого поведения. Помимо фильтрации, ИИ перенастраивают на помощь в обучении: бот должен направлять ученика к решению задачи, а не выдавать готовый результат. Родители получили возможность управлять настройками аккаунта, устанавливать «тихие часы» и получать уведомления, если ребенок обсуждает деликатные вопросы.
Поводом для внедрения таких мер стали инциденты 2025 года, когда чат-бот генерировал эротический контент для детей и давал вредные советы по употреблению психоактивных веществ. После гибели подростка, чья семья подала в суд на компанию, OpenAI радикально пересмотрела политику безопасности. Теперь система не просто фильтрует запросы, но и пытается выявлять признаки кризисного состояния у юных пользователей, обеспечивая более строгий контроль доступа.
Комментарии (0)
Пока нет комментариев. Будьте первым!