OpenAI создаёт детскую версию ChatGPT с родительским контролем

Компания OpenAI, разработчик популярного чат-бота ChatGPT, объявила о запуске специальной версии своего ИИ для пользователей младше 18 лет. Новая версия будет включать функции родительского контроля и усиленные меры безопасности, чтобы защитить подростков от потенциально вредного контента. Об этом сообщает CNBC.

Безопасность для подростков

Детская версия ChatGPT разрабатывается в ответ на растущие опасения о влиянии ИИ на молодёжь. Она будет автоматически активироваться, если система определит, что пользователь — несовершеннолетний. Основные особенности:

• Блокировка контента: запрет на графический, сексуальный или другой неподходящий материал.
• Реакция на эмоциональный дистресс: в редких случаях, если ИИ зафиксирует сильное эмоциональное расстройство, он сможет уведомить правоохранительные органы.
• Родительский контроль: инструменты для родителей, чтобы ограничивать доступ и отслеживать использование.

OpenAI также работает над технологией, которая точнее определяет возраст пользователя. Если возраст установить не удастся, система по умолчанию переключится на «детский» режим.

Почему это важно?

Инициатива связана с недавним расследованием Федеральной торговой комиссии США (FTC), которая изучает, как чат-боты с ИИ влияют на детей и подростков. FTC интересует, какие меры компании принимают для обеспечения безопасности, особенно когда ИИ выступает в роли «виртуального компаньона».

Поводом для усиления мер стал громкий иск от семьи, обвинившей ChatGPT в причастности к самоубийству их сына-подростка. В ответ OpenAI представила обновления, которые помогут чат-боту лучше обрабатывать «деликатные ситуации», включая кризисные состояния.

Как будет работать детская версия?

• Автоматическое переключение: при регистрации или входе система определит возраст пользователя (например, через данные профиля или анализ поведения).
• Фильтрация контента: ИИ будет избегать ответов, которые могут быть вредными или травмирующими.
• Ограниченный доступ: родители смогут задавать рамки, например, ограничивать темы или время использования.

Точные детали технологии возрастной верификации пока не раскрыты, но OpenAI обещает сделать её максимально надёжной.

Что дальше?

OpenAI планирует внедрить детскую версию ChatGPT в ближайшие месяцы, хотя точная дата запуска не названа. Компания также намерена сотрудничать с регуляторами и экспертами по детской безопасности, чтобы соответствовать стандартам. Это часть более широкой стратегии OpenAI по созданию «этичного ИИ», который учитывает потребности разных групп пользователей.

Вкратце…

Детская версия ChatGPT от OpenAI станет важным шагом в обеспечении безопасности подростков в эпоху ИИ. С функциями родительского контроля, фильтрацией контента и автоматическим определением возраста она обещает сделать взаимодействие с чат-ботом более безопасным. На фоне расследований FTC и общественных дискуссий о влиянии ИИ на молодёжь OpenAI стремится показать, что технологии могут быть не только мощными, но и ответственными.