Компания OpenAI объявила о введении новых ограничений для пользователей ChatGPT младше 18 лет. Об этом говорится в блоге на официальном сайте OpenAI, автором которого выступил глава компании Сэм Альтман. Он объясняет, что нововведения направлены на баланс между безопасностью, свободой и приватностью, однако в случае с подростками приоритет отдается именно безопасности.
Согласно заявлению Альтмана, OpenAI внедрит систему поведенческого анализа, которая будет помогать определять возраст пользователя. Если модель не сможет достоверно установить возраст, она будет по умолчанию считать человека подростком и ограничит доступ к ряду функций. Таким пользователям станут недоступны определенные темы, включая создание художественных текстов, содержащих элементы самоповреждения или обсуждение самоубийства. Даже в рамках творческих заданий система будет отказывать в генерации таких сюжетов.
Если подросток, взаимодействуя с ChatGPT, выскажет суицидальные намерения, система может уведомить родителей, а при угрозе жизни — обратиться к компетентным органам. При этом для взрослых пользователей функциональность ChatGPT останется более широкой: им будут доступны чувствительные темы и творческие сценарии при условии соблюдения общих правил безопасности.
Ограничения касаются как новых, так и действующих учетных записей, однако в тексте не уточняется, как именно OpenAI будет обеспечивать соблюдение этих правил в разных странах с учетом различий в законодательстве и культуре. Также не раскрыты детали алгоритма определения возраста и его точности.
По словам Альтмана, компания стремится сделать ChatGPT полезным и безопасным для всех возрастных групп, но в случае с подростками OpenAI сознательно идет на ограничение свободы ради защиты.
«В некоторых случаях или странах мы также можем запросить удостоверение личности; мы понимаем, что это нарушает конфиденциальность для взрослых, но считаем это оправданным компромиссом», — сообщил Альтман.
