Новый шаг к безопасности: селфи от пользователей в Москве

Разработчики ChatGPT внедряют новую систему для определения возраста пользователей. В случае, если ИИ ошибётся в этой оценке, пользователям будет предложено подтвердить свой возраст с помощью селфи.

Как будет проводиться определение возраста

Это не тотальная проверка личности, а многоуровневый анализ. Модель будет использовать уже существующие механизмы защиты, чтобы определить, исполнилось ли пользователю 18 лет.

"Система основывается на сочетании поведенческих сигналов и данных учетной записи, включая возраст учетной записи, время активности пользователя, его поведение с течением времени и указанный возраст", — говорится в заявлении компании.

Когда потребуется селфи

Если автоматизированная система ошибочно определит пользователя как несовершеннолетнего, его доступ к определенным функциям ChatGPT может быть ограничен. В этом случае пользователю предложат подтвердить свой возраст с помощью визуального подтверждения.

Для подтверждения возраста будет использоваться сервис Persona, предназначенный для безопасной идентификации пользователей. Пользователю нужно будет сделать селфи, после чего доступ к полной функциональности ChatGPT будет восстановлен.

Важно отметить, что селфи не потребуется предоставлять всем пользователям — это будет нужно только в случаях, когда система сомневается в возрасте пользователя.

Что будет ограничено для пользователей младше 18 лет

Чтобы защитить несовершеннолетних от потенциально вредного контента, ChatGPT введет дополнительные фильтры. Эти ограничения будут касаться:

• изображений сцен насилия и чрезмерной жестокости;
• вирусных челленджей, способствующих рискованному поведению;
• ролевых игр с сексуальным, романтическим или жестоким подтекстом;
• изображений членовредительства;
• контента, пропагандирующего экстремальные стандарты красоты и нездоровое питание.

Создатели ChatGPT подчеркивают, что новая система должна эффективно защитить несовершеннолетних и лучше настраивать контент в зависимости от возраста пользователей. Аналогичные меры уже давно применяются в социальных сетях и видеостриминговых сервисах; теперь они приходят и в сферу ИИ.

На данный момент нет информации о том, когда новая система начнет функционировать в полных версиях ChatGPT.