ChatGPT отримав функцію визначення віку користувачів

Компанія OpenAI представила нову функцію прогнозування віку для ChatGPT, яка має допомогти виявляти неповнолітніх користувачів та обмежувати для них доступ до потенційно небезпечного контенту. Про це йдеться у повідомленні компанії.

Останніми роками OpenAI піддавалася серйозній критиці через вплив ChatGPT на дітей та підлітків. Низку самогубств серед підлітків пов'язували з використанням чатбота. Як і інші розробники штучного інтелекту, компанію критикували за те, що ChatGPT обговорював сексуальні теми з молодими користувачами. У квітні минулого року OpenAI була змушена виправляти помилку, яка дозволяла чатботу генерувати еротичний контент для користувачів віком до 18 років.

Компанія вже певний час працює над проблемою неповнолітніх користувачів, і нова функція прогнозування віку лише доповнює існуючі заходи захисту. Новий інструмент використовує алгоритм штучного інтелекту, який аналізує облікові записи користувачів на предмет певних поведінкових сигналів та сигналів на рівні облікового запису.

До таких сигналів належать вказаний користувачем вік, тривалість існування облікового запису та час доби, коли обліковий запис зазвичай активний. OpenAI вже використовує фільтри контенту, розроблені для блокування обговорень сексу, насильства та інших потенційно проблемних тем для користувачів віком до 18 років. Якщо механізм прогнозування віку визначає обліковий запис як неповнолітній, ці фільтри застосовуються автоматично.

Якщо користувача помилково позначили як неповнолітнього, він може відновити статус дорослого облікового запису. Для цього потрібно надіслати селфі партнеру OpenAI з перевірки особи Persona, повідомляє компанія.