OpenAI заблокувала користувачів з Китаю та КНДР через підозри у зловмисній діяльності

Компанія OpenAI, розробник популярного чат-бота ChatGPT, оприлюднила результати внутрішнього розслідування щодо зловмисного використання своїх технологій штучного інтелекту. Згідно з опублікованим звітом, компанія виявила та заблокувала низку облікових записів, пов'язаних з користувачами з Китаю та Північної Кореї, які застосовували платформу для проведення підривних інформаційних операцій та стеження.

За даними розслідування, одна група користувачів використовувала ChatGPT для створення новинних матеріалів іспанською мовою, спрямованих на дискредитацію Сполучених Штатів. Ці матеріали згодом публікувались у провідних латиноамериканських ЗМІ під брендом китайської компанії. Інша виявлена схема була пов'язана з північнокорейськими акторами, які генерували за допомогою ШІ фіктивні резюме та профілі для працевлаштування у західних компаніях з метою промислового шпигунства.

Окрему увагу привернула група облікових записів, імовірно пов'язана з фінансовим шахрайством у Камбоджі. Зловмисники використовували технології OpenAI для перекладу та масового генерування коментарів у соціальних мережах, включаючи X (колишній Twitter) та Facebook.

Виявлення цих випадків стало можливим завдяки застосуванню спеціальних інструментів штучного інтелекту для моніторингу підозрілої активності. Хоча компанія не розкрила точну кількість заблокованих акаунтів та часові рамки операції, це розслідування підкреслює зростаючі ризики зловживання технологіями ШІ авторитарними режимами.

Варто зазначити, що уряд США неодноразово висловлював занепокоєння щодо потенційного використання Китаєм технологій штучного інтелекту для придушення громадянських свобод, поширення дезінформації та підриву безпеки США та їхніх союзників.

ChatGPT залишається найпопулярнішим ШІ-чатботом у світі з понад 400 мільйонами активних користувачів щотижня. Наразі OpenAI веде переговори щодо залучення інвестицій на суму до 40 мільярдів доларів при оцінці компанії в 300 мільярдів доларів, що може стати рекордним одиночним раундом фінансування для приватної компанії.

Це розслідування демонструє зростаючу важливість контролю за використанням технологій штучного інтелекту та необхідність розробки ефективних механізмів протидії їх зловмисному застосуванню. Експерти галузі наголошують, що подібні випадки можуть стати більш поширеними в майбутньому, оскільки технології ШІ стають дедалі доступнішими та потужнішими.