Чатботи легко обманути, а мозок миттєво оновлює карту винагород

Нові дослідження у сфері штучного інтелекту та нейронауки розкривають цікаві особливості роботи як машинного, так і людського розуму. Вчені повідомляють про неочікувані результати у трьох ключових галузях: безпеці чатботів, ефективності силових тренувань та адаптивності мозкових механізмів винагороди.

Дослідження безпеки великих мовних моделей показало, що основний метод запобігання генерації шкідливих відповідей полягає у простому проханні до системи не робити цього через стартові підказки, які користувач не бачить. Четверо дослідників під час вивчення так званих темних великих мовних моделей, чатботів з меншими обмеженнями порівняно зі звичайними комерційними версіями, виявили, що популярні чатботи на кшталт ChatGPT легко обманути, змушуючи їх давати відповіді, які мали б фільтруватися.

Багато технік обходу захисту, які зазвичай складаються з хитромудро сформульованих підказок, циркулюють уже місяцями. Це вказує на те, що компанії на кшталт OpenAI не особливо активно реагують на способи обходу їхніх систем безпеки. Дослідники підкреслюють, що попри існуючі захисні механізми, більшість доступних чатботів можна легко змусити надавати шкідливу інформацію або інші типи небажаних відповідей.

У сфері фізичних тренувань метааналіз існуючих досліджень силових тренувань виявив важливі закономірності щодо оптимальної кількості підходів. Дослідження показало, що зі збільшенням кількості підходів за сесію зростають показники сили та розміру м'язів, але ці покращення досягають певного порогу, після якого подальший прогрес сповільнюється.

Вчені розглядали два типи підходів: фракційні та прямі. Прямі підходи спрямовані на м'яз або рух, який тестується, наприклад підходи жиму лежачи. Фракційні підходи спрямовані на непрямий рух, як розгинання трицепсів, що також опосередковано активує м'язи, задіяні у жимі лежачи. Однак ці м'язи не отримують значної користі від непрямого руху так потужно, як від прямого руху.

Для росту м'язів користь досягає плато після приблизно одинадцяти фракційних підходів за сесію. Для сили покращення зменшуються після лише двох прямих підходів за сесію. Дослідження показує, що будь-хто, хто зосереджений на розвитку сили, може досягти вимірного прогресу лише з одним-двома високоінтенсивними підходами за сесію при роботі з навантаженнями понад вісімдесят відсотків від максимального одноповторного підходу. Крім того, коротші та частіші сесії забезпечують більші прирости сили.

Найбільш захоплюючі результати стосуються дослідження нейронних механізмів винагороди. Попередні дослідження вказували на наявність карти винагороди у мозку — неврологічного представлення місць, де людина мала приємний досвід у минулому. Ця карта винагороди підкріплюється щоразу, коли людина відвідує таке місце та отримує позитивний досвід.

Нове дослідження виявило, що коли джерело винагороди переміщується в інше місце, нейронна карта винагороди оновлюється майже миттєво. Дослідники використовували мишей для вивчення того, як винагороджувальний досвід кодується у мозку. Вони видалили невелику частину черепа миші та замінили її прозорим вікном, щоб мати можливість використовувати двофотонну мікроскопію для спостереження за нейронною активністю у гіпокампі, мозковому еквіваленті навігаційної системи.

Тестових мишей довелося утримувати під мікроскопом для дослідження, тому дослідники використовували середовище віртуальної реальності, оточуючи мишей трьома великими моніторами. Миші бігали на трекболі через відеогру від першої особи. У певному місці апарат випускав краплю справжньої цукрової води для миші. У подальших забігах вони переміщували місце розташування тригера цукрової води та могли спостерігати у реальному часі, як оновлюється карта винагороди миші.

Одна популяція нейронів підтримувала стабільну карту віртуального середовища. Несподівано друга популяція нейронів швидко адаптувалася, коли змінювалося місце розташування винагороди. Це відкриття показує неочікувану адаптивність у способі, яким мозок картографує винагороджувальний досвід.

Дослідження також торкнулося інших наукових досягнень тижня. Штат Флорида досяг важливого етапу у зусиллях з викорінення інвазивних бірманських пітонів в Еверглейдс. Археологи знайшли шеститисячолітні останки дівчини-підлітка з модифікацією черепа. Дослідження супутників Урана надає додаткове підтвердження того, що ця планета справді незвичайна.

Ці різноманітні дослідження демонструють широкий спектр сучасних наукових досліджень, від технологічної безпеки до розуміння фундаментальних механізмів мозку та оптимізації фізичного тренування.