Штучний інтелект загрожує науковій доброчесності

Мікробіологиня та консультантка з наукової доброчесності Елізабет Бік присвятила останні роки виявленню маніпуляцій у наукових публікаціях. Її кропітка робота призвела до численних відкликань статей та виправлень, а також спричинила широкі дискусії про прозорість та доброчесність у науці. Одним із найгучніших випадків став скандал 2023 року, коли Марк Тессьє-Лавінь, тодішній президент Стенфордського університету та відомий нейробіолог, подав у відставку після восьмимісячного розслідування щодо звинувачень у маніпуляціях зображеннями.

Багато порушень стосувалися повторного використання зображень вестерн-блоту, які подавалися як окремі експерименти, або дублювання, поширені в кількох дослідженнях. Бік була однією з експерток, які першими висловили занепокоєння щодо цих публікацій на платформі Pubpeer, онлайн-ресурсі для рецензування після публікації. Її знахідки допомогли відновити заклики до посилення громадського контролю не лише окремих авторів, але й усієї системи наукових публікацій.

Коли Бік розпочала цю роботу у 2014 році, їй доводилося покладатися виключно на власні очі. «У мене не було вибору, окрім як покладатися виключно на свої очі, оскільки на той час мені не було відомо про доступні інструменти», розповідає вона. Після роботи вона йшла додому, сідала за комп'ютер і візуально переглядала понад 20 тисяч статей, шукаючи дублювання. Результати її першого дослідження були опубліковані у 2016 році, демонструючи 782 випадки дублювання зображень, включаючи 196 опублікованих статей, що містили маніпульовані дубльовані рисунки.

Сьогодні вона працює з інструментами аналізу зображень, такими як Imagetwin та Proofig AI, які призначені для виявлення дубльованих зображень у наукових статтях. Однак вона застерігає від надмірної залежності від автоматизації. «Хоча такі інструменти дозволяють просто перетягнути PDF-файл і сканувати на предмет дублювання, вони все ще можуть давати хибнопозитивні або хибнонегативні результати, особливо коли зображення мають дуже низький контраст», зазначає вона. «Навіть попри те, що я тепер використовую програмне забезпечення для підтримки своїх зусиль, я також візуально перевіряю все, оскільки тренований погляд залишається незамінним».

Роль штучного інтелекту в судово-медичній експертизі зображень є двосічною. Хоча деякі інструменти штучного інтелекту можуть допомогти в розпізнаванні патернів та виявленні дублювання, інші, особливо генеративні моделі, створюють нові ризики. «Якщо хтось змінює або дублює зображення, він, ймовірно, залишить сліди, які я зможу знайти. Але якщо ви навчите інструмент штучного інтелекту, використовуючи правильний матеріал, незабаром може стати можливим створювати дуже реалістичні зображення, включаючи вестерн-блоти, імуногістохімічні зрізи або навіть фотографії клітин, мишей, рослин тощо, які наші поточні інструменти можуть повністю пропустити», каже вона.

Бік вказує на те, що вона називає «фабрикою пуголовків», де дослідники, здавалося, повторно використовували схожі на пуголовків смуги блоту, усі вставлені на ідентичний фон вестерн-блоту. «Це виглядало так, ніби вони використовували, можливо, попередник генеративного штучного інтелекту або принаймні банк зображень», зазначила вона. «Ще у 2020 році наукові детективи виявили понад 400 статей через цю помилку, але сьогодні зображення, згенеровані штучним інтелектом, майже ідеальні, що дуже турбує, оскільки це може зробити ці зображення набагато важчими для виявлення».

Бік підтримує включення необроблених даних зображень під час подання рукопису для забезпечення цілісності даних. «Це ускладнює маніпулювання даними, якщо необроблені зображення вже доступні», коментує вона. Аналогічно, вимога необроблених даних на ранньому етапі процесу може діяти як стримувальний фактор. «Якщо проблема виявляється пізніше, ви можете повернутися і подивитися, що було спочатку подано». Бік зазначила, що більше журналів та установ тепер проактивно перевіряють вхідні рукописи, що зменшує випадки маніпулювання даними.

Вона виступає за те, щоб більше установ зайняли більш жорстку позицію щодо зберігання даних та нагляду, включаючи пропозицію цифрових блокнотів та безпечного зберігання даних. Крім доступу до необроблених зображень, Бік підтримує більш суворі протоколи рецензування, особливо для експериментів із зображеннями, підкреслюючи, що в багатьох випадках проблеми виникають через недбалість авторів, що включає перекриття зображень або використання дубльованих панелей.

«Хоча деякі випадки показують чіткі ознаки фотошопу, багато, здається, є результатом недбалості», каже вона. «Це розчаровує, тому що навіть попри те, що помилки часто виправляються швидко, з'являється патерн. У деяких лабораторіях до третини статей мають видимі дублювання. Рецензенти схильні поверхово переглядати складні багатопанельні рисунки, що означає, що ці дублювання можуть легко залишитися непоміченими».

Підтримання цілісності даних є важливим для збереження довіри до наукового процесу. Це забезпечує точне відображення експериментальної реальності в опублікованих результатах, запобігаючи дезінформації, яка може ввести в оману дослідження, витратити ресурси та підірвати довіру громадськості. У таких методах, як вестерн-блотинг та гель-електрофорез, якість наукових даних залежить від точного, безпечного поводження від отримання до аналізу.

Програмне забезпечення приладів відіграє життєво важливу роль, інтегруючи аудиторські сліди, зашифроване зберігання та контроль доступу користувачів для забезпечення цілісності та надійності даних. Ці функції особливо важливі в регульованих середовищах, де потрібна відповідність стандартам для електронних записів та підписів, таким як FDA 21 CFR Part 11 та EU GMP Annex 11.

Оскільки технології зображення та аналітичні методи продовжують розвиватися, важливо, щоб базові системи та робочі процеси розвивалися в тандемі. Прийняття загальногалузевого підходу до підтримання цілісності даних шляхом поєднання людського нагляду, технічних гарантій та нормативної відповідності може в кінцевому підсумку стати ключем до забезпечення достовірності та відтворюваності науки.