Штучний інтелект відтворює померлих для судів та освіти

Використання штучного інтелекту для «воскресіння» померлих людей стає все більш поширеним явищем, що викликає серйозні етичні питання. Дослідники з Центру прикладної етики Університету Массачусетса в Бостоні вивчають моральні наслідки таких технологій та вважають їх проблематичними.

У травні 2025 року під час судового засідання щодо вбивства Крістофера Пелкі, який загинув у результаті дорожнього конфлікту в 2021 році, відбулася безпрецедентна подія. Штучний інтелект створив відеореконструкцію померлого, яка виголосила заяву про вплив злочину на жертву. Суддя повідомив, що був глибоко зворушений цим виступом і виніс максимальний вирок за ненавмисне вбивство.

Аналогічний випадок планувався в Ізраїлі під час святкування 77-ї річниці незалежності країни 30 квітня 2025 року. Організатори мали намір провести концерт за участю чотирьох знакових ізраїльських співаків, які померли роки тому. Планувалося використати штучний інтелект для створення їхнього звуку та відео, щоб вони могли співати разом з Ярденою Аразі, відомою артисткою, яка досі жива. Однак Аразі відмовилася від участі через політичну атмосферу, і захід не відбувся.

У квітні 2025 року BBC створила дипфейк знаменитої письменниці детективів Агати Крісті для проведення «майстер-класу з письменства». Штучна Агата мала навчати майбутніх авторів детективів та «надихати» їх на «письменницьку подорож».

Важливо розрізняти ШІ-реанімації, або дипфейки, від так званих «ботів скорботи». Боти скорботи — це чат-боти, навчені на великих масивах даних, які залишили померлі: публікації в соціальних мережах, текстові повідомлення, електронні листи, відео. Ці чат-боти імітують спосіб спілкування покійних і призначені для полегшення життя родичів, що залишилися. Дипфейки, про які йдеться, мають інші цілі — вони призначені для просування правових, політичних та освітніх справ.

Перша моральна дилема, яку породжує ця технологія, стосується згоди: чи погодилися б померлі робити те, що робить їхня подоба? Чи хотіли б померлі ізраїльські співаки виступати на церемонії незалежності, організованій нинішнім урядом країни? Чи почувався б комфортно Пелкі, жертва дорожнього конфлікту, з текстом, який його родина написала для аватара? Що думала б Крісті про свого ШІ-двійника, який викладає той клас?

Відповіді на ці питання можна лише опосередковано вивести, вивчаючи те, що робили померлі, та погляди, які вони висловлювали за життя. Можна запитати, чи взагалі мають значення ці відповіді. Якщо ті, хто відповідає за спадщину, погоджуються на реанімації, чи не вирішується питання? Зрештою, такі опікуни є законними представниками покійних.

Але, залишивши осторонь питання згоди, залишається більш фундаментальне питання. Що ці реанімації роблять зі спадщиною та репутацією померлих? Чи не залежить їхня репутація певною мірою від рідкості появи, від того факту, що померлі більше не можуть з'являтися? Смерть може мати благотворний вплив на репутацію видатних людей — це було добре для Джона Кеннеді та для ізраїльського прем'єр-міністра Іцхака Рабіна.

Афінський лідер П'ятого століття до нашої ери Перікл добре це розумів. У своїй знаменитій похоронній промові, виголошеній наприкінці першого року Пелопоннеської війни, він стверджує, що благородна смерть може підвищити репутацію людини та змити її дрібні проступки. Це тому, що померлі поза досяжністю, і їхня містика зростає після смерті. «Навіть надзвичайна чеснота навряд чи принесе вам репутацію, рівну» репутації померлих, наполягає він.

Чи знецінюють ШІ-реанімації валюту померлих, змушуючи їх постійно з'являтися? Чи принижують та дестабілізують вони їхню репутацію, змушуючи коментувати події, що сталися довго після їхньої смерті?

Крім того, ці ШІ-представлення можуть бути потужним інструментом впливу на аудиторію в політичних або правових цілях. Повернення популярного померлого співака для легітимізації політичної події та реанімація померлої жертви для надання свідчень — це дії, спрямовані на вплив на судження аудиторії.

Одна справа — звертатися до Черчілля чи Рузвельта під час політичної промови, цитуючи їх або навіть намагаючись звучати як вони. Зовсім інша справа — змусити «їх» говорити поруч з вами. Потенціал використання ностальгії надзаряджається цією технологією. Уявіть, наприклад, що б зробили радянські, які буквально поклонялися мертвому тілу Леніна, з дипфейком свого старого ідола.

Можна стверджувати, що оскільки ці реанімації унікально захоплюючі, їх можна використовувати для чеснотливих цілей. Розгляньте реанімованого Мартіна Лютера Кінга-молодшого, який звертається до нашої нині поляризованої та розділеної нації, закликаючи до поміркованості та єдності. Хіба це не було б чудово? А що з реанімованим Мордехаєм Анелевичем, командиром повстання у Варшавському гетто, який виступає на суді над заперечувачем Голокосту, таким як Девід Ірвінг?

Але чи знаємо ми, що думав би Кінг про наші нинішні політичні розбіжності? Чи знаємо ми, що думав би Анелевич про обмеження шкідливих висловлювань? Чи означає мужня кампанія за громадянські права, що ми повинні закликати цифрового привида Кінга коментувати вплив популізму? Чи означає безстрашна боротьба з нацистами, що ми повинні витягувати ШІ-тінь старого героя для коментування свободи слави в цифрову епоху?

Навіть якби політичні проекти, яким служили ці ШІ-аватари, відповідали поглядам покійних, проблема маніпуляції — використання психологічної сили дипфейків для звернення до емоцій — залишається.

А що з залученням ШІ Агати Крісті для викладання курсу письменства? Дипфейки справді можуть мати благотворне використання в освітніх умовах. Подоба Крісті могла б зробити студентів більш ентузіастичними щодо письменства. Фальшивий Арістотель міг би покращити шанси того, що студенти займуться його суворою «Нікомаховою етикою». ШІ Ейнштейн міг би допомогти тим, хто хоче вивчати фізику, зрозуміти загальну теорію відносності.

Але створення цих підробок несе велику відповідальність. Зрештою, враховуючи те, наскільки захоплюючими вони можуть бути, можливо, що взаємодія з цими представленнями буде всім, на що студенти звертатимуть увагу, а не служитиме воротами для подальшого дослідження предмета.

У вірші, написаному в пам'ять про В.Б. Єйтса, В.Х. Оден розповідає нам, що після смерті поета Єйтс «став своїми шанувальниками». Його пам'ять тепер була «розкидана серед сотні міст», а його робота підлягала нескінченній інтерпретації: «слова мертвої людини змінюються в нутрощах живих».

Померлі живуть у багатьох способах, якими ми переосмислюємо їхні слова та роботи. Оден зробив це з Єйтсом, і ми робимо це з Оденом прямо тут. Ось як люди залишаються на зв'язку з тими, кого немає. Зрештою, дослідники вважають, що використання технологічної майстерності для конкретного повернення їх назад не поважає їх і, можливо, що важливіше, є актом неповаги до нас самих — до нашої здатності абстрагувати, думати та уявляти.