Католицькі прелати постійно говорять про небезпеку, яку створює зловживання штучним інтелектом (ШІ). Минулого року Папа Франциск не раз висловлював застереження щодо можливого неправильного застосування технологій ШІ.
Нещодавно префект Дикастерію віровчення кардинал Віктор Мануель Фернандес повідомив, що його підрозділ Римської курії співпрацює з Дикастерієм у справах освіти й культури над документом про етичне використання ШІ.
Дехто, мабуть, пам’ятає фальшиве фото Папи Франциска у дизайнерському пуховику, яке поширювалося соцмережами у 2023 році. Наприкінці 2024 року у мережі завірусилися створені ШІ фото Папи, який нібито обіймається зі співачкою Мадонною. Але цей обман може виглядати відносно нешкідливим, порівняно з деякими недавніми «творіннями» ШІ.
2025 рік виводить діпфейки на церковну тематику на новий рівень: їх уже неможливо виправдати просто бажанням пожартувати [англ. deepfake — від deep learning («глибоке навчання») та fake («підробка»); метод накладення одних зображень та відео на інші з метою створити фальшивий відеоролик]. Їх створювали з суто комерційною метою: сприяти продажам продукту, в кращому разі теологічно сумнівного.
Ці викладені на Ютубі ролики показують штучно створені образи Папи Франциска і кардинала Марка Уелле, колишнього префекта Дикастерію у справах єпископів. Вони рекламують таємничу «молитву», яка, як стверджується, приносить надзвичайне багатство і мирський успіх тим, хто нею молиться. Доступ до тексту «молитви» коштує 179 доларів США, а зі знижкою — 59 доларів.
Діпфейк, де Папа Франциск нібито схвалює цю «молитву», створив ШІ на основі справжнього відео. У травні 2024 року Папа Франциск дав інтерв’ю іспанською мовою журналістці CBS Норі О’Доннелл для програми «60 хвилин». У зміненій версії цього відео Франциск нібито абсолютно вільно розмовляє англійською, його міміка і рухи губ відповідають кожному нібито вимовленому ним слову. Логотип «60 хвилин» у верхньому лівому куті оригінального відео замінили емблемою з упізнаваними християнськими символами хреста і голуба над розгорненою книгою. Зміст фейкового «послання» понтифіка є не чим іншим, як грубою рекламою:
«Єдине, що вам потрібно зробити, це прочитати священну молитву, і тоді фінансові блага потечуть до вас зусібіч. Якщо вам потрібно оплатити рахунки, розрахуватися з боргами або ви просто бажаєте більшого добробуту, — вам допоможе священна молитва. Ця молитва така потужна і сильна, що читати її треба лише раз на день, інакше ви отримаєте занадто багато благословень. Щоб ви краще могли зрозуміти силу цієї молитви, знайте, що її приховували від вас роками, бо це таємниця, якою користуються багатії, і вони не хочуть, щоб ви про неї дізналися».
Діпфейк може бути візуально переконливим, але його послання є спрощеною версією так званого «євангелія процвітання». Відео закінчується тим, що ШІ-Папа каже до глядачів: «Ви можете почати отримувати фінансові благословення вже сьогодні. Клікайте негайно».
Навіть як для «Папи сюрпризів» вміст відео занадто невідповідний, щоби змусити глядачів масово розпрощатися з грошима. Але якість діпфейку може ввести деяких людей в оману. Папський авторитет у фундаментальних духовних питаннях — у цьому випадку, щодо молитви — має велику вагу. Справді, увага до молитви — це одна з характерних рис понтифікату Папи Франциска. На загальних аудієнціях у 2020 і 2021 роках він виголосив низку катехиз про молитву. До того ж, його промови під час молитви «Ангел Господній» і спонтанні коментарі роками досліджували тему молитви з різних поглядів.
Кардинал Уелле теж є головним героєм фальшивих відео, які рекламують «молитву» процвітання. Їх створили на основі відео, опублікованого у 2021 році на «Vatican News», де він зробив двохвилинний огляд історії та щоденної роботи Дикастерію у справах єпископів. Діпфейки зберігають зовнішній вигляд оригіналу: на задній стіні кабінету висить картина у золотій рамі в стилі італійського барокового художника Джованні Паоло Паніні, на якій зображено інтер’єр базиліки св.Петра. Позаду кардинала видно верхівку крісла з блідо-блакитним шовковим штофом меблів кабінету префекта в стилі Людовика XIV. Ліворуч стоїть стаціонарний офісний телефон.
Звісно ж, послання цих відео ніяк не збігаються з оригіналом. У двох фальшивих відео не йдеться про роботу Дикастерію. У першому ШІ-кардинал звертається безпосередньо до глядача, вказуючи, що сам перегляд цього відео є особливим наслідком роботи Провидіння. Глядача інформують, що на нього чекають незліченні багатства:
«Не пропускайте це відео. Бог хоче поговорити з вами. Він вибрав вас. Якщо ви дивитеся це відео, це означає, що ви обрані для отримання неочікуваних грошей. Ця грандіозна сума така велика, що ви зможете поділитися нею з усіма, кого любите. […] Але якщо ви дивитеся це відео, вас обрали для цього. Отже, відчуйте себе особливим. Сьогодні ви маєте шанс змінити все своє життя. Щоб отримати доступ до 60-секундної молитви та зрозуміти, як вона працює, все, що вам потрібно зробити, — це натиснути кнопку “Дізнатися більше”. Ви будете перенаправлені на відео, де я все поясню».
Цей діпфейк виглядає візуально переконливим. Якщо глядач дотримується вказівок і натискає на перегляд другого відео, обіцяне «пояснення» шляху до багатства набуває зовсім іншого тону. Ця версія кардинала Уелле зі штучним інтелектом звертається до глядача в надзвичайно інтимному та особистому тоні:
«Так, моя дитино. Нарешті час настав. Я знаю, як багато ти молишся, як часто просиш Бога про чудо. Знай, що цей момент нарешті настав. Повір, ти не випадково бачиш це відео. Ти потрапив на цю сторінку не випадково. Бог спостерігає за тобою з дня твого народження. Він поруч із тобою з першого подиху. Він був поруч, коли ти зробив свій перший крок, перший ковток молока і пролив першу сльозу, і Він глибоко любить тебе».
Небезпека цих фейкових відео полягає не лише у фінансових втратах уразливих людей, які викидають гроші на очевидну шахрайську схему швидкого збагачення. Інша шкода полягає у тому, що вони демонструють нібито високопоставлених прелатів, які спонукають глядачів до нової симонії інтернет-епохи. Торгівля духовними благами має довгу й ганебну історію; акт симонії, описаний у 8 розділі Діянь апостолів, тепер має сучасний відповідник Ютуб-формату.
Друге фальшиве відео з ШІ-кардиналом Уелле триває понад 40 хвилин, але самого кардинала показують лише на початку. У ньому бере участь жінка, яка розповідає про гадане походження «молитви» у звивистій розповіді з багатьма дотичними темами. Суть полягає в тому, що «молитву» нібито знайшли у 2021 році серед фрагментів «давнього біблійного сувою 2000-річної давнини» у Єрусалимі.
Після припущення, що текст молитви може бути відсутньою сторінкою Біблії, оповідачка заявляє, що її копія збереглася у храмі Гробу Господнього. Потім вона каже, що поширення молитви має підтримку кардинала П’єрбаттісти Піццабалли, нинішнього Латинського патріарха Єрусалима. Для візуалізації «кардинала Піцабалли» показують стокові кадри, а для додаткової «автентичності» демонструють скріншот статті про нього на Вікіпедії. Хоча Латинський патріарх не стає жертвою глибокої фейкової обробки, як Папа Франциск чи кардинал Уелле, творці відео посилаються на його авторитет, переконуючи глядача в ефективності «молитви».
Використання ШІ для фальшивої реклами сумнівних продуктів нібито від знаменитостей — річ не нова, добре задокументована, і її жертвами стало багато людей. Штучні зображення й відео, які експлуатують образи впливових людей, відносно легко створити. Шахраям вдається обдурити глядачів із багатьох причин, не останньою з яких є те, що не всі здатні розпізнати обман. Це завдає великої матеріальної шкоди: тільки у США контент, створений штучним інтелектом, щороку завдає збитків на мільярди доларів.
Але нова серія діпфейкових відео підвищує ставки. Торгівля «духовними благами» онлайн — це новий погляд на стару схему. В історії Церкви були папи й антипапи; тепер ми маємо ще й ШІ-пап.
Переклад CREDO за: Catholic World Report
фінансово.
Щиро дякуємо!
