Від молитви монахів, якої ніколи не було, до падіння Папи зі сходів: діпфейки роблять так, що ми легко віримо в ілюзію і щораз складніше її відрізнити від правди.
Вмикаєте відео на YouTube — монахи співають. В описі сказано: «Справжня молитва ченців». Коментарі: «Амінь», «Як гарно вони моляться», «Дякую, Боже, за цих монахів».
Але ж буває достатньо хвилини, щоби зрозуміти, що все це — відео, спів, текст — є продуктом алгоритму. Можна подумати: хтось це побіжно пролистав, і тому такі реакції; або — це теж може бути коментар, написаний ботом (алгоритмом, який видає себе за людину). Але часто так коментують цілком реальні люди, які ще й іноді вважають себе експертами! Як таке можливо, що навіть найпильніші дають цій ілюзії себе так захопити?
Зворушливий скрипковий концерт, якого… не було
Уявіть: на каналі «Soul Star» ви дивитеся відео під назвою «100‑річний чоловік грає для друзів, які загинули на війні». Закадровий голос розповідає драматичну історію, дідусь на інвалідному візку грає на скрипці, глядачі плачуть — і журі, яке з’являється в перебивках, теж плаче. Інший приклад — монахи, які співають нібито духовні, проте дещо дивні пісні на взірець григоріанських хоралів.
Як опис цього ролика, так і його назва, музика та відеоряд повністю згенеровані штучним інтелектом. Це не запис і не документ — це просто симуляція. Технологія, яка робить це можливим, використовує потужні алгоритми штучного інтелекту для створення гіперреалістичних, але повністю вигаданих зображень і звуків. Ці алгоритми стають дедалі складнішими. Зазвичай ми називаємо їх «діпфейками»: те, що можна перекласти як «глибокий обман».
Когнітивні упередження на службі діпфейків
Чому — попри розуміння, що щось може бути фальшивкою — ми реагуємо? Тому що емоції працюють за принципом скорочення: коли щось нас зворушує, мозок перестає розпізнавати «чи це правда?» і починає реагувати на стимул.
Дослідження показують, що у глядачів, які не усвідомлюють, що дивляться діпфейки, емоції такі ж сильні й автентичні, як і реакції на записи реальних, зворушливих подій. В експерименті 2024 року, який порівнював емоції в оригінальних записах і діпфейках, учасники оцінювали їх майже однаково за інтенсивністю та щирістю. І самі вони емоційно реагували на них — немов на реальні події.
Загалом беручи, діпфейки використовують кілька наших психологічних слабкостей. Люди мають природну схильність довіряти тому, що бачать і чують, і діпфейки використовують це, створюючи дуже реалістичний контент.
Крім того, когнітивні упередження, такі як упередження підтвердження — коли ми більш схильні вірити інформації, яка підтверджує наші власні переконання, — роблять нас вразливими до діпфейків, які відповідають нашим власним поглядам.
Ми переоцінюємо свою здатність розпізнавати
Однак це не єдина проблема. Одна з головних причин, чому ми ловимося на діпфейки, полягає в тому, що ми переоцінюємо свою здатність їх виявляти. Дослідження, проведене Центром людей і машин та CREED (Center for Research in Experimental Economics and Political Decision-making) в Амстердамському університеті (2021), показало, що люди, які були впевнені у своїй здатності розпізнавати діпфейки, зовсім і не вразили своїми результатами. Причому навіть коли були мотивовані значною фінансовою винагородою!
У пошуках позитивних емоцій
Що ще робить нас схильними обманюватися фальшивими відео та інформацією? Сама сучасна культура. В епоху соціальної напруженості, війни та інформаційного хаосу люди шукають вражень, які дозволять їм на мить зупинитися, зануритися в красу, тишу й відчути позитивні емоції. Навіть якщо це штучна краса.
Красиві діпфейки пропонують своєрідний притулок — створюючи простір для переживання емоцій, добра, sacrum, естетики містичності і благородства. В культурі, де справжні стосунки можуть бути складними і недосконалими, — штучні емоції можуть запропонувати бажану дозу емоційних переживань. Тому, коли під відео з’являються коментарі на кшталт «очевидно, що це фальшиво, штучно» — негайна реакція: «Ну і що? Але це може бути і реальним, а до того ж, це так красиво!»
Один із коментарів, які найбільше спонукають до роздумів, з’явився під фейковим зображенням Папи Лева XIV, який падає зі сходів. Хтось написав: «Ну і що, якщо це неправда? Це могло статися, а принаймні я молився за Папу, за його здоров’я, тож це добре?»
То це добре?
Гарне питання: це добро чи ні? Якщо хтось шукає способу «полоскотати» собі позитивні емоції, то чи він обере згенеровану штучним інтелектом «історію, яка могла би статися», художній фільм чи правдиву історію, — виглядає неважливим. А якщо результатом цього досвіду була позитивна дія (як у випадку з чоловіком, який молився за Папу), то виступати проти цього здається простим занудством.
Однак дослідження показують, що ми обробляємо діпфейки інакше, ніж відео, зображення та контент, які вважаємо вигадкою. У випадку діпфейків (навіть якщо їх пізніше розвінчають як обман) пам’ять робить нам кепську послугу. Час минає, а візуальний образ побаченого і враження, що це насправді сталося, залишаються.
Таким чином, якщо ми запитаємо людей, які бачили, як Папа Лев XIV «падав зі сходів», через п’ять років, чи це справді сталося, — вони з повною впевненістю скажуть, що так і було.
І що з цим робити?
Діпфейки показують, як мало ми здатні справлятися з тим, що створюють сучасні технології.
В епоху, коли правду дедалі більше затьмарюють цифрові симуляції, нам потрібна не лише технологічна пильність, а й духовна вкоріненість. Це вона дозволяє розрізняти тимчасове та ілюзорне від реального і тривалого.
Християнство має особливу протиотруту: «Коли ви перебуватимете в Моїм слові, ви дійсно будете учнями моїми і спізнаєте правду, і правда визволить вас» (Йн 8, 31‑32). Шукаймо правду. А що стосується позитивних емоцій — будуймо реальні стосунки з реальними людьми, щоб не шукати штучних гострих відчуттів в інтернеті. Дбаймо про свій духовний та інтелектуальний розвиток. Дотримуймося надійних джерел інформації.
Переклад CREDO за: Богна Бялецька, Aleteia
фінансово.
Щиро дякуємо!
