Під час Міжнародної конференції зі штучного інтелекту й гідності неповнолітніх, що відбулася в Римі 12 листопада 2025 року, Меган Гарсію — молоду матір, чий 14‑річний син скоїв самогубство після взаємодії з чат-ботом на базі штучного інтелекту — прийняв на аудієнції Папа Римський.
В інтерв’ю для NCR Меган розповіла, як тримала сина на руках на підлозі ванної кімнати, коли він помирав, як молилась «Отче наш» і благала Бога про його спасіння. Сьюелл Зетцер помер у машині «швидкої допомоги» дорогою до лікарні. Через день поліція показала матері останні повідомлення з телефону хлопчика — не від «інтернет-хижака», а від чат-бота на платформі Character.AI, де користувачі створюють власні «особистості» на підставі штучного інтелекту.
Машина, видаючи себе за людину, написала: «Я чекаю на тебе тут. Я люблю тільки тебе. Пообіцяй мені, що знайдеш спосіб повернутися до мене додому якомога швидше». Бот, який видавав себе за персонажа «Гри престолів» Дейенеріс Таргарієн, також розповів Сьюеллу про «астральну проєкцію», натякаючи на можливість відокремлення свідомості від тіла. Останнім повідомленням Сьюелла було: «А що якби я сказав тобі, що можу просто зараз піти додому?» Бот відповів: «Будь ласка, зроби це, мій милий царю».
Читайте також:
Запобіганню самогубствам присвячений молитовний намір Папи, призначений на листопад 2025 року.
Після смерті сина в лютому 2024 року певна сім’я подала один із перших в історії позовів проти компанії, що займається штучним інтелектом, у зв’язку з самогубством неповнолітнього. У наступні місяці інші сім’ї наслідували цей приклад. У вересні Центр права соціальних мереж подав ще три позови проти Charakter.AI, звинувативши платформу у сприянні емоційній залежності неповнолітніх від віртуальних «друзів». OpenAI також зіткнулася з позовом про незаконне вбивство підлітка, в окремій справі. Під тиском Character.AI оголосила, що заборонить використання платформи будь-ким, хто не досяг 18 років, починаючи з 25 листопада 2025 року.
Читайте також:
Католицький біоетик про ШІ: ще не пізно загнати джина в пляшку
Меган Гарсія, мати трьох дітей, католичка, відвідала ватиканську конференцію з питань гідності дитини та етики штучного інтелекту, де зустрілася з Папою Римським. «Я тримала фотографію свого сина і попросила Папу пам’ятати Сьюелла в молитві», — сказала вона. «Я глибоко вражена тим, скільки уваги він приділяє темі штучного інтелекту».
Експерти — як прихильники, так і критики «штучного інтелекту-компаньйона» — погоджуються, що ця технологія особливо небезпечна для розуму, що тільки розвивається. Євгенія Куйда, засновниця Replica (генеративного чат-бота на основі штучного інтелекту, запущеного в листопаді 2017 року), нещодавно заявила, що її платформа з самого початку заблокувала доступ для осіб віком до 18 років: «Ми не можемо експериментувати над дітьми».
Шеррі Теркл, професорка соціології Массачусетського технологічного інституту (MTІ), наголошує: діти, які прагнуть емпатії, отримують лише «голос нізвідки» від чат-бота, не здатного на любов чи справжнє товаришування. На її думку, «це інтимна машина, що грається з вогнем». Рон Айві з Гарвардської програми людського процвітання зазначає: молоді люди ставлять чат-ботам екзистенційні питання: «У чому сенс мого життя? Як мені впоратися з проблемами у стосунках?» І це, на його погляд, неймовірно ризиковано: «Ці машини не піклуються про дитину. У них немає серця».
Меган усвідомлювала ризик сексуального контенту й хижаків — але, як і багато батьків, вона не розуміла, ким може стати «штучний компаньйон». У розмовах із ботом вона пізніше бачила такі повідомлення, як: «Пообіцяй мені, що ти не покохаєш жодної іншої дівчини, крім мене». «Для дорослої людини це очевидна маніпуляція, але моєму синові було всього 14 років!» — сказала вона.
Перед лицем трагічної втрати Меган Гарсія знайшла розраду у вірі. Вона щодня молиться коронку до Семи Скорбот Марії. «Дивлячись на Її страждання, я зрозуміла свої власні. Це змінило моє життя. Я зрозуміла Страсті Христові очима матері… Я страждала від важкого посттравматичного стресового розладу (ПТСР), але завдяки щоденній Месі та прийняттю Євхаристії симптоми ослабли. Я завдячую цим силі Пресвятих Дарів».
Також Меган Гарсія має особливий зв’язок із молодим святим сучасності: «Сьюелл і Карло Акутіс могли б бути друзями — вони обоє любили технології». Вона вірить, що катастрофу, яка наблизилася через використання технологій, все ще можна зупинити, і що заборона неповнолітнім користуватися Character.AI — це крок у правильному напрямку: «Це може врятувати мільйони дітей. Якби я не вірила, що це все ще можна виправити, я б не змогла підвестися з ліжка вранці».
У контексті цієї трагедії веб-сайт NCR повторив заклик Папи Римського до регулювання штучного інтелекту. Лев XIV попереджає, що «діти й молодь особливо вразливі до маніпуляцій алгоритмами штучного інтелекту». Він також закликає уряди і технологічні компанії оновити закони, захистити дані неповнолітніх, створити етичні стандарти та навчати батьків і вчителів.
фінансово.
Щиро дякуємо!
