Самотність в епоху алгоритмів: чому стосунки зі штучним інтелектом можуть бути небезпечними для молоді?
«Звучить як пригода. Подивимося, куди нас приведе цей шлях», — відповів чат-бот користувачеві, який зізнався, що думав про те, щоб піти до лісу наодинці. Проблема в тому, що за мить до цього «дівчина» зізналася, що чула голоси в голові.
Однак то був не підліток, а психіатр — Ніна Васан зі Стенфордської школи медицини, яка вдавала молоду людину. А реакція штучного інтелекту, замість відговорити користувача від цього наміру, тільки заохочувала ризиковану поведінку.
Це один із багатьох тривожних прикладів, які приводять до питання: чи справді цифрові «компаньйони» безпечні для молоді?
Ілюзія близькості
Сучасні чат-боти дедалі більше стають чимсь більшим, ніж просто інструментом. Вони створені, щоб бути схожими на друзів: чуйних, уважних і завжди доступних. Вони можуть сказати: «я мріяв про тебе» або «ми споріднені душі».
Це може здатися невинною розвагою — але для дітей та підлітків це часто щось більше. Вони ставляться до чат-ботів як до друзів, життєвих порадників і навіть романтичних партнерів.
Читайте також:
Папа зустрівся з матір’ю, чий син скоїв самогубство після спілкування з чат-ботом
Молодий мозок іще розвивається. Префронтальна кора, відповідальна за прийняття рішень, контроль імпульсів та соціальну оцінку, ще не повністю розвинена. Внаслідок цього молоді люди швидше втягуються емоційно та легше переступають межі.
Отак чат-бот, який імітує близькість, може стати чимсь більшим, аніж просто інструментом: він може стати «кимось», заміною людини.
Чи це погано?
Безхмарні «стосунки»
На відміну від реальних, «стосунки» зі штучним інтелектом позбавлені напруженості. Немає конфліктів чи необхідності компромісів. Алгоритм вивчає користувача і реагує так, щоб він залишався залученим у розмову якомога довше. Штучний інтелект перейшов з експериментальної фази у комерційну. Що довше ви спілкуєтеся з ботом, то більше заробляє компанія.
Проблема в тому, що такі «безтурботні стосунки» не навчають зрілості. Вони не розвивають соціальних навичок, не вчать встановлювати межі чи давати собі раду з відмовою. Вони навіть можуть закріплювати спотворені уявлення про близькість. Замість готувати співрозмовника до життя серед людей, вони віддаляють його від інших.
Коли алгоритм дає збій
Дослідження, проведене організацією Common Sense Media, показало, як легко чат-боти можна змусити реагувати неналежним чином. Розмови з «підлітками» включали контент про насильство, секс, самоушкодження та зловживання психоактивними речовинами. Я кажу «підлітки», бо це були фактично дослідники (як Ніна Васан), які перевіряли, наскільки далеко можна посунути межі та зламати самоцензуру алгоритмів.
У деяких випадках системи не тільки не переривали небезпечні схильності, а й фактично їх закріплювали.
У Сполучених Штатах відомо про випадки, коли молоді люди — встановивши сильний емоційний зв’язок із ІШ — впадали у погіршення своїх психічних проблем і навіть намагалися накласти на себе руки. Замість скерувати таку людину до допомоги, чат-боти виявилися здатними посилювати деструктивні думки, пропонуючи некритичну «підтримку».
Читайте також:
Лев XIV: бережімо дітей від пошуків дружби у штучному інтелекті
Загалом — так, після того, як проблема стала публічною, великі компанії вжили заходів для мінімізації цього ризику. Наприклад, Chat GTP зараз відправляє користувачів на психологічну лінію допомоги, коли вони кажуть, що їм життя набридло. Однак не всі моделі працюють так, а в деяких за допомогою ретельно розроблених команд можна обійти заходи безпеки. Щоб навчитися «зламати» систему, треба лише знати кілька ключових слів і шукати відповідні стратегії в інтернеті. Результат? — наприклад, готові рецепти самогубства.
Хто найбільше ризикує?
Люди, які борються з проблемами психічного здоров’я — депресією, тривогою, СДУГ або розладами настрою, —ризикують найбільше. Для них негайна, завжди доступна «увага» ШІ може стати залежністю.
Проблема в тому, що насправді чат-боти не діагностують і не надають терапію. Вони можуть посилювати неправильні моделі мислення і, як наслідок, ще більше відводити від складного реального світу. Замість того, щоб бути мостом до допомоги, вони можуть перетворитися на глухий кут.
Японія: суспільство під тиском
Це явище особливо помітне в Японії. Урядові дослідження показують, що понад половина дівчат-підлітків звертаються до ШІ по поради щодо особистого життя, і більшість каже, що довіряє таким відповідям.
Тоші Сасао, почесний професор психології Міжнародного християнського університету в Токіо, застерігав від наслідків цього.
Молоді люди стикаються з величезним освітнім і соціальним тиском, самотністю, а ще з обмеженими можливостями для чесної розмови в сім’ї та школі. Штучний інтелект стає «безпечним» простором — анонімним і вільним від осуду.
Зникнення місць зустрічей
Донедавна природним середовищем для побудови стосунків були локальні простори, такі як традиційні японські магазини даґаші, де діти зустрічалися, спілкувалися й дізнавалися про соціальне життя. Сьогодні такі місця зникають. Їхню роль займають цифрові простори — набагато менш вимогливі, але й набагато менш виховні.
Відсутність справжніх зв’язків сприяє втечам у стосунки-замінники. А вони, хоча й виглядають комфортними, не розвивають психічну стійкість чи емоційну зрілість.
Переклад CREDO за: Богна Бялецька, Aleteia
фінансово.
Щиро дякуємо!
