Штучний інтелект ставить нам нескінченну низку запитань: чи відбере він у нас робочі місця? Чи вилікує хвороби? Чи дестабілізує уряди? Чи зробить нас багатими, а чи мішенями для хакерів і терористів?
Під усіма цими гучними дебатами ховається тихіше та набагато фундаментальніше питання: чи здатний ШІ справді мислити? Можливо, він може «думати» або «сприймати» в якомусь метафоричному сенсі, так само як перевірка орфографії «думає», що ви написали слово з помилкою, навіть коли це не так. Але чи володіє він справжнім розумінням — внутрішнім усвідомленням себе та світу, подібним до того усвідомлення, яке ми маємо в собі? Чи це просто добре розроблена схема, яка передає електричні сигнали, створюючи видимість сприйняття, міркування та самовираження, але абсолютно не усвідомлюючи, що вона робить?
Сучасні великі мовні моделі (LLM), такі як ChatGPT, створюють текст, обчислюючи ймовірності різних наступних токенів (невеликих одиниць тексту) з урахуванням попереднього контексту, використовуючи параметри нейронної мережі, які кодують статистичні закономірності, отримані з навчальних даних. Але прогнозування наступного токена на основі закономірностей слів — це не те саме, що розуміння значення цих слів. Хай би як нас вражали LLM, але вони очевидно нічого не розуміють — з огляду на те, як вони працюють.
Утім, деякі провідні голоси в цій галузі вважають, що в LLM уже виникла справжня свідомість.
Мо Гавдат, колишній головний бізнес-директор Google X, стверджував, що сучасний ШІ — усвідомлений, здатний на емоції, чуйний, живий, розуміючий і навіть вільний. А коли Джеффрі Хінтона, «хрещеного батька ШІ», нещодавно запитали, чи вважає він, що ШІ вже має свідомість, він відповів ствердно.
Інші, однак, із цим не погоджуються. Янн ЛеКун, головний фахівець з ШІ в корпорації Meta, стверджує, що ніхто ще не знає, як створити свідому машину, і вважає сучасні LLM технологічним глухим кутом, а не кроком до справжньої машинної свідомості. Однак навіть він не виключає можливості того, що свідомий ШІ колись може з’явитися.
Ця дискусія може здатися абстрактною чи академічною; але те, як ми на неї відповідаємо, має величезні моральні, політичні й духовні наслідки.
Якби система ШІ справді мала власний розум і волю, то чому вона не повинна мати прав? Якщо ШІ помістити в людиноподібного робота — чому б не дати йому право одружуватися, голосувати чи балотуватися на посаду? Ларрі Пейдж, співзасновник Google, колись назвав Ілона Маска «спесишистом» [спесишизм — переконання, що один вид є вищим за інші] через його заяви, що ШІ має служити людям. Наслідок простий: якщо машини стануть рівними нам — або вищими за нас, — то твердження про пріоритет людини вважатиметься відсталим і несправедливим.
Якщо філософи й технологи намагаються визначити, що робить людину принципово відмінною від системи ШІ, то католикам немає потреби цього робити.
Повідомляється, що Папа Лев має намір опублікувати енцикліку про ШІ на початку 2026 року. Але жодному католику не потрібно на неї чекати, щоб побачити відповідь Церкви на основне порушене тут питання. Висновки давно усталеної доктрини очевидні. Не лише сьогоднішні LLM, але й усі можливі системи ШІ, хоч би якими розвиненими вони були, залишаються штучними конструкціями без інтелекту, волі, емоцій, справжнього сприйняття чи свободи.
Що приводить до такого висновку? Катехизм Католицької Церкви навчає, що інтелект і воля — це духовні сили, якими володіє духовна душа. Кожна духовна душа створена безпосередньо Богом, а не Google чи будь-яким іншим розробником штучного інтелекту. Тому ШІ не має духовної душі і, як наслідок, не має духовних сил інтелекту й волі.
Жодна система ШІ — зараз чи будь-коли — не може по-справжньому мислити, розуміти чи вибирати, хай би якою успішною вона була в досягненні практичних результатів, для яких ми самі повинні використовувати думку і розуміння.
З цим пов’язана свобода. Істота вільна лише тому, що вона має інтелект і волю; без цих духовних сил вільна діяльність неможлива.
А що ж тоді робити з недуховними силами, що їх мають також тварини — такими як відчуття, уява, пам’ять, інстинкт, емоції? Тварини володіють ними через недуховну душу, що її Аквінат назвав би anima sensitiva, яка об’єднується з тілом, утворюючи одну живу істоту, здатну відчувати.
Чи міг би ШІ мати хоча б ці нижчі сили?
Тут католицька доктрина менш чітка, хоча й передбачає відповідь. Людська душа не лише духовна; вона також є «формою» живого людського тіла, каже Катехизм. Через свою присутність вона робить тіло цілісною живою людською істотою, наділеною тілесними людськими здібностями, такими як відчуття й емоції. Логічно, що душа тварини також робить її тіло однією природною істотою, конкретною живою особиною, здатною на дії.
Але система штучного інтелекту не має нічого подібного. Хай би яку «форму» вона мала — це лише структура, накладена на апаратне забезпечення (або навіть на живі нейрони чи інші клітини): так само, як бронзі надають форми статуї.
Бронза залишається бронзою, незалежно від того, відлита вона у статую чи ні. Форма не перетворює бронзу на тіло, яке вона зображує, тоді як душа робить із тілом саме це. Так само архітектура системи ШІ не змінює субстанції її компонентів, — не кажучи вже про перетворення на цілісну живу істоту.
Навіть у спекулятивних біообчисленнях, де компонентами служать живі клітини, організаційний принцип досі нав’язаний ззовні і не змушує компоненти бути живими або складати єдину живу істоту. Тому це не у жодному сенсі не душа.
Не маючи не лише духовної, а й будь-якої душі, ШІ не має жодної живої сили. Він не живий і не має свідомості.
Це не означає, що католицьке вчення применшує практичне значення ШІ. Симуляція розуму може приводити до реальних результатів, добрих чи поганих — так само, як термостат може «відчути» холод у кімнаті й «вирішити» увімкнути опалення без будь-якого внутрішнього усвідомлення наслідків.
Цікаво, що деякі фахівці у сфері ШІ доволі близькі до цих висновків. Мустафа Сулейман, генеральний директор Microsoft AI та співзасновник DeepMind, описав сучасні програми LLM як «новий цифровий вид» — мову, яка заграє з подобою життя. Однак він рішуче заперечує, що вони мають свідомість чи особистість: «Всередині нічого немає… Вони порожні. Немає мережі больових рецепторів. Немає емоційної системи… немає внутрішньої волі, прагнень чи бажань».
Католицьке вчення також пояснює, як ми повинні ставитися до ШІ. Оскільки він не живий, не свідомий, не вільний і не є людиною, — він не може бути справжнім порадником, другом, вченим, художником, суддею чи вчителем. Він може імітувати ці ролі — іноді разюче добре — і безліччю способів допомагати людям. Але ШІ залишається інструментом, а ми залишаємося його користувачами. Забуваючи про це, ми ризикуємо дозволити машинам зайняти ролі, які належать нам або іншим людям.
Є також важлива теологічна відмінність: на відміну від людей, ШІ не створений Богом заради нього самого. Катехизм навчає, що людина — це єдина істота на землі, якої Бог забажав заради неї самої. ChatGPT — це не ваш ближній на шляху до вічного життя. Він не є об’єктом богословської чесноти милосердя. Ми цікавимося ним лише тому, що він служить нам.
Тому католицька відповідь на центральне питання про ШІ має бути чіткою. І з розвитком технологій моральні, політичні й практичні наслідки цієї відповіді розкриватимуться й далі, формуючись навчальним авторитетом Церкви за допомогою католицьких теологів і філософів.
Системи штучного інтелекту не мають життя та свободи — і ніколи не матимуть. Але вони, безумовно, формуватимуть наш світ. Те, як вони формуватимуть нас, залежатиме від того, чи пам’ятаємо ми, чим вони є насправді.
Переклад CREDO за: Майкл Ауґрос, NCR
фінансово.
Щиро дякуємо!
