До виходу енцикліки Magnifica humanitas ще жоден Папа не звертався до теми штучного інтелекту настільки детально, або на такому рівні технічних і теологічних подробиць.
Ось шість речей, які Лев XIV прагнув донести до кожного вірного.
1.ШІ — це не людський інтелект, і це визначальна різниця
Лев XIV дуже конкретний у цьому питанні. У пункті 99 енцикліки зазначено, що системи ШІ «не переживають досвіду, не мають тіла, не відчувають радості чи болю, не розвиваються через стосунки і не знають зсередини, що означають любов, праця, дружба чи відповідальність». Вони можуть імітувати мову та симулювати емпатію, але «вони не розуміють того, що створюють». Це не незначна технічна розбіжність. Це основа всього, що відбувається далі.
2.ШІ не буває морально нейтральним
Кожна система втілює собою вибір. У пункті 104 стверджується, що «кожен технічний інструмент втілює вибір і пріоритети через те, що він вимірює, ігнорує та оптимізує, а також через те, як він класифікує людей і ситуації». Коли система спроєктована так, щоб трактувати деякі життя як менш вартісні, вона «вже запровадила критерії, які суперечать невіддільній гідності людської особи», пише Лев XIV. Етика не може бути запізнілою думкою, доданою вже після того, як технологію створено.
3.Передача рішень алгоритмам означає втрату підзвітності
Пункт 103 попереджає, що коли автоматизовані системи ухвалюють важливі рішення — щодо працевлаштування, кредитування, доступу до послуг — тоді «виключення уразливих верств населення ховається під маскою нейтральності та об’єктивності, проти яких стає важко заперечувати». Співчуття, милосердя і прощення «поступово зникають із поля зору», пише Папа. Хтось завжди повинен нести відповідальність. Алгоритм цього робити не може.
4.Дані — це спільне благо
Це може бути найбільш економічно радикальним твердженням енцикліки. Пункт 108 наполягає на тому, що дані «є продуктом багатьох учасників і не повинні розглядатися як щось, що можна розпродати або довірити обраним». Алгоритми, цифрові платформи, патенти і технологічна інфраструктура — все це підпадає під принцип універсального призначення благ. Те, що технологічна індустрія вважає приватною власністю, Папа вважає тим, що у важливому сенсі належить людству.
5.Прихованих працівників слід помічати
За кожною відповіддю ШІ, нагадує нам Лев XIV, стоїть «довгий ланцюжок посередництва». У пункті 173 зазначено, що значна частина цього процесу залежить від «мільйонів людей, залучених до важливої, але здебільшого непомітної діяльності, такої як розмітка даних, навчання моделей і модерація контенту, що часто включає тривожні матеріали». Багато з них — молоді жінки, які працюють за мінімальну заробітну плату. Інші видобувають у небезпечних умовах рідкоземельні мінерали. «Тіла цих людей вкриті шрамами, травмовані й виснажені для того, щоб обчислювальний потік міг тривати безперервно». Жодні переваги ШІ не дають права це ігнорувати.
6.ШІ необхідно обеззброїти, а не просто врегулювати
Ця вимога енцикліки виходить за межі структур управління та етичних канонів. Пункт 110 закликає «обеззброїти» ШІ — звільнити його від «менталітету збройної конкуренції», від монопольного контролю, від гонитви за геополітичним та комерційним домінуванням. «Обеззброїти не означає відкинути технологію; це означає не дозволити їй домінувати над людством». Пункт 111 звертається безпосередньо до розробників ШІ: «Кожен вибір у дизайні відображає бачення людства». Ця відповідальність, наполягає він, лежить як в етичній, так і в духовній площині.
фінансово.
Щиро дякуємо!
