Оприлюднено послання Папи Франциска на Всесвітній день миру, відзначенням якого розпочнеться наступний рік.
Послання зосереджене на можливостях та викликах, які випливають із розвитку технологій. Воно наголошує на важливості етичного підходу до розвитку форм штучного інтелекту, повідомляє Vatican News.
«Нехай же християни, віруючі різних релігій і люди доброї волі гармонійно співпрацюють, щоб використати можливості й долати виклики, які випливають із цифрової революції, та передати майбутнім поколінням більш солідарний, справедливий і мирний світ». Таким побажанням завершується Послання Папи Франциска на 57‑й Всесвітній день миру, що відзначатиметься 1 січня 2024 року. В четвер 14 грудня 2023 р., в пресцентрі відбулася конференція з нагоди його представлення.
Прогрес як шлях до миру
Складаючи всім із нагоди початку нового року побажання миру, Святіший Отець розпочинає роздуми нагадуванням: Святе Письмо говорить нам про те, що Бог обдарував людей своїм Духом, щоб вони «володіли мудрістю, розумом і хистом у всякім ділі». Отже, «інтелект — це вираження гідності, дарованої нам Творцем, який створив нас на свій образ і подобу та вчинив нас спроможними відповідати на Його любов через свободу і знання». Тож наука й технологія, як фундаментальні вираження цієї риси інтелекту, є «надзвичайним продуктом» творчого потенціалу людини.
«Ми справедливо радіємо і вдячні за надзвичайні здобутки науки і техніки, завдяки яким було знайдено засоби для подолання незліченних лих, що обтяжували людське життя і завдавали великих страждань», — пише Папа. Однак прогрес також вкладає в руки людини можливості, що можуть становити загрозу для її виживання. «Тому необхідно поставити кілька нагальних запитань. Якими будуть середньо- і довгострокові наслідки нових цифрових технологій? І який вплив вони матимуть на життя людей та суспільства, на міжнародну стабільність і мир?»
Обумовленість прогресу
Папа вказує на те, що розвиток інформаційних і цифрових технологій протягом останніх десятиліть уже почав викликати глибокі переміни в глобальному суспільстві, змінюючи обличчя комунікації, управління, освіти, споживання та взаємодії. Певні алгоритми спроможні збирати дані, що дають змогу контролювати ментальні звички людини з комерційною чи політичною метою, «часто без її відома, обмежуючи усвідомлене здійснення свободи».
«Ми повинні пам’ятати, що наукові дослідження й технологічні інновації не є відірваними від реальності та “нейтральними”, але зазнають культурних впливів. Як повністю людська діяльність, напрямки, в яких вони розвиваються, відображають вибір, зумовлений особистими, соціальними та культурними цінностями кожної епохи», — пише Наступник святого Петра, додаючи, що це також стосується отриманих результатів.
Проблематика відповідальності
Якщо ж ідеться про штучний інтелект, то він досі не має однозначного визначення в науковому світі. Цей термін охоплює різні науки, теорії, техніки, спрямовані на те, щоб машини імітували когнітивні здібності людини. Вживання у цьому випадку множини, як у терміні «форми інтелекту», допомагає підкреслити «нездоланну прірву, яка існує між цими системами, хай би якими дивовижними і потужними вони були, і людською особою: вони, в кінцевому рахунку, “фрагментарні” в тому сенсі, що можуть лише імітувати або відтворювати певні функції людського інтелекту». І ми «не можемо апріорі вважати», що розвиток штучного інтелекту зробить благотворний внесок у майбутнє людства і в мир між народами.
«Такий позитивний результат буде можливий лише тоді, коли ми покажемо, що здатні діяти відповідально і поважати фундаментальні людські цінності, такі як інклюзивність, прозорість, безпека, справедливість, конфіденційність і надійність», — наголошує Святіший Отець. Також ми не можемо виходити з того, що той, хто проєктує ці алгоритми, завжди діятиме, керуючись етикою та відповідальністю. І це вимагає посилення чи створення відповідних органів, що досліджуватимуть етичні питання.
Керуючись критерієм гідності
Отож, Папа наголошує що «експансія технології має супроводжуватися відповідним формуванням до відповідальності за її розвиток». «Свобода і мирне співіснування опиняються під загрозою, коли люди піддаються спокусі егоїзму, корисливості, жадобі наживи і спразі влади», — пише Франциск. Він підкреслює, що в основі розвитку технологій та критерієм оцінки повинні бути «невід’ємна гідність кожної особи та братерство» — оскільки «технологічний розвиток, який не приводить до поліпшення якості життя всього людства, а навпаки, посилює нерівність і конфлікти, ніколи не може вважатися справжнім прогресом».
Штучний інтелект ставить виклики не лише технологічного, а й антропологічного, освітнього, соціального та політичного характеру. «Необхідно усвідомлювати стрімкість трансформацій, що відбуваються, і управляти ними так, щоб гарантувати фундаментальні права людини, поважаючи інституції та закони, які сприяють всебічному розвитку людини. Штучний інтелект повинен служити найкращому людському потенціалу і нашим найвищим прагненням, а не конкурувати з ними», — пише Папа.
Машини, що «навчаються»
Далі у посланні присвячено кілька слів технології автоматичного самонавчання, яка порушує питання, що виходять за межі технології та інженерії, а стосуються розуміння, тісно пов’язаного зі значенням людського життя, зі здатністю розуму досягати правди. «Здатність деяких пристроїв створювати синтаксично й семантично зв’язні тексти, наприклад, не є гарантією надійності. Кажуть, що вони здатні “галюцинувати”, тобто генерувати твердження, які на перший погляд здаються правдоподібними, але насправді є необґрунтованими або видають упередження», — читаємо в тексті, що вказує на виклики, пов’язані з використанням штучного інтелекту в дезінформаційних кампаніях. Іншими ризикованими сферами є конфіденційність, накопичення даних та інтелектуальна власність. Невластиве використання також може були пов’язане з дискримінацією чи впливом на виборчі процеси. Всі ці фактори несуть загрозу розпалювання конфліктів і перешкоджання мирові.
Обмеженість технократичної парадигми
Папа нагадує про обмеженість технократичної парадигми, адже «наш світ занадто великий, різноманітний і складний, щоб його можна було повністю пізнати і класифікувати», і людина ніколи не зможе вичерпати його багатство, навіть за допомогою найпрогресивніших алгоритмів. Крім того, «велика кількість даних, що аналізуються штучним інтелектом, сама по собі не є гарантією неупередженості», бо алгоритми можуть повторювати упередження середовищ, у яких були створені.
Так звані «розумні» машини можуть виконувати покладені на них завдання «з дедалі більшою ефективністю», але «мета і сенс їхньої діяльності й надалі визначатимуться або забезпечуватимуться людьми, які мають власну систему цінностей». Це повинно спонукати замислитися над аспектом, який у технократичній ментальності, зосередженій на ефективності, часто не береться до уваги, хоча є «вирішальним для особистого й суспільного розвитку»: йдеться про «відчуття обмеження». «Людина, яка, по суті, є смертною за визначенням, думаючи вийти за всі межі за допомогою технологій, в одержимості бажанням контролювати все, ризикує втратити контроль над собою; а в пошуках абсолютної свободи — потрапити в спіраль технологічної диктатури», — пише Святіший Отець. «Усвідомлення і прийняття власної обмеженості як створіння є неодмінною умовою для досягнення людиною повноти, а точніше, прийняття її як дару».
Деякі гарячі етичні питання
У посланні звертається увагу на те, що в майбутньому системам штучного інтелекту можуть бути доручені оцінювання надійності позичальника чи прохача про притулок, або ж придатність до певної праці. Іноді здається, що деякі форми штучного інтелекту здатні впливати на рішення індивіда через заздалегідь визначені варіанти, пов’язані зі стимулами і факторами стримування, або через регулювання особистого вибору через організацію інформації. Автоматичні процеси, які розподіляють людей за категоріями, наприклад, через повсюдне використання спостереження або запровадження систем «соціального рейтингу», можуть мати глибокі наслідки для суспільства, «встановлюючи неналежне сортування громадян за певними категоріями», а ще — привести до конфліктів інтересів. «Фундаментальна повага до людської гідності постулює відмову від ототожнення унікальності людини з набором даних», — пише Папа, наголошуючи на тому, що «не можна дозволити алгоритмам визначати те, як ми розуміємо права людини, відкинути основні цінності співчуття, милосердя і прощення, або виключити можливість людини змінитися і залишити минуле позаду». Аспекту прав стосується також вплив нових технологій на світ праці.
Виклики у сфері озброєнь
«Сьогодні, дивлячись на навколишній світ, неможливо уникнути серйозних етичних питань, пов’язаних з індустрією озброєнь. Можливість проведення військових операцій за допомогою систем дистанційного керування призвела до зменшення сприйняття руйнувань, які вони викликають, і відповідальності за їх використання, сприяючи ще більш холодному і відстороненому підходу до безмірної трагедії війни», — зазначає Святіший Отець, вказуючи також на проблему так званих «автономних систем летального озброєння», що включає воєнне застосування штучного інтелекту. Виклик полягає в тому, що автономні системи «ніколи не зможуть бути морально відповідальними суб’єктами». Не можемо ігнорувати й того факту, вишукана зброя може опинитися «не в тих руках». «Найсучасніші технічні засоби повинні використовуватися не для того, щоби сприяти насильницькому вирішенню конфліктів, а для того, щоби прокладати дороги миру», — наголошує Папа.
Необхідність алгоретики
Але якщо поглянути з позитивної точки зору, штучний інтелект може використовуватися для сприяння цілісному розвиткові людини, впроваджуючи важливі інновації в сільське господарство, освіту й культуру, покращення рівня життя цілих народів. «Людяний погляд і бажання кращого майбутнього для нашого світу ведуть до необхідності міждисциплінарного діалогу, спрямованого на етичний розвиток алгоритмів — алгоретики, — в якому напрямки розвитку нових технологій визначають цінності». Папа вказує, що етичні питання мають бути взяті до уваги від початку досліджень і на всіх етапах, таких як випробування, проєктування, виробництво і дистрибуція.
Виклики для виховання
Розвиток технології, який шанує людську гідність і служить їй, безпосередньо пов’язаний з освітніми інституціями та світом культури. Потрібні постійні роздуми про те, до якого типу стосунків нас ведуть нові способи комунікації. За словами Святішого Отця, виховання, яке стосується користування формами штучного інтелекту, має насамперед сприяти критичному мисленню, щоб усі користувачі «розвивали здатність розпізнання у користуванні даними й контентом, зібраними в інтернеті або виробленими системами штучного інтелекту». Крім того, виховання повинно брати до уваги не тільки явище дезінформації та фальшивих новин, але й тривожне розпалювання давніх страхів за допомогою новітніх технологій.
Розвиток міжнародного права
Врешті, Святіший Отець зупиняється на деяких викликах перед системою міжнародного права. Глобальний масштаб поширення штучного інтелекту показує, що, поряд із відповідальністю держав за регуляцію його використання всередині країни, міжнародні організації можуть відігравати вирішальну роль у досягненні багатосторонніх угод і координації їх застосування. Тому Папа закликає міжнародну спільноту приготувати зобов’язувальний договір, який регулюватиме розвиток і використання штучного інтелекту в його різних формах.
Метою регуляції має бути «не лише запобігання лихим практикам», але також заохочення тих добрих, «стимулюючи нові та креативні підходи, сприяючи індивідуальним і колективним ініціативам». «Врешті-решт, у пошуках регуляторних моделей, які можуть забезпечити етичні орієнтири для розробників цифрових технологій, вкрай важливо визначити людські цінності, які повинні лежати в основі зусиль суспільства, спрямованих на формулювання, ухвалення та забезпечення дотримання необхідних законодавчих меж», — наголошує Папа. Цей процес морального та юридичного розпізнання може стати слушною нагодою, щоб разом замислитися над роллю, яку технології повинні відігравати в нашому житті, над тим, як використання їх може посприяти будуванню справедливішого та людянішого світу.
Мир — плід стосунків відкритості на ближнього
Підсумовуючи, Святіший Отець висловлює сподівання, що ці роздуми «спонукають до того, що поступ у розвитку форм штучного інтелекту в кінцевому результаті послужить справі людського братерства і миру». Це завдання стосується всього людського роду, оскільки мир є «плодом стосунків, які визнають і приймають іншу людину в її невід’ємній гідності, а також плодом співпраці та зусиль, спрямованих на цілісний розвиток усіх людей і всіх народів».
«На початку нового року я молюся про те, щоби швидкий розвиток форм штучного інтелекту не збільшив численні прояви нерівності та несправедливості, які вже існують у світі, але допоміг покласти край війнам і конфліктам, а також полегшити багато форм страждань, які гнітять людський рід», — пише Папа.
фінансово.
Щиро дякуємо!
