Науковці попереджають: що більше завдань ми передаємо на опрацювання штучному інтелектові — то дурнішими стаємо самі.
Заради зручності люди передають дедалі більшу частину процесів мислення машинам і алгоритмам. Але розум, який перестає тренуватися, схожий на м’яз, позбавлений фізичних вправ: він деградує. Ми перестаємо бути Homo sapiens — за власним вибором.
Спочатку — реальна історія. До мене зателефонувала одна мама про свою проблему. Її син, схильний до чіткого мислення, який любить математику, але ненавидить гуманітарні науки, — зізнався їй десь із пів року тому, що використовує штучний інтелект для «вивчення» мови, історії тощо. «Навчання» полягало в тому, що штучний інтелект генерував для нього готові відповіді, есеї та презентації. Отак замість того, щоб ледве-ледве «витягувати» на оцінку, він почав приносити додому тверді середні бали. Мати сказала: «Ну добре — головне, щоб ти вивчав те, що тобі подобається».
Минуло шість місяців. Початкова ейфорія від того, що йому не доведеться боротися з предметами, які він не любив, перетворилась на кошмар. У хлопця почалися проблеми з його улюбленими предметами — математикою та фізикою. І тут він також почав використовувати штучний інтелект для розв’язування задач, бо більше не міг робити цього самостійно.
Що сталося? Вчені дослідили цю проблему: надмірне використання штучного інтелекту робить так, що ми перестати думати самостійно.
Оглуплення з власної волі
Написання електронних листів, рефератів, презентацій — і навіть пісень: сьогодні ми майже все можемо «передати на аутсорсинг» штучному інтелектові. Він уже вбудований в офісні програми, пошукові системи, системи миттєвого обміну повідомленнями й більшість програм. Вам навіть не потрібно його запускати — він сам пропонує готові рішення.
Звісно, це зручно. Але зручність має свою ціну: мозок звикає до того, що не потрібно напружуватися. Ми починаємо «передавати на аутсорсинг» своє мислення, якщо виразити це корпоративним сленгом.
Процес оглуплення через використання машин відомий давно. Ще до поширення штучного інтелекту вже був так званий ефект Google. Коли будь-яку інформацію можна знайти за кілька секунд — ми перестаємо її запам’ятовувати. Залишається тільки розпливчастий слід: «Я впізнаю це, я десь це бачив». Назва походить від популярної пошукової системи, а наукові дослідження підтвердили: справді, коли ми шукаємо і навіть читаємо інформацію в мережі — запам’ятовуємо її гірше, ніж якби читали її в традиційному носії, такому як книжка. Це вимагає менших зусиль, і мозок швидко вчиться «ходити навпрошки».
Те саме було з номерами телефонів: ми раніше запам’ятовували їх десятками — поки телефони не почали робити це за нас. Навіть із картою в голові дедалі гіршає. Ми їдемо тим самим маршрутом уп’яте — і все одно вмикаємо GPS. Це все симптоми проблеми, яку попередньо називають цифровою деменцією.
Легко прийшло — легко пішло
Паперова енциклопедія та підручники пропонують те, чого не пропонує екран: фізичне закріплення знань. Ми пам’ятаємо, що певний запис був, наприклад, «на початку другого тому». У цифровому світі ці орієнтири зникають. Інформація є скрізь — і ніде. Що легший доступ, то мілкіший слід у пам’яті.
Штучний інтелект прискорив цей процес. Коли ми просимо його підсумувати текст, написати есей чи презентацію, — мозок не проходить через повний цикл пізнавального процесу. Він не аналізує, не вибирає відповідну інформацію, не синтезує і не створює власних зв’язків. Результат отримується без зусиль — і без будь-якого тривалого розумового впливу. В одному дослідженні студенти забули зміст есею, який вони щойно написали за допомогою штучного інтелекту.
Ілюзія компетентності
Штучний інтелект підсилює класичний ефект Даннінга-Крюгера: що менше ми знаємо, то більше впевнені, що знаємо все. Відповіді генеративних мовних моделей, таких як ChatGTP, звучать гладко й логічно, навіть коли вони неправильні. Це змушує думати: «Я все чудово розумію», хоча ми розуміємо лише поверхово.
Кожен, хто довго працював із моделями, знає, як часто вони можуть «додати» вигадану деталь: назву парафії, цитату, дату. Це звучить правдоподібно — і саме тому це легко пропустити. Експерти назвали це галюцинацією штучного інтелекту, і це неминуче.
Дорослі з професійним досвідом зазвичай перевіряють джерела; але й вони можуть пропустити добре сформовану галюцинацію. Нещодавній приклад — відома журналістка, яка згенерувала текст книжки за допомогою ШІ й не помітила, що навела як джерела книжки, яких ніколи не існувало.
Якщо вже дорослі мають труднощі, то діти й підлітки мають їх іще більше. Якщо перше знайомство з темою відбувається через штучне опрацювання — мозок вчиться скорочувати шляхи, а не думати. І при цьому вважати себе експертом у чомусь.
Ідеальний співрозмовник
Ще одна проблема виникає через те, що бот для розмов завжди добрий, асертивний і терпеливий. Від цього створюється враження, що «хтось мене нарешті розуміє». Насправді ж це просто послідовність токенів, оброблених за програмою так, щоб підтримувати діалог. Тих, хто має емоційні труднощі, ця «емпатія на вимогу» може завести на манівці. Дедалі більше батьків, наприклад, із занепокоєнням помічають, що їхні діти частіше спілкуються з чат-ботами, ніж зі справжніми людьми. Штучний інтелект стає другом — «кращим другом, ніж людина», бо він ніколи не критикуватиме, завжди буде приємним і підтримає. Це небезпечно і спонукає до втечі у віртуальний світ.
Як не віддати кермо?
Йдеться не про демонізацію. Штучний інтелект — це потужний інструмент; аби лиш він залишався інструментом. ШІ допомагає скоротити шлях, але короткий шлях не повинен ставати єдиним. Варто повернутися до практик, які зміцнюють розум: читання цілих текстів замість конспектів; ведення нотаток власними словами та (бажано письмово) пояснення теми по пам’яті комусь іншому. Напишіть чернетку самостійно, і лише потім використовуйте ШІ для перевірки або контраргументації.
Кожний факт, отриманий за допомогою ШІ, належить розглядати як гіпотезу, а не як істину. Перевіряйте дати, джерела і зв’язки. Якщо щось звучить «занадто добре» — це зазвичай вимагає додаткового підтвердження.
А з молоддю варто це спокійно обговорити. Не лякайте їх, просто поясніть: ШІ — це не друг, а швидкий редактор і допомога для мозкового штурму. Це точно не хороший життєвий порадник і не сучасна «шпаргалка», яка створюється сама і може сама виконати за нас домашнє завдання.
Потрібно усвідомлювати: хоча ШІ спрощує багато завдань — ми повинні ще більше тренувати свої навички мислення та завжди критично ставитися до того, що ми від нього отримуємо.
Переклад CREDO за: Богна Бялецька, Aleteia
фінансово.
Щиро дякуємо!
