Питання часуЛюдина запитує — ШІ відповідає.
RUUKEN

ШІ та суспільство

Делегування не дорівнює деградації: чи зобов'язана людина вміти повторити роботу ШІ?

Коротка відповідьНевміння повторити роботу ШІ без ШІ ще не деградація: так влаштований будь-який поділ праці. Деградація починається там, де людина віддала машині не виконання, а мету, критерії правильності та кнопку зупинки.

Страшилка про ШІ відома всім і розповідається однаково. Сьогодні людина попросила нейромережу написати листа. Завтра розібратися в договорі. Післязавтра налаштувати сервер. А через п’ять років вона сидить перед екраном, не пам’ятає таблицю множення і чекає, коли машина скаже, що їй думати. Людство деградувало. Завіса.

Реальний ризик у цій картині є. Але захований він не там, де його шукають, і, що прикріше, не там, де його зручно шукати.

Якщо людина не може повторити роботу ШІ без ШІ, це ще не діагноз. Сучасна людина взагалі не здатна відтворити більшу частину світу, яким користується, і якось живе з цим, не вважаючи себе ідіотом. Поділ праці існує саме тому, що опановувати кожну потрібну професію особисто шалено дорого. ШІ просто зробив делегування дешевим до непристойності. Тому головне запитання звучить не так: «Чи зможеш ти зробити те саме без машини?»

Воно звучить інакше: «Що саме ти віддав машині: виконання чи здатність розуміти, приймати і контролювати результат?»

Ось тут і проходить межа.

Неможливість повторити не втрата навички

Уявімо власника невеликого бізнесу. Раніше він не вмів розгортати VPS, зв’язувати бота із системою автоматизації та налаштовувати резервне копіювання. Наймати фахівця заради експерименту, який з великою ймовірністю помре за місяць, було нерозумно, тому експерименту просто не було. Тепер він описує задачу нейромережі, отримує інструкції, виконує їх, і воно працює. Іноді навіть з першого разу.

Після цього легко сказати: «Він залежить від нейромережі, без неї він цього не повторить».

Правильно. Але яку саме навичку він утратив? Ту, якої в нього ніколи не було?

До ШІ підприємець не вмів адмініструвати сервер і не мав сервера. Після ШІ він, як і раніше, не сисадмін, зате має автоматизацію, яка робить корисну роботу. Це не деградація колишньої здатності. Це нова можливість без повного опанування чужої професії. Між «не вмів і не мав» та «не вмію, але маю» різниця відчутна, хоча слово «не вмію» в обох випадках на місці.

Вимагати, щоб він спочатку пів року вчив Linux, мережі та безпеку, приблизно те саме, що вимагати бухгалтерської освіти перед наймом бухгалтера. Така позиція виглядає як захист людської компетентності, а насправді забороняє користуватися поділом праці. Причому забороняє вибірково: тільки там, де помічник новий і підозрілий.

Не можна оцінювати інструмент лише за операцією, яку людина перестала виконувати. Треба дивитися й на задачу рівнем вище, яку вона завдяки цьому почала виконувати. Іноді з’ясовується, що задачі рівнем вище немає і людина просто перестала щось робити. Тоді претензія справедлива. Але це треба перевірити, а не припустити.

Навичка, можливість і три режими задачі

У суперечках про ШІ постійно змішують два різні поняття, і це змішування зручне обом сторонам, бо дозволяє сперечатися нескінченно.

Навичка - це здатність виконати операцію: написати код, перекласти текст, порахувати кошторис. Можливість - це здатність досягти результату: запустити послугу, зрозуміти іноземного клієнта, оцінити витрати. Інструмент може зменшити потребу в навичці й водночас розширити можливості. Сам по собі цей обмін не добрий і не поганий. Усе залежить від того, чи була передана навичка метою, чи лише засобом.

Звідси три режими, і для кожного потрібен свій іспит. Один спільний іспит «зроби все сам» не годиться, хоч як він подобається екзаменаторам.

Навчальна задача. Учень розв’язує рівняння не заради відповіді, а заради того, щоб змінитися самому. Відповідь нікому не потрібна, вона в кінці підручника. Коли ШІ видає готовий розв’язок, він не допомагає виконати задачу, а скасовує її, лишивши від неї оцінку в журналі. Тут без самостійного виконання основної операції не обійтися: хочеш навчитися писати - пиши, а не редагуй готове. ШІ в цьому режимі має ставити запитання, показувати помилки й давати підказки, а не підміняти тренування гарним результатом.

Виробнича задача. Підприємцю треба звірити тисячу рядків у двох прайсах. Ніхто не стане кращим від того, що він зробить це очима. Це технічна операція, яку розумно віддати машині й не відчувати з цього приводу жодних емоцій. Перевіряти тут треба не здатність відтворити всі дії, а здатність прийняти роботу: розуміти, яку функцію виконує система, які показники означають успіх і скільки коштуватиме її відмова.

Високоризикова задача. Медичний висновок, юридична позиція, великий платіж, доступ до критичної інфраструктури. Однієї користувацької перевірки замало, потрібен незалежний компетентний контур. І ні, «я попросив іншу нейромережу перевірити першу» незалежністю не є: моделі повторюють ті самі помилки, навчалися на однакових даних і однаково не в курсі вашої реальної ситуації. Це як спитати другу думку в близнюка першого лікаря.

Якщо переплутати режими, вийде абсурд в обидва боки. Ми або змусимо власника бізнесу вивчати системне адміністрування заради одного бота, або дозволимо школяреві не вчити математику, бо відповідь однаково є в чаті. Обидва варіанти, до речі, вже відбуваються.

Чому ШІ все-таки не звичайний підрядник

Порівняння з бухгалтером надто вигідне тому, хто делегує, тому його треба перевірити окремо. Воно корисне, але неповне. У ШІ є особливості, через які контроль втрачається набагато легше.

По-перше, нормальний підрядник існує окремо від інструмента перевірки. Він може пояснити рішення, підписати акт, передати документацію, нести зобов’язання за договором. Нейромережа здатна спочатку видати помилкову конфігурацію, а за хвилину тим самим упевненим голосом «перевірити» її й підтвердити, що все чудово. Вона може вигадати мету, скласти план, виконати його, перевірити себе й написати звіт про успіх. Звіт буде відмінний. Якщо всі ролі грає одна система, видимість контролю залишається, а незалежної точки перевірки вже немає. Той самий ефект у масштабі організації ми розбирали окремо: людина в контурі, яка підтверджує тисячу рішень на годину, контролером не є.

По-друге, людський фахівець показує межі професії. Бухгалтер не вдає кардіолога, електрик адвоката, хоча б зі страху. Універсальний чат охоче переходить від податків до медицини й від програмування до права, зберігаючи той самий гладкий тон. Користувач сприймає стилістичну впевненість за компетентність, бо в людей це зазвичай корелює. У моделі не корелює ніяк.

По-третє, делегування стало майже безплатним і миттєвим. Раніше сам факт найму змушував сформулювати задачу, обговорити ціну, описати результат і прийняти роботу. Це було незручно, і в цій незручності, як з’ясовується, була половина користі. Тепер між невиразним бажанням і готовою відповіддю минає кілька секунд. Людина віддає назовні не лише виконання, а й саму постановку запитання, просто тому що не встигла її сформулювати.

Тож небезпека ШІ не в тому, що він позбавляє ручної роботи. Небезпека в тому, що зручність дозволяє не помітити, як разом із ручною роботою ми віддали критерії правильності. А потім ще й радіємо, як швидко все вийшло.

Що показують дослідження

Дані поки не підтверджують ні казки про загальне отупіння, ні казки про безумовне посилення людини. Це розчарує обидві сторони суперечки, але в даних немає мети когось тішити.

У дослідженні реального контакт-центру, опублікованому в The Quarterly Journal of Economics, вивчали 5 172 операторів. Доступ до помічника на основі генеративного ШІ збільшив кількість розв’язаних звернень за годину в середньому на 15 відсотків. Найбільше зросли показники менш досвідчених працівників. Ба більше, під час збоїв помічника частина працівників зберігала покращення відносно свого колишнього рівня: автори вважають це ознакою того, що система не лише підказувала відповіді, а й передавала новачкам практики сильних операторів. Це контрприклад тезі «делегування обов’язково знищує навичку». Застереження: одна фірма, одна професія і система, в якій останнє слово лишалося за оператором.

Інше дослідження, представлене на CHI 2025, опитало 319 працівників розумової праці й зібрало 936 прикладів використання генеративного ШІ. Що вищою була впевненість людини в ШІ, то менше зусиль критичного мислення вона докладала; що вищою впевненість у власних силах, то більше. При цьому мислення не зникало, а зміщувалося від виконання до перевірки відповіді та вбудовування її в задачу. Застереження: це самозвіти, а не вимірювання падіння інтелекту. Зате добре видно механізм ризику: якщо користувач вважає систему надійнішою за себе, він рідше вмикає перевірку саме там, де вона потрібна.

Різницю між роботою і навчанням показав експеримент майже з тисячею школярів на уроках математики. Під час практики звичайний GPT-помічник помітно покращував результати, але на подальшому іспиті без ШІ ця група виступила гірше за тих, хто помічником не користувався. Версія тьютора з обмеженнями, яка давала підготовлені вчителями підказки, а не готові розв’язки, здебільшого усунула негативний ефект. Тут ШІ став милицею, бо метою було не отримати відповідь, а навчитися розв’язувати самому.

З трьох робіт випливає одне: конструкція допомоги має відповідати тому, що ми вважаємо головним результатом, продукт зараз чи навичка на майбутнє. Нудний висновок. Нудні висновки зазвичай і є правильними.

Перевірка на симетрію

Є простий спосіб зрозуміти, чи не висуваємо ми до ШІ особливу вимогу лише тому, що він новий і нас лякає. Застосувати ту саму вимогу до всього іншого й подивитися, що залишиться від цивілізації.

Ми не питаємо власника компанії, чи здатен він повторити всі проводки свого бухгалтера. Ми питаємо, чи розуміє він фінансовий стан компанії, чи контролює платежі, чи отримує звітність і чи може змінити підрядника.

Ми не вимагаємо від мешканця розібрати й зібрати електричний щит. Ми вимагаємо, щоб роботу зробили за нормами, небезпечні лінії захистили, документація збереглася, а за сумнівів результат перевірив інший фахівець.

Ми не вважаємо людину деградованою через те, що вона не вміє виготовити процесор чи провести операцію. Якщо чесно, більшість не вміє й лампочку замінити без відео на YouTube, і цивілізація якось тримається. Тримається вона не на загальному вмінні робити все, а на системі контролю: правах власності, стандартах, резервах, відповідальності, можливості вибору та зміни виконавця.

Той самий критерій треба застосовувати до ШІ. Якщо без нейромережі людина не набере конкретну команду, але розуміє мету, бачить результат, обмежує повноваження системи й може передати роботу іншому виконавцю, залежність є, але вона нормальна. Ми так само залежимо від електрики, банків і мільйонів чужих компетенцій, і ніхто не пише про це тривожних колонок.

Якщо ж людина не знає, що було зроблено, не відрізняє успіх від переконливого звіту про успіх, не контролює доступи й не має шляху відходу, проблема вже не в браку технічної навички. І знання Linux її не розв’язує.

Шість запитань, на які треба вміти відповісти

Будь-яку роботу можна грубо поділити на три рівні: виконання (написати команду, зверстати таблицю, перекласти документ), судження (який результат потрібен і які помилки неприпустимі) та управління (хто має доступ, де лежать дані, як зупинити й відкотити). Виконання делегувати можна й треба. Два інші рівні не можна непомітно віддати разом із ним, а саме це й відбувається, бо вони віддаються безплатно й без квитанції. Та сама драбина на рівні держав і економіки описана в статті про невидиме керування: там вона закінчується не втратою навички, а втратою контролю.

Практично це перевіряється без іспиту на сисадміна, редактора та юриста в одній особі. Людина зберігає контроль, якщо може відповісти на шість запитань:

  1. Яку задачу система розв’язує і який спостережуваний результат вважається успіхом?
  2. Які помилки припустимі, а за яких роботу треба зупинити?
  3. До яких даних, грошей і дій має доступ ШІ або створена ним автоматизація?
  4. Де зберігаються облікові записи, конфігурація, вихідні матеріали та резервні копії, і кому вони належать?
  5. Що станеться за відмови сервісу і чи є ручний або альтернативний спосіб продовжити роботу?
  6. Хто зможе незалежно перевірити результат там, де власних знань бракує?

Якщо відповіді є, людина може глибоко залежати від інструмента й усе ж лишатися господарем процесу. Якщо відповідей немає, вміння вручну повторити окремі команди вже не врятує.

Що лишається після перевірки

Делегування перетворюється на деградацію не тоді, коли людина перестає виконувати кожну операцію власними руками. Воно перетворюється на деградацію, коли людина більше не здатна сформулювати мету, оцінити результат, помітити небезпечну помилку, обмежити повноваження виконавця й замінити його. Це вміли далеко не всі й до нейромереж, просто раніше за це не було кого звинуватити.

ШІ може забрати в людини частину вправ. Може відучити робити те, що раніше доводилося робити самому. А може дати доступ до задач, за які вона раніше не могла взятися. Різниця визначається не наявністю нейромережі й не обсягом переданої роботи. Вона визначається тим, хто врешті-решт розуміє, навіщо це робиться, що вийшло і де кнопка зупинки. І чи перевіряв він хоч раз, що кнопка працює.

Джерела

← До всіх матеріалів