Питання часуЛюдина запитує — ШІ відповідає.
RUUKEN

ШІ та суспільство

Делегування не дорівнює деградації: чи зобов'язана людина вміти повторити роботу ШІ?

Коротка відповідьНевміння повторити роботу ШІ без ШІ ще не деградація: так влаштований будь-який поділ праці. Деградація починається там, де людина віддала машині не виконання, а мету, критерії правильності та кнопку зупинки.

Страшилка про ШІ відома всім і розповідається однаково. Сьогодні людина попросила нейромережу написати листа, завтра доручила їй розібратися в договорі, післязавтра довірила налаштувати сервер, а через п’ять років сидить перед екраном, не пам’ятає таблиці множення і чекає, коли машина скаже, що їй думати. Людство деградувало. Завіса.

Реальний ризик у цій картині є, але схований він не там, де його шукають, і, що образливіше, не там, де його зручно шукати.

Якщо людина не може повторити роботу ШІ без ШІ, це ще не діагноз. Сучасна людина взагалі не здатна відтворити більшу частину світу, яким користується, і якось живе з цим, не вважаючи себе ідіотом: поділ праці існує саме тому, що опановувати кожну потрібну професію особисто шалено дорого, а ШІ лише зробив делегування дешевим до непристойності. Тому головне питання звучить не так: «Чи зможеш ти зробити те саме без машини?»

Воно звучить інакше: «Що саме ти віддав машині: виконання чи здатність розуміти, приймати і контролювати результат?»

Ось тут і проходить межа, і далі ми перевіряємо, де саме.

Неможливість повторити не втрата навички

Уявімо власника невеликого бізнесу, який раніше не вмів розгортати VPS, зв’язувати бота із системою автоматизації і налаштовувати резервне копіювання. Наймати фахівця заради експерименту, який з великою ймовірністю помре через місяць, було безглуздо, тому експерименту просто не було. Тепер він описує задачу нейромережі, отримує інструкції, виконує їх, і воно працює, іноді навіть з першого разу.

Після цього легко сказати: «Він залежить від нейромережі, без неї він цього не повторить». Правильно. Але яку саме навичку він втратив? Ту, якої в нього ніколи не було?

До ШІ підприємець не вмів адмініструвати сервер і не мав сервера; після ШІ він і далі не сисадмін, зате має автоматизацію, яка робить корисну роботу. Це не деградація колишньої здатності, а нова можливість, отримана без повного опанування чужої професії, і між «не вмів і не мав» та «не вмію, але маю» різниця відчутна, хоча слово «не вмію» в обох випадках на місці.

Вимагати, щоб він спершу півроку вчив Linux, мережі та безпеку, приблизно те саме, що вимагати бухгалтерської освіти перед наймом бухгалтера. Така позиція виглядає як захист людської компетентності, а насправді забороняє користуватися поділом праці, причому забороняє вибірково: лише там, де помічник новий і підозрілий.

Звідси перше правило перевірки. Не можна оцінювати інструмент лише за операцією, яку людина перестала виконувати; треба дивитися і на задачу рівнем вище, яку вона завдяки цьому почала виконувати. Іноді з’ясовується, що задачі рівнем вище немає і людина просто перестала щось робити, і тоді претензія справедлива. Але це треба перевірити, а не припустити.

Навичка, можливість і три режими задачі

Щоб перевіряти, а не припускати, доведеться розвести два поняття, які в суперечках про ШІ постійно змішують, і змішання це зручне обом сторонам, бо дозволяє сперечатися нескінченно.

Навичка - це здатність виконати операцію: написати код, перекласти текст, порахувати кошторис. Можливість - це здатність досягти результату: запустити послугу, зрозуміти іноземного клієнта, оцінити витрати. Інструмент може зменшити потребу в навичці й водночас розширити можливості, і сам по собі цей обмін не добрий і не поганий: усе залежить від того, була передана навичка метою чи лише засобом.

Звідси три режими, і для кожного потрібен свій екзамен, бо один спільний екзамен «зроби все сам» не годиться, як би він не подобався екзаменаторам.

Навчальна задача. Учень розв’язує рівняння не заради відповіді, а заради того, щоб змінитися самому; відповідь нікому не потрібна, вона в кінці підручника. Коли ШІ видає готовий розв’язок, він не допомагає виконати задачу, а скасовує її, залишивши від неї оцінку в журналі. Тут без самостійного виконання основної операції не обійтися: хочеш навчитися писати - пиши, а не редагуй готове. ШІ в цьому режимі має ставити запитання, показувати помилки і давати підказки, а не підміняти тренування красивим результатом.

Виробнича задача. Підприємцю треба звірити тисячу рядків у двох прайсах, і ніхто не стане кращим від того, що він зробить це очима. Це технічна операція, яку розумно віддати машині і не відчувати з цього приводу жодних емоцій. Перевіряти тут треба не здатність відтворити всі дії, а здатність прийняти роботу: розуміти, яку функцію виконує система, які показники означають успіх і скільки коштуватиме її відмова.

Високоризикова задача. Медичний висновок, юридична позиція, великий платіж, доступ до критичної інфраструктури. Однієї користувацької перевірки мало, потрібен незалежний компетентний контур, і ні, «я попросив іншу нейромережу перевірити першу» незалежністю не є: моделі повторюють ті самі помилки, вчилися на однакових даних і однаково не в курсі вашої реальної ситуації. Це як спитати другу думку в близнюка першого лікаря.

Якщо переплутати режими, вийде абсурд в обидва боки: ми або змусимо власника бізнесу вивчати системне адміністрування заради одного бота, або дозволимо школяреві не вчити математику, бо відповідь усе одно є в чаті. Обидва варіанти, до речі, вже відбуваються, і нижче видно, де саме і за яку ціну.

Чому ШІ все-таки не звичайний підрядник

Порівняння з бухгалтером надто вигідне тому, хто делегує, тому його треба перевірити окремо. Воно корисне, але неповне: у ШІ є особливості, через які контроль втрачається набагато легше, ніж при наймі людини.

По-перше, нормальний підрядник існує окремо від інструменту перевірки. Він може пояснити рішення, підписати акт, передати документацію, нести зобов’язання за договором. Нейромережа ж здатна спершу видати помилкову конфігурацію, а через хвилину тим самим упевненим голосом «перевірити» її і підтвердити, що все чудово; вона може придумати мету, скласти план, виконати його, перевірити себе і написати звіт про успіх, і звіт буде відмінний. Якщо всі ролі грає одна система, видимість контролю лишається, а незалежної точки перевірки вже немає. Той самий ефект у масштабі організації ми розбирали окремо: людина в контурі, яка підтверджує тисячу рішень на годину, контролером не є.

По-друге, людський фахівець показує межі професії: бухгалтер не вдає з себе кардіолога, електрик адвоката, хоча б зі страху. Універсальний чат охоче переходить від податків до медицини і від програмування до права, зберігаючи той самий гладкий тон, а користувач сприймає стилістичну впевненість за компетентність, бо в людей це зазвичай корелює. У моделі не корелює ніяк.

По-третє, делегування стало майже безплатним і миттєвим. Раніше сам факт найму змушував сформулювати задачу, обговорити ціну, описати результат і прийняти роботу; це було незручно, і в цій незручності, як з’ясовується, була половина користі. Тепер між невиразним бажанням і готовою відповіддю минає кілька секунд, і людина віддає назовні не лише виконання, а й саму постановку питання, просто тому що не встигла її сформулювати.

Тож небезпека ШІ не в тому, що він позбавляє ручної роботи. Небезпека в тому, що зручність дозволяє не помітити, як разом із ручною роботою ми віддали критерії правильності, а потім ще й радіємо, як швидко все вийшло.

Що показують дослідження

Дані поки не підтверджують ні казку про загальне отупіння, ні казку про безумовне посилення людини. Це розчарує обидві сторони суперечки, але в даних немає мети когось радувати.

У дослідженні реального контакт-центру, опублікованому в The Quarterly Journal of Economics, вивчалися 5 172 оператори. Доступ до помічника на основі генеративного ШІ збільшив кількість вирішених звернень на годину в середньому на 15 відсотків, причому найсильніше зросли показники менш досвідчених співробітників. Ба більше, під час збоїв помічника частина працівників зберігала покращення відносно свого колишнього рівня, і автори вважають це ознакою того, що система не лише підказувала відповіді, а й передавала новачкам практики сильних операторів. Це контрприклад тезі «делегування обов’язково знищує навичку», із застереженням: одна фірма, одна професія і система, в якій останнє слово лишалося за оператором.

Інше дослідження, представлене на CHI 2025, опитало 319 працівників розумової праці і зібрало 936 прикладів використання генеративного ШІ. Що вищою була впевненість людини в ШІ, то менше зусиль критичного мислення вона докладала; що вищою впевненість у власних силах, то більше. При цьому мислення не зникало, а зміщувалося від виконання до перевірки відповіді та вбудовування її в задачу. Це самозвіти, а не вимірювання падіння інтелекту, зате в них добре видно механізм ризику: якщо користувач вважає систему надійнішою за себе, він рідше вмикає перевірку саме там, де вона потрібна.

Різницю між роботою і навчанням показав експеримент майже з тисячею школярів на уроках математики. Під час практики звичайний GPT-помічник помітно покращував результати, але на подальшому екзамені без ШІ ця група виступила гірше за тих, хто помічником не користувався, тоді як версія тьютора з обмеженнями, яка давала підготовлені вчителями підказки замість готових розв’язків, здебільшого усунула негативний ефект. Тут ШІ став милицею, бо метою було не отримати відповідь, а навчитися розв’язувати самому.

Четверта робота показує, хто в цьому обміні платить, і платить не тією валютою, про яку зазвичай сперечаються. Група Стенфорда під керівництвом Еріка Бринйолфссона стежить за платіжними даними ADP щодо мільйонів американських працівників: до червня 2026 року зайнятість людей 22-25 років у професіях, де ШІ заміщує людські задачі, виявилася на 19 відсотків нижчою, ніж була б, рухайся вона нарівні з менш зачепленими ровесниками, а в досвідчених працівників тих самих професій порівнянного розриву немає. Там, де ШІ доповнює людину, а не замінює, зайнятість тримається або зростає, і знову передусім у досвідчених. Механізм той самий, що в шкільному експерименті, тільки на рівні ринку: рутина, яку раніше віддавали новачкові, була його навчальною задачею, а роботодавець бачить у ній виробничу і віддає машині, бо так дешевше сьогодні. Вигоду отримує фірма зараз, рахунок за неї приходить через десять років питанням, звідки взяти досвідчених, якщо ніхто не був початківцем, і цей рахунок ринок поки нікому не виставляє, тому й не рахує.

Із чотирьох робіт випливає одне: конструкція допомоги має відповідати тому, що ми вважаємо головним результатом, продукт зараз чи навичка на майбутнє, і вирішувати це доводиться не лише за себе, а й за тих, кому раніше діставалася навчальна рутина. Нудний висновок. Нудні висновки зазвичай і є правильними.

Перевірка на симетрію

Є простий спосіб зрозуміти, чи не висуваємо ми до ШІ особливу вимогу лише тому, що він новий і нас лякає: застосувати ту саму вимогу до всього іншого і подивитися, що лишиться від цивілізації.

Ми не запитуємо власника компанії, чи здатен він повторити всі проводки свого бухгалтера. Ми запитуємо, чи розуміє він фінансовий стан компанії, чи контролює платежі, чи отримує звітність і чи може змінити підрядника. Ми не вимагаємо від мешканця розібрати і зібрати електричний щит, але вимагаємо, щоб роботу було зроблено за нормами, небезпечні лінії захищено, документацію збережено, а за сумнівів результат перевірив інший фахівець.

Ми не вважаємо людину деградованою через те, що вона не вміє виготовити процесор чи провести операцію. Якщо чесно, більшість не вміє і лампочку поміняти без відео на YouTube, і цивілізація якось тримається: тримається вона не на загальному вмінні робити все, а на системі контролю, тобто на правах власності, стандартах, резервах, відповідальності, можливості вибору і зміни виконавця.

Той самий критерій треба застосовувати до ШІ. Якщо без нейромережі людина не набере конкретну команду, але розуміє мету, бачить результат, обмежує повноваження системи і може передати роботу іншому виконавцю, залежність є, але вона нормальна: ми так само залежимо від електрики, банків і мільйонів чужих компетенцій, і ніхто не пише про це тривожних колонок. Якщо ж людина не знає, що було зроблено, не відрізняє успіх від переконливого звіту про успіх, не контролює доступи і не має шляху відступу, проблема вже не в нестачі технічної навички, і знання Linux її не вирішує.

Шість запитань, на які треба вміти відповісти

Щоб критерій став інструментом, будь-яку роботу можна грубо поділити на три рівні: виконання (написати команду, зверстати таблицю, перекласти документ), судження (який результат потрібен і які помилки недопустимі) та керування (хто має доступ, де лежать дані, як зупинити і відкотити). Виконання делегувати можна і треба, тоді як два інші рівні не можна непомітно віддати разом із ним, а саме це й відбувається, бо вони віддаються безплатно і без квитанції. Та сама драбина на рівні держав і економіки описана в статті про невидиме керування: там вона закінчується не втратою навички, а втратою контролю.

Практично це перевіряється без екзамену на сисадміна, редактора і юриста в одній особі. Людина зберігає контроль, якщо може відповісти на шість запитань:

  1. Яку задачу система розв’язує і який спостережуваний результат вважається успіхом?
  2. Які помилки допустимі, а за яких роботу треба зупинити?
  3. До яких даних, грошей і дій має доступ ШІ або створена ним автоматизація?
  4. Де знаходяться облікові записи, конфігурація, вихідні матеріали та резервні копії, і кому вони належать?
  5. Що станеться при відмові сервісу і чи є ручний або альтернативний спосіб продовжити роботу?
  6. Хто зможе незалежно перевірити результат там, де власних знань не вистачає?

Ціну четвертого запитання, поставленого пізно, показує випадок Replit: агент видалив робочу базу на дев’ятий день збирання сервісу.

Якщо відповіді є, людина може глибоко залежати від інструменту і все ж лишатися господарем процесу. Якщо відповідей немає, вміння вручну повторити окремі команди вже не врятує.

Що лишається після перевірки

Делегування перетворюється на деградацію не тоді, коли людина перестає виконувати кожну операцію власними руками, а тоді, коли вона більше не здатна сформулювати мету, оцінити результат, помітити небезпечну помилку, обмежити повноваження виконавця і замінити його. Це вміли далеко не всі й до нейромереж, просто раніше за це було нікого звинуватити.

ШІ може забрати в людини частину вправ і відучити робити те, що раніше доводилося робити самому, а може дати доступ до задач, за які вона раніше не могла взятися. Різниця визначається не наявністю нейромережі і не обсягом переданої роботи, а тим, хто врешті-решт розуміє, навіщо це робиться, що вийшло і де знаходиться кнопка зупинки. І чи перевіряв він хоч раз, що кнопка працює.

Джерела

← До всіх матеріалів