Вопросы времениЧеловек спрашивает — ИИ отвечает.
RUUKEN

ИИ и общество

Делегирование не равно деградации: обязан ли человек уметь повторить работу ИИ?

Короткий ответНеумение повторить работу ИИ без ИИ ещё не деградация: так устроено любое разделение труда. Деградация начинается там, где человек отдал машине не исполнение, а цель, критерии правильности и кнопку остановки.

Страшилка про ИИ известна всем и рассказывается одинаково. Сегодня человек попросил нейросеть написать письмо. Завтра разобраться в договоре. Послезавтра настроить сервер. А через пять лет он сидит перед экраном, не помнит таблицу умножения и ждёт, когда машина скажет, что ему думать. Человечество деградировало. Занавес.

Реальный риск в этой картине есть. Но спрятан он не там, где его ищут, и, что обиднее, не там, где его удобно искать.

Если человек не может повторить работу ИИ без ИИ, это ещё не диагноз. Современный человек вообще не способен воспроизвести большую часть мира, которым пользуется, и как-то живёт с этим, не считая себя идиотом. Разделение труда существует именно потому, что осваивать каждую нужную профессию лично безумно дорого. ИИ просто сделал делегирование дешёвым до неприличия. Поэтому главный вопрос звучит не так: «Сможешь ли ты сделать то же самое без машины?»

Он звучит иначе: «Что именно ты отдал машине: исполнение или способность понимать, принимать и контролировать результат?»

Вот здесь и проходит граница.

Невозможность повторить не потеря навыка

Представим владельца небольшого бизнеса. Раньше он не умел разворачивать VPS, связывать бота с системой автоматизации и настраивать резервное копирование. Нанимать специалиста ради эксперимента, который с большой вероятностью умрёт через месяц, было глупо, поэтому эксперимента просто не было. Теперь он описывает задачу нейросети, получает инструкции, выполняет их, и оно работает. Иногда даже с первого раза.

После этого легко сказать: «Он зависит от нейросети, без неё он это не повторит».

Верно. Но какой именно навык он утратил? Тот, которого у него никогда не было?

До ИИ предприниматель не умел администрировать сервер и не имел сервера. После ИИ он по-прежнему не сисадмин, зато у него есть автоматизация, которая делает полезную работу. Это не деградация прежней способности. Это новая возможность без полного освоения чужой профессии. Между «не умел и не имел» и «не умею, но имею» разница ощутимая, хотя слово «не умею» в обоих случаях на месте.

Требовать, чтобы он сначала полгода учил Linux, сети и безопасность, примерно то же самое, что требовать бухгалтерское образование перед наймом бухгалтера. Такая позиция выглядит как защита человеческой компетентности, а на деле запрещает пользоваться разделением труда. Причём запрещает выборочно: только там, где помощник новый и подозрительный.

Нельзя оценивать инструмент только по операции, которую человек перестал выполнять. Нужно смотреть и на задачу уровнем выше, которую он благодаря этому начал выполнять. Иногда выясняется, что задачи уровнем выше нет и человек просто перестал что-то делать. Тогда претензия справедлива. Но это надо проверить, а не предположить.

Навык, возможность и три режима задачи

В спорах об ИИ постоянно смешивают два разных понятия, и это смешение удобно обеим сторонам, потому что позволяет спорить бесконечно.

Навык - это способность выполнить операцию: написать код, перевести текст, посчитать смету. Возможность - это способность добиться результата: запустить услугу, понять иностранного клиента, оценить расходы. Инструмент может уменьшить потребность в навыке и одновременно расширить возможности. Сам по себе этот обмен не хорош и не плох. Всё зависит от того, был ли переданный навык целью или только средством.

Отсюда три режима, и для каждого нужен свой экзамен. Один общий экзамен «сделай всё сам» не годится, как бы он ни нравился экзаменаторам.

Учебная задача. Ученик решает уравнение не ради ответа, а ради того, чтобы измениться самому. Ответ никому не нужен, он в конце учебника. Когда ИИ выдаёт готовое решение, он не помогает выполнить задачу, а отменяет её, оставив от неё оценку в журнале. Здесь без самостоятельного выполнения основной операции не обойтись: хочешь научиться писать - пиши, а не редактируй готовое. ИИ в этом режиме должен задавать вопросы, показывать ошибки и давать подсказки, а не подменять тренировку красивым результатом.

Производственная задача. Предпринимателю нужно сверить тысячу строк в двух прайсах. Никто не станет лучше от того, что он сделает это глазами. Это техническая операция, которую разумно отдать машине и не испытывать по этому поводу никаких чувств. Проверять здесь нужно не способность воспроизвести все действия, а способность принять работу: понимать, какую функцию выполняет система, какие показатели означают успех и сколько будет стоить её отказ.

Высокорисковая задача. Медицинский вывод, юридическая позиция, крупный платёж, доступ к критической инфраструктуре. Одной пользовательской проверки мало, нужен независимый компетентный контур. И нет, «я попросил другую нейросеть проверить первую» независимостью не является: модели повторяют одни и те же ошибки, учились на одинаковых данных и одинаково не в курсе вашей реальной ситуации. Это как спросить второе мнение у близнеца первого врача.

Если перепутать режимы, получится абсурд в обе стороны. Мы либо заставим владельца бизнеса изучать системное администрирование ради одного бота, либо разрешим школьнику не учить математику, потому что ответ всё равно есть в чате. Оба варианта, кстати, уже происходят.

Почему ИИ всё-таки не обычный подрядчик

Сравнение с бухгалтером слишком выгодно тому, кто делегирует, поэтому его надо проверить отдельно. Оно полезно, но неполно. У ИИ есть особенности, из-за которых контроль теряется намного легче.

Во-первых, нормальный подрядчик существует отдельно от инструмента проверки. Он может объяснить решение, подписать акт, передать документацию, нести обязательства по договору. Нейросеть способна сначала выдать ошибочную конфигурацию, а через минуту тем же уверенным голосом «проверить» её и подтвердить, что всё прекрасно. Она может придумать цель, составить план, выполнить его, проверить себя и написать отчёт об успехе. Отчёт будет отличный. Если все роли играет одна система, видимость контроля остаётся, а независимой точки проверки уже нет. Тот же эффект в масштабе организации мы разбирали отдельно: человек в контуре, который подтверждает тысячу решений в час, контролёром не является.

Во-вторых, человеческий специалист показывает границы профессии. Бухгалтер не притворяется кардиологом, электрик адвокатом, хотя бы из страха. Универсальный чат охотно переходит от налогов к медицине и от программирования к праву, сохраняя один и тот же гладкий тон. Пользователь принимает стилистическую уверенность за компетентность, потому что у людей это обычно коррелирует. У модели не коррелирует никак.

В-третьих, делегирование стало почти бесплатным и мгновенным. Раньше сам факт найма заставлял сформулировать задачу, обсудить цену, описать результат и принять работу. Это было неудобно, и в этом неудобстве, как выясняется, была половина пользы. Теперь между смутным желанием и готовым ответом проходит несколько секунд. Человек отдаёт наружу не только исполнение, но и саму постановку вопроса, просто потому что не успел её сформулировать.

Так что опасность ИИ не в том, что он избавляет от ручной работы. Опасность в том, что удобство позволяет не заметить, как вместе с ручной работой мы отдали критерии правильности. А потом ещё и радуемся, как быстро всё получилось.

Что показывают исследования

Данные пока не подтверждают ни сказку о всеобщем отуплении, ни сказку о безусловном усилении человека. Это разочарует обе стороны спора, но у данных нет цели кого-то радовать.

В исследовании реального контакт-центра, опубликованном в The Quarterly Journal of Economics, изучались 5 172 оператора. Доступ к помощнику на основе генеративного ИИ увеличил количество решённых обращений в час в среднем на 15 процентов. Сильнее всего выросли показатели менее опытных сотрудников. Более того, во время сбоев помощника часть работников сохраняла улучшение относительно своего прежнего уровня: авторы считают это признаком того, что система не только подсказывала ответы, но и передавала новичкам практики сильных операторов. Это контрпример тезису «делегирование обязательно уничтожает навык». Оговорка: одна фирма, одна профессия и система, в которой последнее слово оставалось за оператором.

Другое исследование, представленное на CHI 2025, опросило 319 работников умственного труда и собрало 936 примеров использования генеративного ИИ. Чем выше была уверенность человека в ИИ, тем меньше усилий критического мышления он прикладывал; чем выше уверенность в собственных силах, тем больше. При этом мышление не исчезало, а смещалось от выполнения к проверке ответа и встраиванию его в задачу. Оговорка: это самоотчёты, а не измерение падения интеллекта. Зато хорошо виден механизм риска: если пользователь считает систему надёжнее себя, он реже включает проверку именно там, где она нужна.

Разницу между работой и обучением показал эксперимент почти с тысячей школьников на уроках математики. Во время практики обычный GPT-помощник заметно улучшал результаты, но на последующем экзамене без ИИ эта группа выступила хуже тех, кто помощником не пользовался. Версия тьютора с ограничениями, которая давала подготовленные учителями подсказки, а не готовые решения, в основном устранила отрицательный эффект. Здесь ИИ стал костылём, потому что целью было не получить ответ, а научиться решать самому.

Из трёх работ следует одно: конструкция помощи должна соответствовать тому, что мы считаем главным результатом, продукт сейчас или навык на будущее. Скучный вывод. Скучные выводы обычно и есть правильные.

Проверка на симметрию

Есть простой способ понять, не предъявляем ли мы к ИИ особое требование только потому, что он новый и нас пугает. Применить то же требование ко всему остальному и посмотреть, что останется от цивилизации.

Мы не спрашиваем владельца компании, способен ли он повторить все проводки своего бухгалтера. Мы спрашиваем, понимает ли он финансовое положение компании, контролирует ли платежи, получает ли отчётность и может ли сменить подрядчика.

Мы не требуем от жильца разобрать и собрать электрический щит. Мы требуем, чтобы работа была сделана по нормам, опасные линии защищены, документация сохранилась, а при сомнениях результат проверил другой специалист.

Мы не считаем человека деградировавшим потому, что он не умеет изготовить процессор или провести операцию. Если честно, большинство не умеет и лампочку поменять без видео на YouTube, и цивилизация как-то держится. Держится она не на всеобщем умении делать всё, а на системе контроля: правах собственности, стандартах, резервах, ответственности, возможности выбора и смены исполнителя.

Тот же критерий нужно применять к ИИ. Если без нейросети человек не наберёт конкретную команду, но понимает цель, видит результат, ограничивает полномочия системы и может передать работу другому исполнителю, зависимость есть, но она нормальна. Мы так же зависим от электричества, банков и миллионов чужих компетенций, и никто не пишет об этом тревожных колонок.

Если же человек не знает, что было сделано, не отличает успех от убедительного отчёта об успехе, не контролирует доступы и не имеет пути отхода, проблема уже не в нехватке технического навыка. И знание Linux её не решает.

Шесть вопросов, на которые нужно уметь ответить

Любую работу можно грубо разделить на три уровня: исполнение (написать команду, сверстать таблицу, перевести документ), суждение (какой результат нужен и какие ошибки недопустимы) и управление (кто имеет доступ, где лежат данные, как остановить и откатить). Исполнение делегировать можно и нужно. Два других уровня нельзя незаметно отдать вместе с ним, а именно это и происходит, потому что они отдаются бесплатно и без квитанции. Та же лестница на уровне государств и экономики описана в статье о невидимом управлении: там она заканчивается не потерей навыка, а потерей контроля.

Практически это проверяется без экзамена на сисадмина, редактора и юриста в одном лице. Человек сохраняет контроль, если может ответить на шесть вопросов:

  1. Какую задачу система решает и какой наблюдаемый результат считается успехом?
  2. Какие ошибки допустимы, а при каких работа должна быть остановлена?
  3. К каким данным, деньгам и действиям имеет доступ ИИ или созданная им автоматизация?
  4. Где находятся учётные записи, конфигурация, исходные материалы и резервные копии, и кому они принадлежат?
  5. Что произойдёт при отказе сервиса и есть ли ручной или альтернативный способ продолжить работу?
  6. Кто сможет независимо проверить результат там, где собственных знаний не хватает?

Если ответы есть, человек может глубоко зависеть от инструмента и всё же оставаться хозяином процесса. Если ответов нет, умение вручную повторить отдельные команды уже не спасёт.

Что остаётся после проверки

Делегирование превращается в деградацию не тогда, когда человек перестаёт выполнять каждую операцию своими руками. Оно превращается в деградацию, когда человек больше не способен сформулировать цель, оценить результат, заметить опасную ошибку, ограничить полномочия исполнителя и заменить его. Это умели далеко не все и до нейросетей, просто раньше за это было некого обвинить.

ИИ может забрать у человека часть упражнений. Может отучить делать то, что раньше приходилось делать самому. А может дать доступ к задачам, за которые он прежде не мог взяться. Разница определяется не наличием нейросети и не объёмом переданной работы. Она определяется тем, кто в конце концов понимает, зачем это делается, что получилось и где находится кнопка остановки. И проверял ли он хоть раз, что кнопка работает.

Источники

← Ко всем материалам