ИИ и общество

Почему «я прочитал в книге» звучит умнее, чем «я спросил у ИИ»?

Короткий ответОдин и тот же ответ воспринимается по-разному в зависимости от того, сколько труда мы приписываем его получению и кто помог его сформулировать.

Есть странная социальная асимметрия.

Человек говорит: «Я когда-то читал об этом в книге». Какой именно книге, кто её написал, на каких данных построен вывод и правильно ли человек его запомнил, часто никто не спрашивает. Сам факт книги уже звучит солидно.

Но стоит сказать: «Я спросил у ИИ, попросил источники и проверил ответ», как у части собеседников включается совсем другая реакция: ага, понятно, сам думать не умеешь.

Хотя по качеству результата всё может быть ровно наоборот.

Это не просто личное ощущение

В 2025 году в Scientific Reports вышла серия из пяти заранее зарегистрированных экспериментов. В одном из них людям показывали один и тот же совет, написанный ChatGPT. Одной группе говорили, что его создал ChatGPT, другой - что это ответ другого человека. Когда происхождение связывали с ChatGPT, тот же самый текст оценивали ниже по качеству, эффективности и искренности.

Другое исследование 2025 года, опубликованное в PNAS, провело четыре эксперимента с более чем 4400 участниками. Людей, использующих ИИ на работе, в среднем считали более ленивыми, менее компетентными и менее старательными. Участники заранее ожидали такого отношения и поэтому могли скрывать использование ИИ.

То есть насмешка в духе «это тебе ChatGPT написал» не просто существует в комментариях. У неё уже видна вполне измеримая социальная цена.

Возможно, мы оцениваем не ответ, а цену его получения

Раньше цепочка выглядела примерно так:

много знает → много читал → потратил годы → компетентный человек.

ИИ разрывает эту связь. Теперь первоначальный обзор темы, сравнение версий и список источников можно получить не за несколько дней, а за несколько минут. И у наблюдателя появляется ощущение, что результат достался слишком дёшево.

Это похоже на так называемую эвристику усилий. В классических экспериментах люди выше оценивали стихи, картины и другие работы, когда думали, что на их создание ушло больше времени и труда. Особенно сильным этот эффект становился тогда, когда качество было трудно оценить напрямую.

С информацией происходит нечто похожее. Когда мы не можем быстро проверить сам аргумент, то начинаем судить по косвенным признакам: толщина книги, годы образования, уверенный тон, количество потраченного времени. ИИ убирает привычный признак усилия, поэтому вместе с ним как будто исчезает и признак качества.

Но это плохая замена проверки.

Если человек А четыре часа искал правильный ответ, а человек Б за десять минут получил тот же ответ с помощью ИИ, проверил первоисточники и понял аргументацию, информационная ценность результата не становится меньше только потому, что путь был короче.

Книга здесь работает ещё и как знак статуса

Фраза «я читал об этом в книге» сообщает не только об источнике. Она несёт целый культурный хвост: образование, дисциплина, серьёзность, привычка к длинному тексту.

Фраза «я спросил у ChatGPT» пока часто несёт другой хвост: не знал, не разбирался, нажал кнопку, скопировал готовое.

Обе картинки могут быть ложными.

Можно двадцать лет назад прочитать откровенную чушь и помнить её ещё хуже. Можно открыть первую попавшуюся книгу автора, который просто красиво упаковал собственные убеждения.

А можно использовать ИИ как исследовательский инструмент: попросить несколько объяснений, найти противоречия, получить список первоисточников, открыть их и проверить, что там действительно написано.

Разумеется, можно и наоборот: бездумно скопировать первую уверенную галлюцинацию модели. Способ доставки информации не говорит, была ли проделана мыслительная работа.

Но «так сказал ИИ» всё равно остаётся слабым аргументом

Защищая новый инструмент, легко улететь в другую крайность. ИИ не становится авторитетом просто потому, что отвечает длинно, быстро и уверенно.

Модель может выдумать факт, перепутать источник, пропустить важное исключение или подстроиться под формулировку вопроса. Существует не только неприязнь к алгоритмам, но и противоположная проблема - чрезмерное доверие автоматизированному совету даже при наличии противоречащей информации. Куда ведёт такое доверие, когда оно становится нормой и не слушаться системы делается нерационально, разобрано в статье о невидимом управлении.

Поэтому фраза «это правда, потому что так сказал ChatGPT» плоха. Но фраза «это правда, потому что я прочитал это в книге» по своей логике ничем не лучше.

Книга, поисковик, преподаватель и языковая модель могут помочь пройти этот путь. Ни один из них не освобождает человека от необходимости понять, что именно он повторяет. Где заканчивается нормальное делегирование и начинается потеря контроля над результатом, мы разбирали в статье «Делегирование не равно деградации».

Что на самом деле начинает цениться

Дефицитом постепенно становится не доступ к информации. Дефицитом становится способность поставить хороший вопрос, обнаружить противоречие, выбрать критерий, проверить источник и применить вывод к реальной ситуации.

Навык помнить сотни фактов никуда не исчезнет, но сам по себе он уже не даёт прежнего преимущества: ИИ удешевил поиск, первичный обзор и компиляцию информации. И именно поэтому вызывает столько раздражения: он удешевляет действия, которые долго служили не только инструментом работы, но и знаком интеллектуального статуса.

Вопрос теперь не в том, использовал ли человек ИИ. Вопрос в том, что он сделал после ответа.

Понял? Проверил? Сопоставил? Увидел слабые места? Или просто вставил красивый текст?

Вот по этому и стоит судить.

Источники

← Ко всем материалам