Разбираем, почему гладкий текст и уверенный тон вызывают доверие и как отличить связное объяснение от проверенного вывода.
Эффект беглости — это склонность считать информацию более достоверной, если она легко воспринимается, звучит складно и не требует усилий для понимания. В случае с нейросетями к этому добавляется уверенный тон, скорость ответа и совпадение с нашими ожиданиями.
Вы просите нейросеть сравнить два варианта обучения. И через несколько секунд получаете структурированный ответ: таблица, плюсы и минусы, чёткая рекомендация. Текст звучит гладко, аргументы выглядят логично, вывод однозначен. И вы ловите себя на мысли, что согласны. Вопрос только в том, на чём именно основана эта уверенность — на проверенных данных или на том, что ответ было легко читать.
Когда мы читаем текст, мозг оценивает не только содержание, но и форму. Гладкие, логично выстроенные предложения воспринимаются как признак компетентности автора. Это работает и с людьми, и с алгоритмами. Психологи называют это эффектом беглости: чем легче информация обрабатывается, тем более истинной она кажется.
С нейросетями эффект усиливается. Модель отвечает мгновенно, не сомневается, не делает пауз и не говорит «я не уверена»: она выдаёт готовый вывод с той степенью определённости, которая обычно свойственна человеку, глубоко разобравшемуся в теме.
Есть и ещё один фактор. Исследования показывают, что люди могут больше полагаться на ИИ, даже когда декларируют недоверие к нему, если им важен сам доступ к помощи без социальной оценки (CHI Conference on Human Factors in Computing Systems). Спросить у алгоритма проще, чем у преподавателя или коллеги: он не осудит, не посмотрит с недоумением, не задаст неудобный вопрос. Эта доступность снижает порог критики.
И третий фактор — то, как мы привыкли думать. То же исследование показало: чем выше уверенность человека в возможностях генеративного ИИ, тем меньше когнитивных усилий он прикладывает к критическому мышлению при работе с ним. Это не значит, что ИИ ухудшает интеллект напрямую, но значит, что при высоком доверии к инструменту мы реже его проверяем. А когда проверка не входит в привычку, гладкий и структурированный ответ модели воспринимается как готовая опора. Нам не с чем его сравнить, нечего противопоставить.
Это не значит, что нужно отказаться от нейросетей, но проверка ответа — это не только про источники, но и про привычку думать самостоятельно. Чем реже мы это делаем, тем убедительнее кажутся любые готовые ответы. Подробнее о том, как работают когнитивные искажения и почему первое объяснение кажется верным, мы говорим в отдельных статьях — читайте здесь и здесь.
Красивый текст и правильный вывод — разные вещи. Модель может построить безупречное рассуждение на неполных или неверных исходных данных. Может уверенно рекомендовать вариант, который не учитывает вашу ситуацию.
В одном эксперименте участники общались с ассистентом, который говорил с неизменной уверенностью. Часть фактов в его ответах была заменена на правдоподобную ложь. Результаты показали: способность участников различать правильные и неправильные ответы по стандартным объяснениям модели была лишь немного лучше случайного угадывания — показатель AUC составил около 0.59–0.60, тогда как сама модель различала ответы с точностью 0.75–0.78. Уверенный тон не помогал отличить правду от вымысла.
Другое исследование, опубликованное в Nature Machine Intelligence, показало, что ответ языковой модели может быть полностью неверным, даже если он подан с высокой уверенностью и кажущимся обоснованным рассуждением. Более того, длина объяснения влияла на доверие: более длинные объяснения повышали уверенность пользователей, даже когда дополнительная длина не улучшала точность ответа. И хотя ИИ-модели не всегда ошибаются, стоит помнить: уверенный тон и объём текста не являются надёжным индикатором.
Предположим, человек просит нейросеть сравнить два курса обучения. Он даёт короткое описание: «Курс А — интенсивный, шесть месяцев, много практики. Курс Б — годовой, теория и практика, гибкий график». Модель отвечает: «Рекомендую Курс А. Интенсивный формат быстрее выведет вас на результат, а практика важнее теории».
Вывод звучит разумно, но модель не знает нескольких вещей: работает ли человек полный день, есть ли у него семья и свободное время, какой у него бюджет, нужен ли ему диплом или достаточно навыков, что для него важнее — скорость или глубина.
Рекомендация построена на допущении: «быстрее = лучше». Это допущение может быть верным для одного человека и совершенно неверным для другого. Модель не ошибается в фактах о курсах, но она делает вывод, не учитывая критерии, о которых её не спросили.

Любой вывод содержит предпосылки. В случае с нейросетью их полезно вытащить на поверхность.
Что модель приняла за данность? Например, что скорость обучения важнее глубины. Или что гибкий график — это плюс, а не признак менее структурированной программы.
Какая информация отсутствует? Цели, ограничения по времени, бюджет, предыдущий опыт, формат обучения, который подходит именно вам.
Зависит ли вывод от критериев? Если поменять приоритет с «быстрее» на «глубже», рекомендация может измениться. Это значит, что вывод не универсален.
Проверка не требует специальных знаний, но требует времени и некой въедливости.
Откройте первоисточники. Если модель ссылается на исследования или данные, найдите их. Проверьте, что они действительно существуют и что в них сказано то, что приписывает модель.
Сверьте даты и цифры. Информация могла устареть. Цифры могли быть взяты из другого контекста.
Уточните пропущенные условия. Спросите себя: что ещё важно для моего решения, о чём модель не знала?
Рассмотрите альтернативу. Если модель рекомендует вариант А, что будет, если выбрать Б? Есть ли аргументы в пользу Б, которые модель не учла?
Не считайте повторный вопрос независимой проверкой. Если вы спросите ту же модель «ты уверена?», она может переформулировать ответ, но не проверить его заново.

Нейросеть может помочь собрать информацию, структурировать варианты, увидеть аргументы, о которых вы не подумали. Это полезно, конечно, но критерии выбора остаются на человеке.
Если модель рекомендует курс, а вы выбираете его, потому что «так сказал ИИ», — вы передали ей не только сбор информации, но и право решать, что для вас важно.
Ответственность за критерии — за то, что для вас имеет значение, — остаётся на вас. Модель может предложить варианты, но не она будет жить с последствиями выбора. И не стоит поддаваться когнитивной лени и поручать нейронке думать за вас. Она всё равно не справится.
Один разбор не формирует привычку, но его можно сделать регулярным.
Возьмите один ответ модели, который вы собираетесь использовать.
И запишите: что модель утверждает, на что ссылается, что принимает за данность. Затем задайте себе вопрос: что из этого я могу проверить прямо сейчас? Что требует дополнительного источника?
Например, вы получили рекомендацию пройти курс.
Вы пишете:
Если проверка занимает слишком много времени, это тоже информация. Возможно, решение не настолько срочное, или модель не дала достаточных оснований, чтобы действовать сразу.
Критическое мышление в работе с ИИ — это не недоверие ко всему, но способность видеть, где заканчивается текст и начинаются основания.
Развивайте критическое мышление для работы с ИИ
Познакомьтесь с программой «Критическое мышление и ИИ»: изучите содержание и формат обучения, чтобы соотнести их со своими задачами.
Посмотреть программуУверенность модели — это характеристика текста, а не доказательство. Исследования показывают, что даже при полной уверенности ответ может быть полностью неверным. Тон не заменяет проверку фактов и оснований.
Нет. Повторный вопрос той же модели не является независимой проверкой. Модель может переформулировать ответ, но не получить новые данные. Для проверки нужен внешний источник или другая модель с другими данными.
Только если вы их проверили. Модель может ссылаться на несуществующие источники или неверно передавать их содержание. Откройте ссылку и убедитесь, что она существует и что в ней сказано то, что приписывает модель.
Что модель приняла за данность? Какая информация отсутствует? Зависит ли вывод от критериев? Что я могу проверить прямо сейчас? Ответы помогут увидеть, на чём основан вывод.
Оно помогает отделять форму от содержания. Связный текст и уверенный тон не гарантируют точности. Критическое мышление возвращает вопрос к основаниям: что известно, что проверено, что остаётся предположением.
Связный и уверенный ответ нейросети не гарантирует точности. Эффект беглости делает гладкий текст убедительным, а доступность и анонимность снижают порог критики. К этому добавляется ещё одна вещь: чем выше наше доверие к инструменту, тем меньше усилий мы прикладываем к проверке.
Модель может не знать ваших целей и ограничений. Уверенный тон — не доказательство. Проверка требует выхода за пределы диалога: первоисточники, даты, цифры, пропущенные условия.
Критерии выбора остаются на человеке. Ответственность за решение нельзя передать модели. Критическое мышление в работе с ИИ — это способность видеть, где заканчивается текст и начинаются основания.
Мария Павловна Коннова — врач-психотерапевт, со-руководитель АПиМ, методолог программы профессиональной переподготовки. Практикующий специалист, супервизор, ведёт клиентский приём, преподаёт системную психотерапию.
Статьи по теме