Новая статья об «ошибке LLM» утверждает, что люди начинают путать результаты работы нейросетей со своей собственной компетентностью. Исследователи описывают ситуацию, в которой человек, работающий с языковой моделью, постепенно перестает понимать, где заканчивается его мышление и начинается машинная генерация. Текст выглядит убедительно, проблема — серьезно, выводы — тревожно. Но в российском контексте вся эта дискуссия звучит почти наивно.
Потому что для того, чтобы искусственный интеллект разрушил систему оценки мышления, эта система должна была существовать.
А это уже далеко не очевидно.
Российская массовая школа много лет подряд строилась не вокруг развития мышления, а вокруг воспроизводства правильных форм. Не потому, что кто-то однажды сел и решил уничтожить мышление как таковое. Все произошло гораздо прозаичнее. Большая система всегда стремится к проверяемости, управляемости и масштабируемости. Настоящее мышление плохо подходит для всех трех задач.
Оно медленное. Неудобное. Непредсказуемое. Оно рождается через сомнение, ошибки, тупики, странные гипотезы и внутреннюю борьбу. Мысль вообще редко выглядит красиво в процессе своего появления. Она сбивается, ломается, возвращается назад, меняет направление. Но именно это и есть мышление.
Массовая школа постепенно вытесняла этот процесс из образовательной среды. Вместо него возникала другая модель — модель распознавания шаблонов. Ученик очень быстро понимал реальные правила игры. Не те, что написаны в концепциях и стандартах, а настоящие. За что ставят баллы? За что хвалят? Что считается «правильным»? Как выглядит «хороший» ответ? Какой тип рассуждения ожидается?
И дальше начиналась адаптация.
Ребенок переставал решать задачу как объект исследования. Он начинал решать задачу как задачу классификации. Не «что здесь происходит?», а «на что это похоже?». Не «как это понять?», а «какой шаблон сюда подходит?».
Это очень важный момент, потому что именно здесь становится понятна настоящая роль искусственного интеллекта в образовании.
ИИ ничего не сломал.
Он оказался идеально совместим с уже существующей системой.
Языковые модели великолепно работают там, где требуется воспроизводство структуры: правильное сочинение, правильный анализ, правильное эссе, правильный стиль рассуждения, правильная аргументация, правильная форма глубины. Более того, нейросеть делает это быстрее, спокойнее и зачастую убедительнее человека. И внезапно выяснилась неприятная вещь: огромную часть образовательных процедур можно успешно проходить без мышления вообще.
Это звучит как преувеличение, но проблема значительно глубже, чем просто списывание домашних заданий через ChatGPT. Дело не в том, что школьник использует ИИ. Дело в том, что сама система долгое время проверяла не мышление, а способность воспроизводить ожидаемый формат интеллектуального поведения.
И теперь это стало видно.
Самое опасное здесь даже не шаблонность. Самое опасное — исчезновение ошибки как ценности. Российская школа десятилетиями выстраивала психологию, в которой ошибка воспринимается как угроза. Ошибка — это потеря баллов, снижение оценки, показатель слабости, источник тревоги. В результате ребенок очень быстро учится не думать, а минимизировать риск неправильности.
Но мышление без ошибок невозможно.
Человек понимает что-то по-настоящему не тогда, когда мгновенно получает правильный ответ, а тогда, когда сталкивается с противоречием, строит неверную модель, замечает разрыв и пересобирает картину мира заново. Ошибка — это не сбой мышления. Ошибка и есть механизм мышления.
И вот поверх системы, которая и так боится ошибки, появляется LLM. Нейросеть не показывает внутреннюю борьбу. Она выдает уже готовый, гладкий, уверенный результат. Без сомнений. Без тупиков. Без пауз. Возникает иллюзия, что мысль вообще должна рождаться мгновенно и красиво.
Для ребенка это крайне разрушительная конструкция. Потому что он начинает воспринимать собственное естественное мышление как дефект. Если решение не пришло быстро, если есть сомнение, если задача вызывает внутреннее напряжение — значит «я не умею». Хотя в реальности именно сложное, медленное и противоречивое продвижение и является настоящей интеллектуальной работой.
Парадокс в том, что искусственный интеллект одновременно становится и угрозой, и спасением для образования.
Угрозой — потому что окончательно обнажает кризис системы, основанной на шаблонном воспроизводстве. Но и спасением — потому что впервые за долгое время заставляет задать почти забытый вопрос: а что вообще такое мышление?
Не «компетенции». Не «навыки XXI века». Не «функциональная грамотность». А именно мышление как способность человека строить новые модели мира, удерживать неопределенность, проходить через ошибки, замечать противоречия и менять собственную картину реальности.
И вот здесь роль ИИ оказывается неожиданно важной.
Потому что именно нейросети впервые за долгое время делают бессмысленным культ воспроизводства. Все, что можно свести к шаблону, машина начинает делать быстрее человека. Все, что можно превратить в узнаваемую форму, начинает автоматизироваться.
Это означает, что образование впервые за много десятилетий оказывается вынуждено вернуться к человеку.
Не к объему информации. Не к натренированности. Не к правильной структуре ответа.
А к самому процессу мышления.
И здесь возникает самый тяжелый вопрос: кто вообще способен этому учить?
Потому что мышление передается не через методички и не через презентации. Оно передается через живых носителей культуры мышления. Через людей, для которых мысль является внутренней ценностью, а не учебной процедурой. Через тех, кто способен показывать не только результат, но и сам процесс интеллектуального поиска — сомнение, тупик, изменение гипотезы, радость сложной догадки.
Таких людей всегда было немного. Но система, десятилетиями ориентированная на воспроизводство правильных ответов, постепенно сокращала их количество. И теперь это становится проблемой уже не педагогической, а цивилизационной.
Потому что общество может довольно долго существовать без мышления — на шаблонах, инструкциях, адаптации и повторении готовых конструкций. Но только до тех пор, пока мир остается стабильным.
Проблема в том, что мир больше не будет стабильным. ИИ меняет его слишком быстро.
А значит, ближайшие годы могут оказаться моментом, когда человечеству придется заново учиться думать.
Изображение срегенировано нейросетями
Продолжаем разговор во ВКонтакте — обсуждение, споры и позиции. Подписывайтесь и включайтесь.