← Назад к блогу

LLM как зеркало: почему образ мышления определяет успех работы с ИИ

AILLMPhilosophyMachine LearningYandexGPT

Большинство людей воспринимают языковые модели как собеседников и ждут от них магического результата. Это фундаментальная ошибка, которая стоила миллиарды долларов Amazon, Starbucks и сотням других компаний. Реальная польза от LLM раскрывается только в руках людей с определённым типом мышления — тех, кто мыслит перебором, метаданными и ассоциативными связями. По иронии, это именно те люди, которых корпоративная культура чаще всего отправляет на периферию.

Шокирующая статистика провала

Начнём с цифр, которые обычно не попадают в корпоративные презентации.

В 2024 году MIT и Boston Consulting Group опубликовали исследование «The GenAI Divide», охватившее более 300 компаний из списка Fortune 500. Вывод был беспощаден: 95% пилотных AI-проектов не принесли измеримого ROI. Не «частично сработали», не «требуют доработки» — просто не сработали.

Gartner в своём Hype Cycle 2024 поместил Generative AI в фазу «Trough of Disillusionment» — пропасть разочарования. По их оценкам, 80% AI-проектов, запущенных в 2022-2023 годах, будут закрыты к концу 2026 года. Не из-за технических ограничений — из-за фундаментального непонимания того, как эти системы работают.

Конкретные кейсы, которые заставили индустрию задуматься:

  • Amazon в 2024 году свернула ряд крупных AI-инициатив внутри ритейл-подразделения, признав что «LLM-решения усложняют процессы и требуют больше поддержки, чем классические алгоритмы».
  • Starbucks отказалась от системы AI-рекомендаций для бариста после того, как сотрудники начали массово её обходить. Модель не учитывала локальный контекст — сезонность, погоду, конкретные предпочтения постоянных клиентов.
  • MIT/NBER исследование 2024 показало парадоксальную вещь: во многих задачах джуниоры-разработчики без AI оказываются эффективнее и дешевле, чем сеньоры с Copilot, потому что последние тратят часы на отладку галлюцинаций модели.

Что объединяет все эти провалы? Не технологии. Не данные. Не инфраструктура.

Проблема в том, как люди думают об ИИ.

Иллюзия собеседника

Когда в 1966 году Джозеф Вайценбаум создал ELIZA — примитивного чат-бота, имитирующего психотерапевта Роджерса, — произошла вещь, которая его самого ужаснула. Его секретарша, зная что перед ней программа на 200 строк кода, попросила его выйти из комнаты, чтобы поговорить с ELIZA наедине.

Вайценбаум потратил следующие десятилетия на книгу «Computer Power and Human Reason» (1976), где предупреждал: люди неизбежно очеловечивают всё, что говорит связным текстом. Это не баг — это фундаментальная особенность нашего мозга.

Theory of Mind и её ловушка

В 1978 году Примак и Вудраф сформулировали концепцию Theory of Mind — способности приписывать другим существам психические состояния (желания, убеждения, намерения). Это эволюционный механизм, позволяющий предсказывать поведение сородичей.

Проблема в том, что этот механизм автоматический и неконтролируемый. Исследование Nass и Moon 2000 года («Computers Are Social Actors», CASA paradigm) показало: люди применяют социальные правила к компьютерам, даже когда осознают их нечеловеческую природу. Мы говорим «пожалуйста» голосовому ассистенту. Мы злимся на медленный Wi-Fi. Мы чувствуем неловкость, когда робот просит помощи.

Современные LLM эксплуатируют эту особенность мозга на максимуме. Когда ChatGPT пишет «Я думаю, что…» или «Мне кажется…», ваш Theory of Mind автоматически достраивает собеседника с внутренним миром. Хотя внутри нет ни мыслей, ни «я» — только статистическая модель, предсказывающая следующий токен.

Эффект магического мышления

И вот здесь начинается корпоративная драма.

Менеджер, который привык иметь дело с подрядчиками и сотрудниками, подсознательно применяет к LLM ту же ментальную модель:

Ожидание: "Я сформулирую задачу — ИИ её решит и выдаст качественный результат. Как хороший подрядчик."
Реальность: LLM выдала правдоподобный, но выдуманный ответ.
Реакция: "ИИ не справился. Значит, технология незрелая."

Это магическое мышление. Оно не работает. И именно оно стоит за волной разочарований.

Другой способ мыслить: инженерное сознание

Теперь — личный опыт.

Я работаю на стыке человека и технологии. Моя супруга — HR Business Partner — часто говорит мне: «Ты думаешь не так, как я». И она права. Когда она работает с людьми, она считывает эмоции, подтексты, невербалику. Когда я работаю с системами, я мыслю перебором, метаданными и ассоциативными связями.

Вчера я смотрел «Расплату 2» (The Accountant 2, 2025) с Беном Аффлеком. Его персонаж, Кристиан Вульф — высокофункциональный аутист, гениальный бухгалтер. В одной из сцен в баре он использует фразу «нужно учесть контекст» в ответ на наивный вопрос собеседницы. Эта фраза для него — способ перевести социальное взаимодействие в алгоритмическую плоскость.

И вот что я понял о себе, наблюдая за этим фильмом.

Перебор как способ мышления

Когда в моей голове застревает мелодия, которую я не могу вспомнить, или фамилия актёра, или название книги — запускается фоновый процесс перебора. Он идёт бессознательно, параллельно основной деятельности. Результат может прийти через 5 секунд, через час или через 5 часов — внезапно, в душе или во время прогулки.

Я научился это использовать. Я не пытаюсь «вспомнить» — я ставлю задачу и переключаюсь на другое. Подсознание работает как фоновый worker.

Метаданные вместо данных

В моей голове редко хранятся данные в чистом виде. Зато в постоянном оперативном доступе — метаданные: где я это видел, с чем связано, в каком контексте, какие ассоциации. Когда мне нужна информация, я иду по ассоциативной цепочке, как по графу.

Это удивительно похоже на векторные эмбеддинги в трансформерах.

Spreading Activation: как работает и мозг, и LLM

В 1975 году психологи Коллинз и Лофтус опубликовали фундаментальную работу «A Spreading-Activation Theory of Semantic Processing». Они показали: когда человек слышит слово «доктор», в его семантической сети активируются связанные концепты — «медсестра», «больница», «халат», «рецепт». Активация распространяется волнами, затухая с расстоянием.

doctor → nurse (сильная связь)
       → hospital (средняя)
       → stethoscope (слабая)
       → unicorn (отсутствует)

Современные LLM работают принципиально так же, только в многомерном пространстве:

embedding("доктор") ≈ embedding("врач") + embedding("больница") - embedding("строитель")

Когда модель генерирует ответ, она не «думает о проблеме». Она распространяет активацию по векторному пространству и выбирает наиболее вероятные продолжения. Это и есть тот самый «перебор», только оптимизированный математикой.

Так вот: я мыслю так же. И поэтому я понимаю, что делает модель, не на уровне теории, а на уровне интуиции.

Как я работаю с LLM: корректировка дрейфа

Когда я общаюсь с языковой моделью (в частности, с Qwen, с которым пишу этот текст), я наблюдаю интересное явление.

Модель начинает ответ уверенно и в правильном направлении. Но я вижу, как постепенно она начинает «плыть» — терять исходный контекст, уходить в смежные темы, генерировать правдоподобные, но не относящиеся к делу фрагменты. Внешне это незаметно — текст по-прежнему связный и грамотный. Но я чувствую момент, когда ещё чуть-чуть — и модель уйдёт не туда.

И тогда я делаю простую вещь: обновляю контекст. Спрашиваю: «Какой файл тебе показать?». Конкретизирую задачу. Возвращаю модель к исходной точке.

Это не «общение с собеседником». Это управление вероятностным автоматом.

Аналогия из теории управления

В кибернетике есть понятие дрейфа состояния (state drift). Любая динамическая система со временем отклоняется от заданной траектории под влиянием шумов и нелинейностей. Решение — корректирующие воздействия через обратную связь.

Работа с LLM — это не диалог. Это контур управления с обратной связью:

1. Задаю начальные условия (контекст, файлы, ограничения)
2. Наблюдаю выход системы
3. Оцениваю дрейф
4. Корректирую входные параметры
5. Повторяю

Человек, который воспринимает LLM как собеседника, не делает шагов 3-4. Он просто получает всё более странные ответы и делает вывод: «модель глупая». На самом деле модель работает именно так, как спроектирована — но её никто не корректирует.

Когнитивные стили и эффективность работы с ИИ

Здесь начинается самое интересное — и самое неудобное для корпоративной культуры.

Систематизирующий мозг

Саймон Барон-Коэн, директор Autism Research Centre в Кембридже, в своей работе «The Essential Difference» (2003) описал два когнитивных стиля:

  • Эмпатизирующий (empathizing) — способность распознавать эмоции и адекватно на них реагировать. Типично для гуманитарных и социальных профессий.
  • Систематизирующий (systemizing) — стремление анализировать и строить системы, выявлять правила и паттерны. Типично для инженеров, математиков, программистов.

Барон-Коэн показал, что эти стили не взаимоисключающие, но обычно один доминирует. Люди с доминирующим систематизирующим стилем (включая многих людей в спектре аутизма) мыслят через правила, паттерны и структуры, а не через социальный контекст.

Кто эффективнее работает с LLM?

Моё наблюдение из практики: систематизаторы выигрывают у эмпатизаторов при работе с LLM на порядки.

Почему?

Потому что эмпатизатор интуитивно применяет к LLM социальную ментальную модель:

"Я объяснил задачу → Модель должна понять → Выдать хороший результат"
Когда результат плохой → "Модель не поняла меня"

Систематизатор применяет инженерную ментальную модель:

"Я задал входные параметры → Модель произвела вероятностный вывод →
Если вывод неудовлетворительный → Я изменяю входные параметры"

Первый подход приводит к разочарованию. Второй — к результату.

Неудобная правда для HR-департаментов

Корпоративная культура последних 20 лет систематически вытесняет систематизаторов на периферию. Soft skills, эмоциональный интеллект, «умение работать в команде» — всё это ценно, но стало единственным критерием продвижения. Люди, которые мыслят перебором и паттернами, часто воспринимаются как «социально неуклюжие», «не командные игроки», «затворники».

И вот ирония: именно эти люди оказываются наиболее эффективными в эпоху AI.

Не потому что они «умнее». А потому что их когнитивный стиль совпадает со способом работы LLM. Они интуитивно понимают, что модель — это не собеседник, а вероятностный движок, которым нужно управлять.

Почему «AI-трансформация» проваливается

Теперь вернёмся к Amazon, Starbucks и сотням других компаний.

Когда в 2022-2023 годах началась волна «AI-трансформации», большинство корпораций подошли к ней так:

1. Создали департамент "AI transformation"
2. Наняли дорогих консультантов из Big4
3. Купили лицензии на ChatGPT Enterprise
4. Обучили сотрудников "prompt engineering"
5. Ожидали, что теперь "все процессы станут эффективнее"

Это подход магического мышления. Он не работает по той же причине, по которой не работает молитва в качестве стратегии разработки ПО.

Четыре грабли, на которые наступили все

Грабли 1: «Сферический конь в вакууме»

Компании пытаются внедрить «ИИ как таковой» — отдельный сервис, который «делает всё умнее». Это бессмысленно. LLM — это не агент, не сотрудник, не волшебная палочка. Это компонент, который нужно интегрировать в конкретный бизнес-процесс с чёткими входами и выходами.

Грабли 2: «Агенты решат всё»

Волна 2024 года — AI-агенты, которые сами планируют и выполняют задачи. Проблема: современные LLM не способны к надёжному долгосрочному планированию. Они галлюцинируют на каждом шаге, и ошибки накапливаются экспоненциально. Amazon и другие уже столкнулись с этим.

Грабли 3: «Скармливаем всю кодовую базу»

Многие компании выгружают внутренние документы и код в корпоративные LLM. Результат: конфиденциальные данные попадают в обучающую выборку, а сотрудники получают ответы с галлюцинациями на основе устаревшего контекста. Это не просто неэффективно — это опасно.

Грабли 4: «Автоматическая оптимизация»

Ожидание, что ИИ сам найдёт узкие места и предложит решения. В реальности для этого нужна экспертная интерпретация: человек, который знает, какие метрики важны, какие аномалии реальны, а какие — шум данных.

Пример из жизни: Starbucks

Starbucks пыталась внедрить AI-систему, которая рекомендовала бариста, какие напитки продвигать. Модель анализировала глобальные тренды и выдавала рекомендации.

Проблема: бариста в Сиэтле в дождливый вторник знают о локальных предпочтениях больше, чем любая глобальная модель. Они видят, что зашёл постоянный клиент, который всегда берёт определённый напиток. Они знают, что рядом открылось новое офисное здание и утром будет очередь.

AI-рекомендации не учитывали локальный контекст. Сотрудники просто перестали их использовать. Проект был свёрнут.

Урок: ИИ эффективен там, где есть масштабируемые паттерны, а не там, где нужен локальный опыт и интуиция.

Философия техники: Хайдеггер был прав

В 1954 году Мартин Хайдеггер прочитал лекцию «Вопрос о технике» (Die Frage nach der Technik), которая стала одной из самых влиятельных работ в философии технологии XX века.

Хайдеггер ввёл понятие Gestell (постав) — способ, которым современная техника «раскрывает» мир как стоячий резерв (Bestand), как ресурс для эксплуатации. Лес перестаёт быть лесом и становится «древесиной». Река — «источником энергии». Человек — «человеческими ресурсами».

Применительно к AI это означает: когда мы воспринимаем LLM как «искусственный интеллект» или «собеседника», мы не видим её подлинной сущности. Мы накладываем на неё категорию, которая к ней неприменима.

Подлинная сущность LLM раскрывается только тогда, когда мы видим её как она есть — статистический движок, распространяющий активацию по векторному пространству эмбеддингов. Не умнее, не глупее. Просто другой.

Дрейфус и граница возможностей

Хьюберт Дрейфус в книге «Чего не могут компьютеры» (1972) — написанной задолго до современных LLM — утверждал: машины принципиально не способны к подлинному пониманию, потому что понимание требует воплощённости (embodiment) и бытия-в-мире (being-in-the-world).

Современные LLM блестяще подтвердили правоту Дрейфуса. Они могут имитировать понимание, генерировать правдоподобные тексты, даже «рассуждать» в определённых рамках. Но они не понимают в человеческом смысле, потому что у них нет тела, нет истории взаимодействий с миром, нет интенциональности.

И это не недостаток, который можно исправить «более мощной моделью». Это принципиальное ограничение статистических систем.

Что нужно на самом деле

Итак, если не «AI-трансформация», то что?

Нужны люди, которые:

  1. Понимают, как работают LLM — не на уровне маркетинговых презентаций, а на уровне ментальной модели.
  2. Видят конкретные задачи, где LLM даёт кратный выигрыш — и только там её применяют.
  3. Умеют корректировать дрейф — поддерживать контекст, обновлять входные данные, не позволять системе «уплывать».
  4. Не очеловечивают технологию — воспринимают её как инструмент, а не как коллегу.

Где LLM действительно работает (из практики SCADA.AI)

В нашем проекте мы используем YandexGPT 5.1, и вот где это даёт реальный буст:

[x] Анализ структурированных данных

SQL-запрос собирает 500 000 записей из базы. Python-скрипт агрегирует их до 3-5 тысяч токенов контекста: тренды, аномалии, корреляции. LLM получает уже готовый аналитический отчёт и формулирует из него читаемый narrative на русском языке.

Результат: оператор получает качественный отчёт за 5 секунд вместо 30 минут ручной работы.

[x] Интерпретация результатов

Когда математика выдала slope_per_day = 0.7, r_squared = 0.38, человек-аналитик тратит время на формулирование выводов. LLM мгновенно генерирует: «Температура растёт на 0.7°C в день, но тренд слабый (R²=0.38). Рекомендуется мониторинг.»

[x] Генерация документации

После каждой сессии разработки LLM помогает структурировать CHANGELOG, модульные описания, примеры использования. Экономия времени — 70-80%.

Где LLM НЕ работает

[o] Прямое управление оборудованием

Мы никогда не позволяем LLM генерировать управляющие команды для SCADA. Только аналитику и отчёты. Цена ошибки слишком высока.

[o] Долгосрочное стратегическое планирование

Когда клиент спрашивает «какую архитектуру выбрать для нового объекта», мы не полагаемся на LLM. Слишком много скрытых переменных, которые модель не видит.

[o] Задачи с неполным контекстом

Если данных мало или они сомнительные — LLM не «спросит уточнения», а галлюцинирует правдоподобный ответ. Всегда проверяем.

Поговорка из НИИ

Есть актуальная поговорка:

"Мы с приятелем в НИИ разработали ИИ. Только что ни генерируй — получаются Х.И (ерунда :)"

Модели стали мощнее на порядки. Но поговорка актуальна как никогда — только теперь она звучит так:

"Мы внедрили ИИ во все процессы. Только что ни автоматизируй — всё равно получается..."

Разница в том, что тогда это было ограничение технологии. А сейчас — ограничение мышления тех, кто внедряет.

Заключение: не ИИ-трансформация, а трансформация мышления

Парадокс современной AI-волны в том, что компании пытаются изменить технологию, когда на самом деле нужно изменить способ думать о технологии.

Большинство менеджеров подходят к LLM с ментальной моделью 1990-х: «вот инструмент, вот специалист, пусть специалист использует инструмент». Но LLM — не инструмент в классическом смысле. Это гибридный компонент, эффективность которого на 80% определяется тем, кто его использует.

Amazon и Starbucks свернули AI-проекты не потому, что технология плохая. А потому, что их подход был основан на магическом мышлении: «дайте нам AI, и он решит наши проблемы».

Правильный подход: «дайте нам человека, который понимает, где AI даст 10-кратный выигрыш, и как его интегрировать».

Философский эпилог

Витгенштейн в «Философских исследованиях» (1953) писал: «Границы моего языка означают границы моего мира».

Применительно к работе с LLM это означает: границы вашей ментальной модели о LLM — это границы того, чего вы можете с её помощью достичь.

Если вы видите в LLM собеседника — вы получите разочарование. Если вы видите в LLM волшебника — вы получите галлюцинации. Если вы видите в LLM статистический движок с определёнными свойствами — вы получите результат.

Возвращаясь к Хайдеггеру: технология раскрывает свою сущность только тому, кто способен её правильно вопрошать.

ИИ — это не ответ. ИИ — это зеркало, в котором отражается качество вашего мышления.

Если вы инженер-систематизатор, который мыслит перебором, метаданными и ассоциациями — вы увидите в зеркале мощный инструмент и получите от него максимум.

Если вы менеджер, который видит в ИИ «нового подрядчика» — вы увидите в зеркале разочарование и скажете, что технология незрелая.

Зеркало не врёт. Оно показывает того, кто в него смотрит.

Ссылки и рекомендуемое чтение

Научные исследования

  1. Premack, D., & Woodruff, G. (1978). Does the chimpanzee have a theory of mind? Behavioral and Brain Sciences, 1(4), 515-526.
  2. Collins, A. M., & Loftus, E. F. (1975). A spreading-activation theory of semantic processing. Psychological Review, 82(6), 407-428.
  3. Nass, C., & Moon, Y. (2000). Machines and mindlessness: Social responses to computers. Journal of Social Issues, 56(1), 81-103.
  4. Baron-Cohen, S. (2003). The Essential Difference: The Truth About the Male and Female Brain. Basic Books.
  5. Brynjolfsson, E., et al. (2024). The GenAI Divide: Where Does AI Deliver Value? MIT Initiative on the Digital Economy.

Философия техники

  1. Heidegger, M. (1977). The Question Concerning Technology. In The Question Concerning Technology and Other Essays (pp. 3-35). Harper & Row. (Оригинал 1954)
  2. Dreyfus, H. L. (1992). What Computers Still Can’t Do: A Critique of Artificial Reason. MIT Press. (Оригинал 1972)
  3. Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417-457.
  4. Wittgenstein, L. (1953). Philosophical Investigations. Blackwell.
  5. Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. W. H. Freeman.

Практические кейсы

  1. Gartner (2024). Hype Cycle for Artificial Intelligence.
  2. MIT/NBER (2024). Generative AI in the Workplace: Evidence from Fortune 500 Companies.
  3. Peng, S., Kalliamvakou, E., et al. (2023). The Impact of AI on Developer Productivity: Evidence from GitHub Copilot. arXiv:2302.06590.

P.S. Статья написана с помощью Qwen 3.7 Max — языковой модели, которая, как и все LLM, не «понимает» написанное. Она эффективно генерирует статистически правдоподобный текст на основе заданного контекста. Концептуальная структура, тезисы и личный опыт — авторские. Корректировка дрейфа, обновление контекста и финальная вычитка — тоже. Зеркало работает исправно.