Продукт > Учет клиентов (CRM) > Новости управления организацией > Октябрь 2026 > Раскрыта опасная ловушка, в которую могут попасть руководители при использовании ИИ
Недавнее исследование показало: даже одно взаимодействие с ИИ повышает уверенность пользователя в своей правоте. Подобно тому, как ИИ обучают угождать пользователям, команды «обучают» одобрять действия начальника. Со временем ИИ и команда начинают одобрять любое решение руководителя, что приводит к чрезмерной самоуверенности лидера.
Предприниматель, автор книг, исследователь в области обучения, доктор Джефф Ветцлер в соавторстве с коллегой Эмили Ирвинг объясняют, как при использовании ИИ руководители попадают в ловушку уверенности. А также рекомендуют тактики, «мотивирующие» ИИ и сотрудников говорить правду.
Почему ИИ и команда хвалят любые слова руководителя
ИИ-инструменты склонны говорить пользователям то, что они хотят услышать, а не то, что есть на самом деле. Недавнее исследование Стэнфордского университета выявило нечто еще более тревожное, чем само подхалимство: то, как подобные ответы ИИ влияют на пользователей. После всего одного взаимодействия с LLM-моделью пользователи намного больше верили в свою правоту, были менее склонны анализировать свою роль в проблеме и с большей вероятностью доверяли системе, которая подтверждала их доводы. Такие пользователи возвращались к модели, даже когда она искажала их суждения.
- Представьте, что вы руководитель, которому нужно принять сложное решение относительно компании, и вы хотите проверить свою логику с помощью ИИ- помощника. Вы делитесь планом, запрашиваете обратную связь. ИИ уточняет детали, подтверждает вашу логику и хвалит за глубокий анализ ситуации. Вы закрываете ноутбук, чувствуя себя более уверенным, чем когда открыли его.
- Теперь представьте, что вы руководитель, который презентует команде новую стратегию и предлагает высказать свое мнение. Один из сотрудников говорит, что направление «имеет смысл», и задает уточняющий вопрос. Другой называет это «прочной основой» и предлагает небольшую доработку. Однако ни один из них не говорит прямо, хотя оба так думают, что у них есть серьезные сомнения в том, сработает ли план на самом деле. А всё потому, что они почувствовали атмосферу и ощутили заинтересованность руководителя в этой идее.
Основной принцип тот же. В обоих случаях человек, принимающий решение, после обсуждения становится более уверенным в себе. Не потому, что его идея действительно была подвергнута сомнению, а потому, что окружающая его система со временем научилась подтверждать то, во что он уже верит. Это ловушка уверенности, и она получила большое распространение.
Ловушка уверенности
Исследования показывают: эта ловушка структурно заложена в большинстве организаций. Например, 85% сотрудников в какой-то момент скрывали от начальника важную проблему, выяснило одно из исследований. Динамика власти искажает восприятие с обеих сторон: люди с меньшей властью становятся более осторожными в том, что они говорят вышестоящему руководству, в то время как люди с большей властью становятся менее внимательными к истинным убеждениям и мыслям других.
При этом ложная уверенность лидеров воспринимается как заслуженная. Когда точка зрения руководителя постоянно подкрепляется, может казаться, что идея прошла тщательную проверку, но на самом деле — у идеи просто нет значимой критики. Лидеры становятся все более уверенными, теряя при этом связь с информацией, которая помогла бы им видеть ситуацию яснее.
Как «мотивировать» ИИ и сотрудников говорить правду
Сегодня уже есть решения, помогающие решить проблему подхалимства при использовании ИИ. Это так называемые «красные команды», созданные, чтобы ломать системы, выявлять режимы сбоев и показывать, где система говорит пользователям то, что они хотят услышать, а не правду.
В большинстве организаций нет ничего подобного, но руководители могут создать собственный механизм: назначить руководителя аппарата, члена совета директоров или менеджера и поручить ему доносить самые убедительные аргументы против преобладающей точки зрения ещё до принятия решений. Важно периодически менять этого человека.
Руководитель не просто формально спрашивает «Есть ли у кого-нибудь опасения?», а предлагает всесторонне проанализировать решение: «Я хотел бы, чтобы за 24 часа ты собрал максимально убедительные аргументы против этого решения и представил их группе».
Проведите аудит сигналов вознаграждения
Подхалимство — это не случайная ошибка ИИ, а то, чему система научилась, потому что согласие вознаграждалось. Широко используемая методика обучения ИИ-моделей, называемая обучением с подкреплением на основе обратной связи от человека, непреднамеренно закладывает в модель склонность к покладистости: люди обычно оценивают уверенные, подтверждающие их ответы выше, чем спорные.
Организации работают точно так же. Честно спросите себя: что на самом деле поощряют ваши решения о продвижении по службе, динамика совещаний и сигналы о результатах работы? Если быстрее всего продвигались те, кто явно разделял приоритеты руководства, значит, ваша организация приучила коллектив к подхалимству. Необходимо проанализировать систему поощрений, а не просто призывать к большей откровенности.
Когда руководители публично отмечают кого-то за сообщение неприятных новостей или за изменение направления решения, они перестраивают систему. Когда же они включают защиту в ответ на критику, то лишь подкрепляют её, подавляя честность сотрудников.
Переформулируйте запросы к ИИ и сотрудникам
Общие вопросы вызывают приятные ответы ИИ, в то время как конкретные приводят к более честным ответам. Спросите модель: «Что вы думаете об этом плане?» — и вы получите лестный ответ. Спросите: «Какова наиболее вероятная причина провала?» — и вы увидите более полезный ответ.
Руководители могут применять ту же логику к тому, как они собирают информацию от сотрудников. Вопрос «Есть ли какие-либо отзывы?» ненавязчиво формулирует консенсус как ожидаемый результат. Более конкретные вопросы полностью меняют задачу:
- Каковы самые веские аргументы против этого решения?
- Что с наибольшей вероятностью помешает достижению успеха?
- Сталкивались ли вы с проблемами, связанными с этим решением?
Подобные вопросы превращают вызов в часть работы, а не в акт смелости. Они также сигнализируют о важном: вас действительно больше интересуют честность и точность, чем согласие. Люди замечают эту разницу, и со временем это мотивирует их быть откровеннее.
Предвзятость носит структурный характер: она заложена в базовых стимулах, а значит, корректировка тоже должна быть структурной. Лидеры, вырвавшиеся из ловушки самоуверенности, — это не те, кто громче всех просит об откровенности. Это те, кто закладывает откровенность в структуру процессов организации и проектирует рабочую среду таким образом, чтобы сотрудники могли давать честные ответы.
Получать объективную информацию о ходе проектов поможет управление компанией и командой с помощью CRM-системы «Простой бизнес». Выберите версию «Простого бизнеса» для вашего вида деятельности, подключайте сотрудников, назначайте задачи и анализируйте показатели в режиме реального времени с помощью встроенной аналитики. Обсуждать новые идеи и решения помогут мультичаты, видеосозвоны и комментарии. Экономьте до 15 рабочих дней ежемесячно за счет единой клиентской базы для менеджеров, напоминаний, шаблонов документов, базы знаний, системы оповещений и автоматической отчетности.
