Интеллектуальная поддержка управленческих решений при выявлении эмоциональных атак социальной инженерии

Введение

Современная цифровая среда существенно расширила возможности воздействия на человека через информационные каналы коммуникации. В организациях значительная часть управленческих процессов связана с обработкой электронных сообщений, служебной переписки, телефонных обращений, уведомлений и иных коммуникационных сигналов, которые могут использоваться не только в рабочих целях, но и как средство социально‑инженерного воздействия. Одним из наиболее значимых механизмов такого воздействия выступает эмоциональная атака, задача которой состоит в выводе человека из состояния эмоционального равновесия, ослаблении рационального восприятия информации и создании условий для принятия выгодных злоумышленнику решений.

Несмотря на развитие организационных и технических мер защиты, социально‑инженерные инциденты продолжают оставаться одной из наиболее сложных угроз для современной системы управления. Это объясняется тем, что злоумышленник воздействует не только на рациональную сферу восприятия, но и на эмоциональное состояние человека, формируя у него чувство срочности, страха, доверия, выгоды, вины либо ложной общности. В таких условиях сотрудник и сам руководитель может принять решение, не соответствующее интересам организации.

Вместе с тем в современных организациях выявление эмоционально‑манипулятивных воздействий уже не может осуществляться исключительно за счет индивидуального опыта, внимательности или интуиции сотрудников. Рост объема цифровых коммуникаций, высокая скорость распространения сообщений и сложность распознавания скрытых форм давления требуют внедрения интеллектуальных инструментов анализа, способных автоматически выявлять признаки эмоциональной атаки и предоставлять руководителю аналитически обоснованные рекомендации.

В этой связи эмоциональная атака представляет интерес не только как психологический и коммуникативный феномен, но и как объект формализации для систем искусственного интеллекта (ИИ). Исходя из этого, различные виды эмоционального воздействия могут быть интерпретированы как набор наблюдаемых лингвистических, поведенческих и контекстных признаков, на основе которых возможно построение интеллектуальной системы поддержки принятия управленческих решений.

Гипотеза исследования состоит в том, что эмоциональные атаки социальной инженерии в цифровой коммуникационной среде обладают совокупностью формализуемых признаков, выявление которых средствами искусственного интеллекта позволяет повысить обоснованность, оперативность и адресность управленческих решений по реагированию на потенциально опасные коммуникации. Целью исследования является разработка концептуальной модели интеллектуальной поддержки управленческих решений при выявлении эмоциональных атак социальной инженерии в цифровой коммуникационной среде организации. Объектом исследования выступают цифровые коммуникации, в рамках которых реализуются эмоционально-манипулятивные воздействия. Предметом исследования являются методы интеллектуального анализа признаков эмоциональной атаки и возможности их использования в контуре поддержки управленческих решений.

Методологическую основу исследования составили анализ, систематизация, обобщение и концептуальное моделирование. В работе использованы положения научных исследований, посвященных социальной инженерии, психологии манипулятивного воздействия, когнитивным аспектам принятия решений, а также современным подходам к построению интеллектуальных систем поддержки управленческой деятельности. В качестве основного исследовательского инструмента применено концептуальное моделирование, позволившее перейти от описания эмоциональной атаки как психологического и коммуникативного феномена к построению схемы ее формализованного распознавания и управленческой интерпретации.

Теоретические основания и обзор литературы

Социальная инженерия в современной науке рассматривается как способ манипулятивного воздействия на человека с целью получения информации либо побуждения его к действиям, выгодным инициатору воздействия [12; 13] (Khednagi, 2020; Khednagi, 2023). В отличие от технических атак, социальная инженерия опирается на особенности человеческого поведения, когнитивные и эмоциональные реакции, а также на готовность индивида доверять авторитету, реагировать на угрозу, дефицит времени или обещание выгоды.

Существенное значение для понимания механизмов социально-инженерного воздействия имеют исследования, раскрывающие взаимосвязь между эмоциональным состоянием человека и качеством принимаемых решений. Работы Д. Канемана показывают, что в условиях когнитивной перегрузки, неопределенности и эмоционального давления возрастает вероятность искажений суждения и принятия нерациональных решений [21] (Kahneman et al., 2021). А. Дамазио подчеркивает значимость эмоционального компонента в процессах выбора и оценки альтернатив [18] (Damasio, 2010). Эксперименты С. Милгрэма демонстрируют, что влияние авторитета способно существенно снижать самостоятельность критической оценки ситуации [22] (Milgram, 1963). Труды отечественных ученых по методологии манипулирования сознанием как средства управления в условиях информационного взаимодействия также нашли отражение в нашей работе [1; 3; 4] (Delyagin, 2023; Kara-Murza, 2001; Lapkin et al., 2013). В совокупности эти положения позволяют рассматривать эмоциональную атаку как механизм, направленный на создание такого психоэмоционального состояния адресата, при котором нарушается сбалансированность рационального и эмоционального компонентов принятия решения [15] (Cherkezov, 2024).

В исследованиях по социальной инженерии особое внимание уделяется таким приемам, как апелляция к срочности, авторитету, доверию, выгоде, страху и социальной общности [12; 13; 14] (Khednagi, 2020; Khednagi, 2023; Chaldini, 2010). Для цифровой коммуникационной среды принципиально важно, что указанные приемы проявляются не только в психологической реакции человека, но и через внешне наблюдаемые признаки: речевые шаблоны, коммуникативные паттерны, нетипичную активность, давление на регламент, использование определенных сюжетов и ролей. Также значимость для нашего исследования представляют работы, рассматривающие вопросы когнитивного моделирования и деструктивного воздействия на сознание с использованием информационных технологий [8; 10] (Palyutina et al., 2025; Serpeninov et al., 2024), а также актуализирующие необходимость обеспечения информационной безопасности процессов управления [11; 17] (Tishchenko et al., 2024; Chizhevskiy et al., 2025).

Параллельно в научной литературе развивается направление, связанное с использованием искусственного интеллекта в системах поддержки принятия решений. Современные исследования показывают, что ИИ наиболее эффективен не в режиме вытеснения управленца, а в режиме усиления его аналитических возможностей за счет обработки больших массивов данных, выявления закономерностей, классификации рисков и предварительной интерпретации слабоструктурированной информации [19; 20; 24] (Gupta et al., 2021; Jarrahi, 2018; Storey et al., 2024). Особое значение при этом приобретают объяснимость рекомендаций, учет контекста и сохранение за человеком права окончательного выбора [23] (Sadeghi et al., 2024).

Отечественные исследования также подтверждают высокий потенциал интеллектуальных систем в задачах корпоративного и стратегического управления [2; 6] (Zub et al., 2022; Nezamaykin et al., 2025), анализа рисков и повышения качества управленческих решений [5; 7; 9] (Mikhnenko, 2025; Nikulin et al., 2020; Savin et al., 2024). Однако применение искусственного интеллекта именно для выявления эмоционально-манипулятивных воздействий в цифровой коммуникационной среде и поддержки решений руководителя в условиях социально-инженерных угроз пока не получило достаточной концептуальной проработки. Это позволяет рассматривать данное направление как актуальную область теоретического и прикладного исследования.

Материалы и методы исследования

Исследование носит теоретико-прикладной характер и основано на методе концептуального моделирования. Логика исследования включала несколько последовательных этапов.

На первом этапе был проведен анализ научных публикаций, посвященных социальной инженерии, эмоциональному воздействию, когнитивным особенностям принятия решений и применению искусственного интеллекта в управленческой деятельности. Это позволило определить ключевые механизмы эмоционального манипулирования и выявить признаки, потенциально пригодные для формализации. На втором этапе осуществлялась типологизация эмоциональных атак по доминирующему характеру воздействия на адресата. В основу группировки был положен принцип эмоциональной направленности: формирование преимущественно позитивного либо преимущественно негативного эмоционального состояния, снижающего критичность восприятия и повышающего вероятность управленческой ошибки. На третьем этапе были выделены группы формализуемых признаков эмоциональной атаки. Для целей интеллектуального анализа они были разделены на лингвистические, эмоциональные, поведенческие и контекстные индикаторы. Такое деление позволяет учитывать не только содержание сообщения, но и его интонационную, коммуникативную и организационную специфику. На четвертом этапе была построена концептуальная модель интеллектуальной системы, включающей сбор данных, извлечение признаков, оценку риска, интерпретацию результатов и формирование рекомендаций руководителю или ответственному специалисту. На пятом этапе определялись уровни управленческого применения результатов интеллектуального анализа: оперативный, тактический и стратегический.

Используемый методологический подход позволяет перейти от описания эмоциональной атаки как психологического феномена к ее рассмотрению как объекта машинной интерпретации в аспекте управленческих решений.

Результаты исследования

В рамках исследования эмоциональная атака рассматривается как целенаправленное воздействие на адресата, ориентированное на изменение его эмоционального состояния с целью снижения критичности восприятия информации и побуждения к требуемому действию [16] (Cherkezov et al., 2025). Для построения концептуальной модели поддержки решений предложена типология эмоциональных атак, исходя из их целевой направленности на формирование положительного или негативного эмоционального состояния. К эмоциональным атакам положительного типа могут быть отнесены доверительность, очарование, общность и добродушие.

Доверительность – представляет собой базовую форму эмоционального сближения, при которой манипулятор стремится сформировать у адресата ощущение безопасности, искренности и надежности источника. Для интеллектуального анализа признаками такого воздействия могут выступать повышенная частота позитивных обращений, акцент на доверии, использование вежливых персонализированных формул и подчеркнутое признание экспертности адресата.

Очарование – ориентировано на быстрое создание эмоционально позитивной привязанности к источнику сообщения. В цифровой коммуникации выражается через комплиментарные конструкции, эмоционально позитивную оценочную лексику и усиленную персонализацию обращения. Для ИИ‑системы данные признаки представляют интерес как индикаторы попытки ускоренного формирования эмоциональной привязанности или благожелательности.

Общность – строится на демонстрации совпадения интересов, ценностей, профессиональной принадлежности или круга общения. Манипулятор создает иллюзию принадлежности к «своим», что ослабляет настороженность и повышает готовность к кооперации. Для машинного анализа значимыми признаками выступают повторяющиеся указания на совпадение ценностей, принадлежность к одной группе, общих знакомых или профессиональную солидарность.

Добродушие – выражается в подчеркнуто уважительном обращении к компетенции адресата, эффективна в отношении сотрудников, для которых значима роль эксперта или носителя уникального знания. Для интеллектуального анализа важны речевые шаблоны запроса совета, показательного уважения, выражения благодарности и согласия.

К эмоциональным атакам негативного типа относятся перспектива выгоды, дефицит времени, обвинение и критицизм.

Перспектива выгоды – основана на провоцировании эмоционального подъема, ожидания быстрого результата, подарка, выигрыша, карьерного преимущества или иной ценности при минимальных усилиях. Такая атака стимулирует импульсивное действие до включения механизмов проверки информации. В качестве признаков могут выступать формулировки внезапной выгоды, ограниченного предложения и эмоционально завышенной привлекательности результата.

Дефицит времени – эмоциональная атака, ориентированная на состояние нервозности из-за необходимости срочно принять ответственное решение или совершить важное действие. Для этого вида атаки характерны маркеры срочности, немедленности, ограниченного времени, угрозы негативных последствий за промедление, а также имитация процедурной обязательности.

Обвинение – объект атаки вводится в состояние оправдывающегося, при этом обвинение может быть, как объективным, так и надуманным. Признаками этого сценария являются обвинительная риторика, фиксация ответственности, навязывание необходимости немедленно объясниться. Для системы искусственного интеллекта данный тип эмоциональной атаки представляет интерес как индикатор давления, направленного на обход нормальных процедур согласования и проверки.

Критицизм – направлен на снижение уверенности адресата в собственных компетенциях, суждениях и действиях. В цифровой коммуникации это может выражаться через повторяющиеся негативные характеристики, сомнение в профессионализме, давление со стороны мнимого авторитета, а также уничижительные формулировки. Подобные признаки могут быть выявлены системой как факторы риска, особенно если они сочетаются с последующим предложением срочно совершить определенные действия.

Предлагаемая типология важна не только как средство систематизации. Она задает основу для перехода к формализации признаков эмоционального воздействия и последующего использования этих признаков в системе поддержки решений. С целью интеллектуального анализа эмоциональные атаки целесообразно описывать через совокупность наблюдаемых индикаторов, классифицировать которые можно по четырем группам: лингвистические, эмоциональные, поведенческие и контекстные.

Лингвистические индикаторы включают речевые шаблоны срочности, давления, обвинения, обещания выгоды, навязывания доверия, комплиментарности, избыточной персонализации и призывов к немедленному действию. Именно эта группа признаков наиболее непосредственно доступна для методов обработки естественного языка.

Эмоциональные индикаторы отражают тональность сообщения, уровень эмоциональной интенсивности, наличие страха, угрозы, вины, восхищения, эйфории, гиперболизированной поддержки или резких перепадов эмоциональной окраски. Выявление таких признаков может опираться на методы анализа тональности, эмоциональной категоризации текста и семантического сопоставления.

Поведенческие индикаторы связаны с особенностями коммуникативного поведения источника: частотой повторных обращений, нетипичным временем отправки сообщений, сменой привычного стиля общения, попытками обойти устоявшиеся маршруты согласования, несвойственной активностью либо навязчивой повторяемостью требований.

Контекстные индикаторы учитывают организационные условия коммуникации: роль сотрудника, уровень доступа к информации, соответствие запроса полномочиям, тип канала связи, привязку сообщения к текущим событиям организации и его соответствие регламентам. Именно контекст позволяет отличить действительно опасное воздействие от эмоционально окрашенного, но легитимного служебного взаимодействия.

Таким образом, эмоциональная атака в цифровой среде может быть представлена как многомерная модель признаков, в которой каждый отдельный индикатор не обязательно является достаточным основанием для вывода о манипуляции, однако их совокупность позволяет оценивать вероятность социально-инженерного воздействия (табл. 1).

Таблица 1 Типы эмоциональных атак, их индикаторы и рекомендуемая управленческая реакция

На основе формализованных признаков эмоциональных атак, описанных выше, мы можем представить концептуальную модель интеллектуальной поддержки управленческих решений, ориентированную на их выявление, которая включает пять взаимосвязанных функциональных контуров (рис. 1).

Рисунок 1. Концептуальная модель интеллектуальной поддержки управленческих решений

На первом этапе осуществляется сбор входных данных. В систему поступают тексты электронных писем, сообщения корпоративных мессенджеров, транскрибированные телефонные переговоры, служебные уведомления, а также метаданные коммуникации: время отправки, сведения об адресанте и адресате, частота контактов, признаки нетипичной активности и сведения о канале передачи сообщения.

На втором этапе реализуется интеллектуальная предобработка данных. Она включает нормализацию текста, выделение ключевых сущностей, определение коммуникативного контекста, анализ эмоциональной окраски и извлечение риторических паттернов, характерных для эмоциональных атак.

На третьем этапе выполняется оценка риска. Система сопоставляет обнаруженные признаки с типовыми сценариями эмоционально-манипулятивного воздействия и рассчитывает интегральную вероятность того, что конкретная коммуникация представляет собой элемент социальной инженерии. В рамках концептуальной модели такой расчет может быть основан как на правило-ориентированном подходе, так и на моделях машинного обучения, обученных на размеченных примерах коммуникаций.

На четвертом этапе формируется рекомендательная поддержка управленческого решения. Руководителю или иному ответственному лицу предоставляется не только факт подозрительности сообщения, но и интерпретируемый аналитический вывод: предполагаемый тип эмоциональной атаки, ключевые выявленные признаки, уровень риска, степень срочности реагирования и рекомендуемый сценарий действий.

На пятом этапе реализуется контур обратной связи. Результаты анализа, подтвержденные либо отклоненные экспертами, используются для уточнения признаков, корректировки правил распознавания, накопления корпоративной базы инцидентов и адаптации модели к специфике конкретной организации.

Принципиально важным является то, что в данной модели искусственный интеллект не подменяет субъекта управления, а обеспечивает предварительную аналитическую фильтрацию, классификацию и интерпретацию риска. Окончательное решение остается за человеком, что соответствует современным подходам к человеко-ориентированным системам поддержки решений.

Управленческая ценность данной модели проявляется в том, что результаты интеллектуального анализа могут быть встроены в процедуры реагирования на нескольких уровнях. Так, на оперативном уровне система позволяет своевременно выявлять подозрительные коммуникации, требующие дополнительной проверки, ограничения доступа, блокировки действия или немедленной эскалации инцидента в профильные подразделения. На тактическом уровне результаты анализа дают возможность выявлять наиболее частые сценарии эмоциональных атак, уязвимые категории сотрудников, типовые каналы распространения манипулятивных воздействий и повторяющиеся организационные слабости. Это создает основу для корректировки регламентов, адресного обучения персонала и уточнения профилактических мер. На стратегическом уровне накапливаемые системой данные могут использоваться при совершенствовании корпоративной политики информационной безопасности, планировании защитной инфраструктуры, перераспределении контрольных процедур и развитии механизмов цифровой устойчивости организации. Следовательно, система поддержки решений в рассматриваемой модели выполняет не только функцию выявления потенциально опасных сообщений, но и функцию повышения зрелости организационного управления рисками социальной инженерии.

Предложенная концептуальная модель обладает рядом преимуществ. Во-первых, она позволяет связать психологическую природу эмоциональной атаки с формализуемыми признаками, пригодными для машинного анализа. Во-вторых, модель ориентирована не только на классификацию сообщения как подозрительного, но и на поддержку выбора управленческого действия, что делает ее значимой для практики организационного управления. В-третьих, включение контекстных и поведенческих индикаторов снижает зависимость от сугубо лингвистического анализа и позволяет учитывать специфику конкретной корпоративной среды.

Вместе с тем модель имеет ограничения. Эмоционально окрашенная коммуникация не всегда является манипулятивной; часть легитимных служебных сообщений может содержать признаки срочности, эмоциональной напряженности или апелляции к доверию. Следовательно, система может демонстрировать ложноположительные срабатывания. Кроме того, значительное влияние на точность интерпретации оказывает качество исходных данных, полнота контекста и возможность сопоставления текущего сообщения с типовым профилем взаимодействия. Важным условием практического применения также является соблюдение правовых и этических требований, связанных с мониторингом цифровых коммуникаций, обработкой персональных данных и прозрачностью оснований для управленческого реагирования.

Именно поэтому наиболее перспективным представляется не автономное принятие решений системой, а гибридная модель, в которой искусственный интеллект выполняет функцию интеллектуального ассистирования, а окончательная оценка и выбор меры реагирования остаются за человеком.

Заключение

В результате проведенного исследования разработана концептуальная модель интеллектуальной поддержки управленческих решений при выявлении эмоциональных атак социальной инженерии в цифровой коммуникационной среде организации. Установлено, что эмоциональная атака выступает не частным сопутствующим элементом социальной инженерии, а одним из ее базовых механизмов, обеспечивающих снижение критичности восприятия информации и повышение вероятности ошибочного действия со стороны адресата. Это позволяет рассматривать эмоциональное воздействие не только как психологический феномен, но и как значимый объект анализа в задачах организационной и информационной безопасности.

В ходе исследования предложена типология эмоциональных атак, включающая доверительность, очарование, общность, добродушие, перспективу выгоды, дефицит времени, обвинение и критицизм. Показано, что указанные типы воздействий могут быть интерпретированы через совокупность наблюдаемых признаков, пригодных для интеллектуального анализа в корпоративной цифровой коммуникации. Научный результат работы состоит в систематизации формализуемых индикаторов эмоциональной атаки по четырем группам: лингвистическим, эмоциональным, поведенческим и контекстным. Такое представление позволяет перейти от описательного анализа эмоционального воздействия к построению схемы его алгоритмической интерпретации и оценке риска потенциально опасной коммуникации.

Разработанная концептуальная модель интеллектуальной поддержки решений включает сбор и предобработку данных цифровой коммуникации, извлечение признаков эмоционального воздействия, оценку вероятности социально-инженерной атаки, интерпретацию результатов и формирование рекомендаций по реагированию. В отличие от подходов, ограничивающихся выявлением подозрительных сообщений, предложенная модель ориентирована на включение результатов интеллектуального анализа в контур управленческого реагирования на оперативном, тактическом и стратегическом уровнях.