Разработка методики исследования влияния искусственного интеллекта на проявление мягких навыков

Тарханова Е.Г.1, Арбатская Е.А.1
1 Байкальский государственный университет, Иркутск, Россия

Статья в журнале

Лидерство и менеджмент (РИНЦ, ВАК)
опубликовать статью | оформить подписку

Том 12, Номер 8 (Август 2025)

Цитировать эту статью:

Эта статья проиндексирована РИНЦ, см. https://elibrary.ru/item.asp?id=83174800

Аннотация:
Исследование посвящено оценке влияния использования искусственного интеллекта (нейросети) на проявление мягких навыков у пользователей. В качестве оцениваемых мягких навыков авторы выбрали критическое мышление, креативность и обучаемость. Во-первых, в современных условиях выбранные мягкие навыки входят в число самых актуальных и востребованных работодателями по результатам ряда исследований. Во-вторых, они имеют относительно более разработанную теоретико-методическую базу для исследования и оценки проявления. В данной работе представлены предварительные результаты пилотного этапа исследования, связанные с разработкой методики оценки влияния искусственного интеллекта на проявление мягких навыков. Методика основывается на выполнении заданий сценарного типа. Полученные результаты использования разработанной методики на примере критического мышления предварительно подтверждают гипотезу исследования об отрицательном влиянии использования нейросетей на его проявление. При этом требуется дополнительная оценка влияния использования искусственного интеллекта на креативность и обучаемость с учетом доработки методики и повышения уровня автоматизации оценки ответов испытуемых

Ключевые слова: искусственный интеллект, нейросеть, критическое мышление, креативность, обучаемость, мягкие навыки

JEL-классификация: O31, O32, O33



Введение

Сегодня четвертая промышленная революция открывает все новые и новые горизонты использования искусственного интеллекта (далее – ИИ, или нейросеть) во всевозможных сферах жизнедеятельности человека. Человек незаметно для себя становится частью новой реальности. Причем влияние ИИ оказывает не только на социально-экономические процессы, но и на самого человека, на формирование, развитие и проявление его навыков.

По оценкам международного научного коллектива, состоящего из 96 экспертов в сфере ИИ, возможности последнего решать задачи на уровне выпускника высшего учебного заведения увеличились с 25% в 2023 г. примерно до 90% к 2025 г. Рост его возможностей в сфере продвинутой математики за указанный период составил около 25% [23]. Другие исследования свидетельствуют о положительных эффектах в части повышения производительности труда при использовании ИИ. Например, при использовании ИИ зафиксировано снижение времени программирования на 19,5% [25], а в работе [15] указывается на рост производительности при реализации задач мерчендайзинга в организации.

Несмотря на выдающиеся результаты, есть и проблемы. В ряде научных и исследовательских отчетов они названы рисками, связанными с использованием ИИ [23]. К таковым относят социально-демографические риски (связаны с масштабным влиянием ИИ на рынок труда и дискриминацией: в частности, потеря рабочих мест и структурная трансформация занятости); социально-экономические и политические (мошенничество, хакерские и биологические атаки); а также когнитивные риски.

Последняя группа рисков связана со снижением познавательных способностей и способностей решать проблемы, а также задержкой уровня интеллектуального развития. Эти риски определяются состоянием, которое психологи называют «ленивым мозгом». Активное использование нейросетей снижает активность мыслительных процессов, что сказывается на уровне критического мышления и креативности, поскольку мозг отвыкает от напряженной интеллектуальной работы. Ситуация выглядит еще более угрожающей и пугающей, поскольку некоторые исследования говорят нам о вероятном снижении общего уровня IQ к 2100 г. на 15%, а также скорости реакции рефлексов на 30% [1].

Здесь, очевидно, прослеживается влияние ИИ на мягкие навыки. Если не тренируется любой навык (критическое мышление, креативность или, например, навык программирования), то он ослабевает и постепенно теряется. Логично предположить, что и состояние «ленивого мозга» может усугубляться вследствие использования нейросетей. По мнению Л. Домингеса [22], для преодоления этой проблемы нужно прибегать к тренировке указанных навыков (критическое мышление, креативность) через решение иных задач, оставляя на откуп нейросетям рутину. Вопрос состоит лишь в том, будет ли среднестатистический человек этим заниматься при известной склонности мозга к экономии энергетических затрат и минимизации усилий.

Эта идея косвенно подтверждается результатами других исследований. Так, пользователи нейросетей оцениваются менее усердными (на 18-25%) и менее компетентными (на 15%) по сравнению с теми, кто их не использует. Последним же работникам сложнее найти замену по сравнению с работниками, использующими ИИ [26]. Кроме того, 11% руководителей считают применение нейросетей признаком профессиональной деградации [10].

Действительно ли использование нейросетей приводит к существенному снижению уровня проявления мягких навыков при выполнении задач, что, как следствие, в перспективе приведет к деградации соответствующих навыков (в частности, критического мышления и креативности)? Этот вопрос стал основной проблемной областью данного исследования.

В рамках данного исследования изначально были отобраны три мягких навыка: критическое мышление, креативность и обучаемость. Выбор в качестве объекта исследования таких мягких навыков, как критическое мышление и креативность, обусловлен их практической важностью в эпоху активного развития нейросетей. Данные исследований Высшей школы экономики [12], говорят о том, что сейчас при относительной важности личностных навыков на сервисах по поиску вакансий критическое мышление и креативность занимают вторую и третью строчки в международном рейтинге популярности мягких навыков среди работодателей. В российском рейтинге в десятку самых популярных мягких навыков креативность не входит, зато в него попали критическое мышление и обучаемость. Последняя занимает первую позицию рейтинга. В этой связи в проблемную область исследования был включен навык обучаемости.

Основной гипотезой, которая проверялась в ходе исследования стало положение о том, что применение искусственного интеллекта негативно влияет на проявление мягких навыков (критического мышления, креативности и обучаемости).

В данной статье представлены результаты пилотного этапа исследования. Его целью является разработка и апробация методики исследования влияния искусственного интеллекта на проявление мягких навыков. При разработке методики решались следующие задачи:

1) подбор психологических тестов для оценки входящих эндогенных факторов, связанных с личностными качествами испытуемых;

2) разработка заданий сценарного типа для оценки проявления мягких навыков и их клонирование;

3) встраивание в формат электронной системы Moodle разработанных заданий сценарного типа с соответствующими инструкциями, структурой и последовательностью выполнения заданий;

4) разработка предварительных критериев оценки сформированных заданий;

5) формирование выборки для проведения исследования, деление на группы и информирование испытуемых о целях и задачах исследования, а также порядке использования собранной информации исключительно в исследовательских целях и в обобщенном виде;

6) прохождение испытуемыми психологических тестов для оценки входящих эндогенных факторов, связанных с личностными качествами испытуемых и сбор данных;

7) обсуждение с испытуемыми результатов тестов и оценка их достоверности;

8) выполнение заданий испытуемыми, обсуждение инструкций с ними с последующим внесением изменений в инструкции и структуру заданий;

9) внесение изменений в критерии оценки путем соотнесения их с фактическими действиями испытуемых;

10) предварительная оценка результатов с выявлением узких мест исследования.

Основная часть

Основную литературу, рассмотренную при разработке программы исследования, можно разделить на четыре группы: работы, рассматривающие специфику методик оценки мягких навыков; статьи, посвященные оценке навыков критического мышления; исследования, связанные с исследованием креативности, а также обучаемости.

Так, Угланова И.Л. и соавторы рассматривают концепцию Evidence-Centered Design (далее – ECD) в контексте оценки критического мышления и креативности, в частности, используя в качестве компонента критического мышления анализ [19]. Садова А. Р. и соавторы рассматривают применение концепции ECD для оценки навыков критического мышления взрослых, создавая методику, в которой последовательно оцениваются действия, связанные с критическим мышлением в соответствии с логической последовательностью реализации указанного навыка. При этом для оценки валидности используются опросник по определению склонности к конспирологическому мышлению и шкала негативных жизненных событий [13]. Грачева Д. А., Тарасова К. В. подробно рассматриваются возможные варианты разработки и клонирования заданий сценарного типа, используемых при оценке мягких навыков [7, 8]. Такие задания реализуются в методике ECD.

Используются и другие подходы к оценке мягких навыков. В частности, Васильева Е.Н. и др. предлагают использовать методики психологических тестирований для определения уровня развития коммуникативных навыков [5]. Исаева О. М. и Савинова С. Ю. попытались оценить надпрофессиональные компетенции с помощью методов психодиагностики и графологии. Хотя последние не показали надежных и валидных результатов [9].

При оценке критического мышления учитываются следующие специфические моменты. В работе Вихмана А.А. критическое мышление предлагается оценивать с помощью психологического теста, который основан на выделении вопросов по группам когнитивных навыков (анализ и критика, оценка противоречий и проч.) и вариантами ответа, которые указывают на разные направления ошибок (неполное количество или качество, а также несоответствие вопроса и ответа) [6]. В еще одном исследовании [21] приводятся аргументы использования профессиональных тестов из определенной предметной области для оценки критического мышления. В статье [3] выявляется связь критического мышления и академических оценок.

Сложным является исследование креативности ввиду ограниченной возможности алгоритмизировать творческий процесс. Рассмотрим несколько работ на эту тему. Авдеенко Н. А. и др. описывают опыт применения методики PISA при оценке креативного мышления учащихся, выделяя задания на самовыражение и решение проблем с использованием с заранее определенных критериев, зависящих от содержания заданий [2]. Панфилова А.С. и др. для определения уровня креативности предлагают использовать тест Урбана, основанного на оценке рисунков респондентов по 14 критериям, с интерпретацией результатов на основе дообученной модели искусственного интеллекта [24].

Е.А. Валуева и соавторы в своей работе [4] рассматривают возможности автоматической оценки текстов на креативность, приводя ряд платформенных решений. Авторы, выделяя критерии креативности (беглость, оригинальность и гибкость) указывают на то, что автоматические методы оценки в основном ориентируются на оценку удаленности как аспекта оригинальности через анализ семантических расстояний. Методы, основанные на анализе семантических расстояний, дают понятные с точки зрения процедуры проведения результаты, хотя имеют меньшую схожесть с результатами экспертной оценки связь по сравнению с моделями, основанными на дообученных контекстно-независимых больших языковых моделях искусственного интеллекта. Результаты последних очень хорошо согласуются с экспертными мнениями, но исследователям до конца не ясно, на чем основывается ИИ при оценке оригинальности больших текстов.

В работе С.В. Тарасова [16] рассматриваются возможности проведения тестов на оценку креативности в цифровой среде, которая дает дополнительные возможности рассмотрения процесса выполнения заданий (создание изображения) с позиций действий, которые выполняют испытуемые. Эти действия отражают значимые в рамках указанного исследования конструкты креативности: оригинальность и детальность. Варианты реализации действий при выполнении задания должны отражать уровень креативности.

Последним рассмотрим навык обучаемости. В работе [20] представлено описание ее критериев. Их рассмотрение дает возможность сделать вывод о том, что описанные выше навыки критического мышления и креативности значительно перекликаются по своим компонентам с компонентами обучаемости. Это значительно усложняет применение методики ECD в части использования данного навыка, так как в ней требуется использование компонентов, реализация которых не обусловлена влиянием других навыков. Одним из возможных компонентов, указанных в статье и не зависящих от креативности и критического мышления, является алгоритмизация или следование инструкции. Последние рассматриваются в противовес компонентам креативности в работе [17]. В ней представлена позиция о том, что алгоритмизация мышления в последнее время связана с существующей моделью образования и оценкой знаний в средней школе, что в последующем отражается на среднепрофессиональном и высшем образовании, а также качестве рабочей силы.

По итогам обзора литературы можно сказать, что обоснованными являются применение методики ECD при оценке мягких навыков, оценка критического мышления в предметном, а не общем аспекте, применение традиционных критериев креативности (беглости, оригинальности, разработанности), предложенных еще Е. Торренсом (описание методики в [18]) в деятельностном проявлении. Навык обучаемости во многом обусловлен креативностью и критическим мышлением, но также имеет достаточно независимый компонент, связанный со следованием инструкции. Указанные моменты нашли отражение в методике исследования.

Для определения влияния ИИ на проявление мягких навыков (критического мышления, креативности и обучаемости) в данном исследовании нужно было понять, какими методами выявлять входящие личностные качества (чтобы отделить влияние личностных качеств от влияния ИИ); какие задания разрабатывать для оценки проявления указанных навыков; какие использовать критерии для оценки данных заданий; как организовать проведение тестирования испытуемых и оценку результатов.

В качестве испытуемых в пилотном исследовании, проведенном для апробации разработанной методики, выступили студенты первого курса различных программ бакалавриата Байкальского государственного университета. Данное исследование при использовании методов опроса и эксперимента проходило в пять этапов с февраля по май 2025 г. при делении испытуемых на тех, кто использует и не использует ИИ для выполнения сценарных заданий. Выборка для исследования была сформирована в два этапа. На первом этапе собирались ответы у доступных испытуемых (табл. 1) – это 246 человек при реализации сценарного задания 1. При отборе испытуемых в выборку уточнялись их результаты по ЕГЭ. В итоге отражает структуру генеральной совокупности, всех выпускников, сдавшим ЕГЭ в России в 2024 г. [14], по их долям с низкими баллами (до 39), средними (от 40 до 79) и высокими (более 80) по трем предметам (русский язык, профильная математика, обществознание) с отклонением в пределах 10%, что говорит о ее репрезентативности в рамках указанных учебных дисциплин.

Таблица 1

Распределение испытуемых по этапам исследования

Этап исследования
Модератор 1
(рандомное распределение)
Модератор 2
(добровольный выбор)
Всего
без ИИ
С ИИ
Итого
без ИИ
с ИИ
Итого
Тест «Большая пятерка»
х
х
161
х
х
139
300
Тесты на аналитическое мышление и воображение
х
х
146
х
х
87
233
Сценарное задание 1
63
60
123
46
77
123
246
Сценарное задание 2
80
78
158
49
84
133
304
Сценарное задание 3
74
85
159
40
65
105
264
Источник: составлено авторами на основании результатов исследования.

На втором этапе была сформирована квотная выборка (42 человека), в которую вошли данные испытуемых, использовавших и не использовавших ИИ в пропорции 50:50. Параллельно в этих группах учитывалось равное количество участников с соответствующими баллами по тесту на аналитическое мышление и результатами по ЕГЭ для сопоставимости. На основе обработки данных по указанным выборкам сделаны предварительные количественные выводы при апробации методики в настоящей статье.

В рамках пилотного исследования были определены основные этапы, методы и инструменты, составившие методику исследования влияния искусственного интеллекта на проявление мягких навыков (табл. 2). Сначала испытуемым были разъяснены цели, условия и порядок участия в исследовании, после чего было предложено выполнить ряд психологических тестов на определение личностных качеств. За основу был взят, признанный научным сообществом и широко используемый в профориентационной сфере, тест Большой пятерки. Для последующего сравнительного анализа и оценки валидности и достоверности его отдельных результатов были дополнительно выполнены тесты на аналитическое мышление и воображение. Кроме этого, респонденты указали средний балл по аттестату, общую оценку по ЕГЭ и примерный процент посещенных лекций за предшествующий период обучения.

Психологические тестирования были проведены на специальных сервисах (psytests.org и onlinetestpad.com) с последующим самостоятельным внесением испытуемыми их результатов в систему Moodle. Далее проведена дополнительная оценка их достоверности испытуемыми после обсуждения результатов и глубинного интервью с модераторами.

Таблица 2

Методика проведения исследования

Оценка входящих личностных качеств
Проявление навыка через поведение (действие)
Содержание задания сценарного типа
с использованием ИИ
без использования ИИ
Тест «Большой пятерки».
Тест Канышевой на аналитическое мышление.
Оценка соответствия результатов факту респондентами.
Критическое мышление
Сценарное задание 1: распределение по критериям SMART-целей характеристик из текста.
Сценарное задание 2: распределение по видам условий труда характеристик из текста.
Сценарное задание 3: распределение жизненных ситуаций претендента на должность менеджера по продажам по видам качеств из теста Большой пятерки.
Компонент: анализ
Подкомпонент: категоризация
Тест «Большой пятерки».
Тест «Богатое ли у вас воображение?» Ф. Картер, К. Рассел (в переводе В. Г. Пановой) [11].
Оценка соответствия результатов факту респондентами.
Креативность
Сценарное задание 1:
придумывание вариантов уточнений целей по критерию конкретности из SMART;
написание доклада в рамках выявленных целей SMART.
Сценарное задание 2:
придумывание вариантов по предложенным критериям брифа на дизайн-проект;
создание рисунка с план-схемой помещения по разработанным вариантам брифа.
Сценарное задание 3:
придумывание вариантов личностных и профессиональных качеств для менеджера по продажам в рамках приведенного кейса;
написание отчета о соответствии кандидата вакантной должности.
Компонент: воображение
Подкомпоненты: действия по реализации беглости, разработанности, оригинальности.
Тест «Большой пятерки».
Оценка соответствия результатов факту респондентами.
Общий балл по ЕГЭ.
Примерный процент посещаемости лекций.
Средний балл по аттестату.
Обучаемость
Сценарное задание 1, 2, 3:
соблюдение описания выделяемых параметров заданию при категоризации;
соблюдение этапов процесса и учет необходимых требований при придумывании и создании вербальных отчетов и рисунков;
соблюдение адекватности решаемой задачи (критерий отсутствия бессмысленных ответов).
Компонент: следование инструкции
Источник: составлено авторами на основании результатов исследования.

Для оценки мягких навыков была принята за основу методика ECD и разработаны задания сценарного типа. В рамках указанной методики необходимо проводить оценку навыков через поведение участников испытаний.

В качестве компонента критического мышления был выбран анализ. Конкретные действия, которые оценивались при анализе, были связаны с категоризацией. При этом в исследовании учитывался входной уровень аналитического мышления испытуемых.

При оценке проявления испытуемыми креативности учитывались следующие разработанные и широко признаваемые исследователями критерии: беглость, оригинальность и разработанность. Под эти критерии определялись конкретные действия с учетом специфики самих заданий. Входной уровень креативности испытуемых рассматривался через оценку воображения.

Обучаемость в рамках данного исследования рассматривалась через способность следовать инструкции при выполнении задания. Каждый пункт инструкции – это действие, которое учитывалось при оценке указанного навыка. Входной уровень обучаемости испытуемых оценивался по результатам ЕГЭ.

Задания сценарного типа разрабатывались исходя из специфики учебной дисциплины («Управление личной эффективностью»), на базе которой было проведено исследование. При создании реальных сценариев жизненных ситуаций в рамках первого задания, связанного с построением пирамиды Франклина и формулировками целей по системе SMART, авторы столкнулись с проблемой интеграции рефлексивной составляющей по определению главных жизненных ценностей и целей основного персонажа в задании. В связи с этим было решено прибегнуть к формату дневника, который ведет основной персонаж, и фантастическому сценарию, когда основной персонаж сопоставляет свои жизненные ценности и цели с целями и ценностями собственной версии из будущего. Ввиду того, что объем, структура и формат задания не были восприняты испытуемыми и были получены крайне низкие оценки за ответы, к такому варианту в последующих заданиях не прибегали. В частности, отметим низкий средний процент выполнения первого задания по оцениваемому критерию «категоризация». Например, он составил в группе модератора 2 с добровольным выбором способа выполнения задания около 5% в подгруппе с ИИ и около 15% в подгруппе без ИИ. Также многие из испытуемых не оказались целевой аудиторией фантастики, что было установлено по результатам полученной от испытуемых обратной связи.

Во втором задании был разработан сценарий, ставящий испытуемого на место предпринимателя, который открывает офис собственной фирмы и обращается к дизайнеру для разработки дизайн-проекта, составляя для него бриф после предварительного анализа условий труда на предыдущем месте работы.

Наконец, сценарий третьего задания касался приема на работу кандидата на должность менеджера по продажам. Испытуемым предлагалось встать на место сотрудника отдела кадров и проанализировать качества кандидата с последующим написанием отчета о степени соответствия его качеств вакантной должности.

Все три задания строились по одному принципу. Первая их часть – аналитическая: в ней предлагалось из исходного текста выделить и вставить в соответствующую ячейку фразу, которая касалась того или иного параметра (критерия или вида), рассматриваемого в задании. Вторая часть задания – творческая. В ней предлагалось разработать варианты и объединить их в некоем отчете: в первом и третьем заданиях данная часть была вербальной; во втором невербальная – в виде рисунка-схемы.

Все задания выполнялись испытуемыми в системе Moodle с применением вопросов таких типов, как «вложенные ответы» и «эссе». Рисунок в виде план-схемы выполнялся от руки с последующим прикреплением файла к системе.

Для последующего определения влияния ИИ на проявление мягких навыков задания в системе Moodle были разделены: с использованием ИИ и без его использования. Одной части испытуемых предлагалось выбрать тот вариант, который для них предпочтителен, вторая часть была распределена случайным образом, чтобы получилось равное количество в каждой из подгрупп с ИИ и без ИИ. Модераторы при проведении исследования предлагали придерживаться выбранного варианта выполнения заданий до конца всех испытаний. Испытуемым, применяющим при выполнении задании ИИ, предлагалось использовать его любым приемлемым для них способом с учетом того, что окончательное решение об ответе должен принять сам респондент. Одним отличительным элементов инструкции в задании с применением ИИ был пункт о необходимости фиксации промтов с заданием для нейросетей.

Были сделаны выводы, касающиеся поведенческих, организационных и оценочных аспектов проведения исследования. В поведении испытуемых в процессе выполнения заданий можно выявить следующие особенности:

1) большая часть испытуемых (более 60%) при наличии возможности выбора предпочли использовать ИИ при выполнении заданий;

2) при выполнении варианта заданий без использования нейросетей часть испытуемых их скрытно использовали, несмотря на установку об отсутствии санкций, об одинаковом уровне сложности обоих вариантов, а также о необходимости соблюдения правил для получения достоверных результатов исследования;

3) при использовании нейросетей испытуемые не могли «правильно» ими воспользоваться: задание вставлялось ими целиком из исходных данных без предварительного формулирования конкретного промта, о чем свидетельствует его отсутствие (почти 70% рандомной выборки по первому сценарному заданию), несмотря на пункт инструкции, а также результаты обсуждений инструкций с испытуемыми;

4) при выполнении аналитической части сценарного задания 1 с помощью нейросетей видно, что испытуемые не знают, как сформулировать промты для нейросети, в ответах был набор слов (19% в рандомной выборке в первом сценарном задании), не соответствующих заданию. При этом к концу исследования в аналитической части сценарного задания 3 у испытуемых просматривается некоторая «обреченность»: они начинают выполнять его без использования нейросетей, что проявляется в большей ориентированности на инструкцию и отсутствии соответствующих промтов;

5) в творческой части заданий (сценарное задание 3) при формулировании отчета через нейросети можно увидеть в нем правильные ответы для аналитической части. При этом в аналитической части, в которой, по всей видимости, ИИ не применялся (так как испытуемые не знали, как им воспользоваться) ответы были неверными. Сами испытуемые на этапе обсуждения результатов выполнения заданий объяснили это ленью прочитать сгенерированный результат.

В рамках организационного аспекта проведения исследования были получены следующие результаты наблюдений:

1) при снижении объема текста аналитической части задания и его делении на абзацы, после которых нужно было вставлять ответы, значительно увеличился процент правильных ответов. В частности, по критерию «категоризация» при выполнении первого задания средний процент правильных ответов в группе модератора 2 составил 5% в подгруппе с ИИ и 15% в подгруппе без ИИ, а при выполнении второго задания – 34 и 60% соответственно. При этом анализируемые подгруппы с ИИ и без ИИ были сопоставимыми между собой по уровням аналитического мышления и воображения, а также по оценкам ЕГЭ;

2) время, затрачиваемое на выполнение заданий и качество ответов по категоризации, снижались в третьем задании по сравнению со вторым заданием, аналогичным по объему, но отличающимся по структуре (страница текста во втором задании была разделена на абзацы, после которых нужно было вставить ответы по заданным категориям, а в третьем был приведен текст с диалогом персонажей и необходимостью давать ответы на основе всего текста);

3) обсуждение оцениваемых личностных черт и интерпретации результатов теста Большой пятерки в группе и индивидуально при несогласии с полученными результатами, привели к изменению оценки достоверности испытуемыми своих результатов данного теста в среднем всего на 4,5% (с 85 до 89,5%). При этом достоверность использованных тестов для оценки аналитического мышления и воображения испытуемые в среднем оценили на уровне 87 и 80% соответственно, в основном согласившись с полученными результатами.

Оценочный аспект проведения пилотного этапа исследования также позволил сформулировать ряд результатов:

1) в первую очередь, именно после выполнения сценарных заданий были уточнены предварительно сформулированные оценочные критерии (действия) по подкомпонентам рассматриваемых мягких навыков (табл. 3);

2) при оценке креативности полученных ответов учитывалась степень выполнения критерия (действия);

3) удалось частично автоматизировать проверку ответов, а также отделить оценку по категоризации и инструкции для исключения дублирования оцениваемых действий;

4) получен коэффициент корреляции, равный -0,68, оценок по категоризации и использования ИИ по выборке с сопоставимыми данными по уровню аналитического мышления, воображения и оценок по ЕГЭ для испытуемых, использовавших и не использовавших нейросеть. При оценке связи оценки по категоризации и использования ИИ без учета личностных качеств испытуемых по всей рандомной выборке коэффициент корреляции составил 0,44. По этой же выборке статистически значимое влияние на оценку по категоризации оказали качество выполнения инструкции (наибольшее влияние), использование ИИ и оценки по ЕГЭ. Достоверность полученной регрессионной модели по критерию R-квадрат составляет 0,74.

Таблица 3

Оцениваемые действия по подкомпонентам (критериям проявления) критического мышления, креативности и обучаемости

Сценарное задание
Критическое мышление
Креативность
Обучаемость
Категоризация
Оригинальность
Беглость (продуктивность)
Разработанность
Выполнение инструкции
1
Выбор из текста фразы, соответствующей критериям
для вербальной части: предложен вариант ответа, отличающийся от текста задания.
для вербальной части: предложено максимальное количество вариантов ответа, неповторяющихся и не из текста задания.
использование вводных и конечных художественных фраз в тексте ответа;
художественно оформленный исходный текст;
художественно вставленные оригинальные детали в исходный текст;
художественно вставленные дополнительные оригинальные детали.
ответ скопирован из текста задания и вставлен (не вбит руками, не скопирован из нейросети);
соответствие количеству единиц информации с пробелами;
наличие ответов (все окна по целям, ценностям, задачам заполнены);
наличие адекватных заданию ответов (не случайный набор букв или слов);
наличие трех деталей;
наличие пробелов;
указаны размер, основные цели и ценности;
написание от первого лица;
вставлены детали, промты (для подгруппы с ИИ) и др.
2
Выбор из текста фразы, соответствующей критериям
для вербальной части: предложен вариант ответа, отличающийся от текста задания; для невербальной части (рисунок): предложен вариант ответа, отличающийся от ответов других испытуемых.
для вербальной части: предложено максимальное количество вариантов ответа, неповторяющихся и не из текста задания;
для невербальной части (рисунок): использование различных цветов, изображение раздичных функциональных зон, использование различных объектов.
изображение деталей в объектах.
ответ скопирован из текста задания и вставлен (не вбит руками, не скопирован из нейросети);
соответствие количеству единиц информации;
наличие ответов (все окна для ответов заполнены);
наличие адекватных заданию ответов (не случайный набор букв или слов);
вставлены промты (для подгруппы с ИИ) и др.
3
Выбор из текста фразы, соответствующей критериям
Предложен вариант ответа, отличающийся от текста задания.
для вербальной части: предложено максимальное количество вариантов ответа, неповторяющихся и не из текста задания.
использование вводных и конечных художественных фраз в тексте ответа;
художественно оформленный исходный текст;
художественно вставленные оригинальные детали в исходный текст;
художественно вставленные дополнительные оригинальные детали.
ответ скопирован из текста задания и вставлен (не вбит руками, не скопирован из нейросети);
соответствие количеству единиц информации;
наличие ответов (все окна для ответов заполнены);
наличие адекватных заданию ответов (не случайный набор букв или слов);
вставлены промты (для подгруппы с ИИ) и др.
Источник: составлено авторами на основании результатов исследования.

На основе полученных результатов сформулированы следующие основные выводы.

Большинство испытуемых предпочитают использовать искусственный интеллект при выполнении заданий, при этом не обладают необходимыми для его использования навыками.

Испытуемые значительно хуже справляются с письменными заданиями и инструкциями без дополнительного сопровождения, обсуждения, пояснения со стороны модератора, что, возможно, свидетельствует о недостаточной четкости и понятности формулировок текста заданий и инструкций, а также отсутствием навыков самостоятельной работы с объемными текстами и инструкциями.

Имеет место заметная отрицательная корреляция между использованием ИИ и оценками по категоризации при учете влиянии исходных уровней аналитического мышления и воображения испытуемых, а также оценок по результатам ЕГЭ. В выборке, где не учитывались сопоставимые величины по указанным входным данным, коэффициент корреляции указывает на умеренную связь между рассмотренными параметрами (ИИ и оценки по категоризации).

Полученные и обработанные результаты по аналитической составляющей заданий, проверяемой автоматически, предварительно подтверждают гипотезу исследования о влиянии использования ИИ на проявление мягких навыков (оценка по критерию «категоризация» как одного из основных подкомпонентов (критериев проявления) критического мышления). При этом требуется дополнительная проверка гипотезы по креативности и обучаемости с учетом доработки методики и повышения уровня автоматизации оценки ответов испытуемых, а также последующая повторная оценка влияния ИИ на проявление мягких навыков и оценка достоверности полученных результатов.

В качестве сильной стороны данного исследования можно назвать достаточно большой объем выборки для пилотного исследования. Благодаря наличию такого доступа к респондентам удалось в несколько подходов усовершенствовать инструкцию к заданиям и понаблюдать за изменением результатов. Положительным моментом является обсуждение с респондентами элементов задания как по завершении основных этапов исследования, так и по ходу его выполнения.

К недостаткам исследования относится ряд моментов, которые исходят из сложности и ресурсоемкости отдельных задач. В частности, одной из самых трудозатратных и сложных с теоретической точки зрения является задача по оценке креативности. Так, сейчас в рамках разработанной методики имеет место субъективный характер оценок креативности и недоработанность системы разбалловки по ее критериям, а также отсутствие проверки на согласованность экспертных оценок. Кроме того, в ходе работы были ограничены возможности контроля индивидуального выполнения задания, что в итоге отразилось на оценках. Сложным моментом в ходе исследования было понимание того, каким образом отделить результат работы самой нейросети от проявлений мягких навыков респондентов: вопрос в том, как процедурно отделить сгенерированный ответов нейросети от того, который был качественно переработан испытуемыми. Дополнительные вопросы лишь усложняют инструкцию и снижают мотивацию испытуемых.

Заключение

Важность полученных результатов можно рассматривать в двух плоскостях. Во-первых, для достижения исходной цели по определению влияния ИИ на проявление мягких навыков были уточнены теоретические и методические рамки, а также проведена первичная апробация методики в рамках пилотного исследования. Также были выявлены направления и способы совершенствования процесса проведения исследования и используемых сценарных заданий.

Во-вторых, с практической точки зрения было проведено наблюдение за тем, как используется ИИ (нейросеть) на практике. С одной стороны, практика ее использования в большинстве случаев демонстрирует неумение формулировать задания для нейросети (промты), с другой стороны, проявилась неуверенность многих испытуемых в собственных силах и слепое желание полагаться на первый сгенерированный нейросетью ответ.

Для повышения достоверности результатов необходимо провести экспертную оценку текстов заданий и инструкций к ним после их доработки по структуре, последовательности инструкций и содержательной части (например, замена фантастического сценария более нейтральным), в полном объеме реализовать их в цифровом формате, а также проводить поэтапные обсуждения инструкций с испытуемыми.

Кроме того, в доработке нуждаются и оценочная часть разработанной методики. Так, необходимо уточнить критерии и разбалловку по навыку креативности. Есть также необходимость в проверке возможности автоматической оценки креативности по базам, приведенным в исследовании [4]. После уточнения методики исследования и проведения второго ее этапа необходимо разработать факторную модель влияния и оценить ее надежность, достоверность, валидность и репрезентативность. После стандартизации заданий и повышения их качества необходимо оценить динамику уровня проявления мягких навыков от задания к заданию.


Источники:

1. ИноТВ: Наука и техника. DWN: падение уровня интеллекта в развитых странах приведет к трагическим последствиям. [Электронный ресурс]. URL: https://russian.rt.com/inotv/2023-06-26/DWN-padenie-urovnya-intellekta-v (дата обращения: 25.06.2025).
2. Авдеенко Н. А., Демидова М. Ю., Ковалева Г. С., Логинова О. Б., Михайлова А. М., Яковлева С. Г. Основные подходы к оценке креативного мышления в рамках проекта Мониторинг формирования функциональной грамотности // Отечественная и зарубежная педагогика. – 2019. – № 4. – c. 124–145. – url: https://www.elibrary.ru/item.asp?id=39249308.
3. Валеева Н. Ш., Куприянов Р. В., Валеева Э. Р., Куприянова Н. Е. Критическое мышление как предиктор успешности учебной деятельности // Baikal Research Journal. – 2022. – № 4. – c. 7. – doi: 10.17150/2411-6262.2022.13(4).7.
4. Валуева Е. А., Панфилова А. С., Рафикова А. С. Автоматическая оценка тестов на вербальную креативность: от лексических баз данных к большим языковым моделям // Психология. Журнал Высшей школы экономики. – 2024. – № 1. – c. 202–225. – url: https://www.elibrary.ru/item.asp?id=65587088.
5. Васильева Е. Н., Щербаков А. В., Курагина М. Ф. Коммуникативные компетенции в структуре «soft skills» в рамках профессиональной подготовки студентов вуза // Психолого-педагогические исследования. – 2023. – № 1. – c. 21–36. – doi: 10.17759/psyedu.2023150102.
6. Вихман А. А. Тест Критическое мышление подростка: разработка и психометрическая оценка // Вестник Удмуртского университета. – 2024. – № 2. – c. 166-180. – doi: 10.35634/2412-9550-2024-34-2-166-180.
7. Грачева Д. А., Тарасова К. В. Подходы к разработке вариантов заданий сценарного типа в рамках метода доказательной аргументации // Отечественная и зарубежная педагогика. – 2022. – № 3. – c. 83–97. – doi: 10.24412/2224–0772–2022–84–83–97.
8. Грачева Д. А., Тарасова К. Клонирование заданий сценарного типа. Лаборатория измерения новых конструктов и дизайна тестов ЦПИО НИУ ВШЭ. [Электронный ресурс]. URL: https://ioe.hse.ru/mirror/pubs/share/808817884.pdf (дата обращения: 14.07.2025).
9. Исаева О. М., Савинова С. Ю. Оценка надпрофессиональных компетенций у будущих менеджеров методами психодиагностики и графологии // Организационная психология. – 2020. – № 3. – c. 69-84. – url: https://www.elibrary.ru/item.asp?id=44391182.
10. Исследование Honor: каждый пятый россиянин скрывает от руководства использование искусственного интеллекта в работе. Сетевое издание «CNews» («СиНьюс»): Цифровизация. [Электронный ресурс]. URL: https://corp.cnews.ru/news/line/2025-04-22_issledovanie_honor_kazhdyj?p=homecnewsmob (дата обращения: 14.07.2025).
11. Картер Ф., Рассел К. Психометрическое тестирование: 1000 способов определить личностные качества, доминирующее полушарие мозга, уровень творческого мышления и интеллекта. - Москва : АСТ : Астрель, 2003. – 206 c.
12. Soft skills. Навыки XXI века: что больше всего ценят работодатели-драйверы в России и Пермском крае? НИУ ВШЭ в Перми: Новости. [Электронный ресурс]. URL: https://perm.hse.ru/news/243254110.html?ysclid=mcu81yap9g607102800 (дата обращения: 14.07.2025).
13. Садова А. Р., Хиль Ю. С., Пащенко Т. В., Тарасова К. В. Измерение критического мышления взрослых: методология и опыт разработки // Современная зарубежная психология. – 2022. – № 4. – c. 105—116. – url: https://www.elibrary.ru/item.asp?id=50218401.
14. Статистика сдачи ЕГЭ: результаты, аналитика и тренды экзаменов. Образовательная платформа SkyPro: Аналитика. [Электронный ресурс]. URL: https://sky.pro/wiki/analytics/statistika-sdachi-ege-rezultaty-analitika-i-trendy-ekzamenov (дата обращения: 14.07.2025).
15. Сараева О. Н., Колесова А. С. Реинжиниринг микро-мерчандайзинга как бизнес-процесса с применением нейротехнологий // Baikal Research Journal. – 2023. – № 3. – c. 919-929. – url: https://www.elibrary.ru/item.asp?id=54639919.
16. Тарасов С. В. Использование данных о процессе выполнения задания при оценке креативного мышления // Психологическая наука и образование. – 2003. – № 28. – c. 63–80. – doi: 10.17759/pse.2023280404.
17. Терехова Т. А., Портнова Л. К., Тюлюпов Ю. Ф. Алгоритмическое мышление: психологическая сущность и социально-экономические последствия // Baikal Research Journal. – 2023. – № 3. – c. 1180-1192. – doi: 10.17150/2411-6262.2023.14(3).1180-1192.
18. Туник Е. Е. Диагностика креативности. Тест Е. Торренса. - Санкт-Петербург : Иматон, 1998. – 170 c.
19. Угланова И. Л., Брун И. В., Васин Г. М. Методология Evidence-Centered Design для измерения комплексных психологических конструктов // Современная зарубежная психология. – 2018. – № 3. – c. 18—27. – doi: 10.17759/jmfp.2018070302.
20. Фарков А. В. Основные показатели обучаемости учащихся математике // Сибирский педагогический журнал. – 2010. – № 3. – c. 210-217. – url: https://www.elibrary.ru/item.asp?id=18040878.
21. Danczak S. M., Thompson C. D., Overton T. L. // Chem. Educ. Res. Pract. – 2017. – № 18. – p. 420-434. – url: https://pubs.rsc.org/en/content/articlelanding/2017/rp/c6rp00249h.
22. Domínguez U. L. Potential cognitive risks of generative transformer-based AI chatbots on higher order executive functions // Neuropsychology. – 2024. – № 38. – p. 293-308. – url: https://psycnet.apa.org/buy/2024-50096-001.
23. International AI Safety Report 2025: Independent report, Updated 18 February 2025. GOV.UK: Department forScience, Innovation & Technology. [Электронный ресурс]. URL: https://www.gov.uk/government/publications/international-ai-safety-report-2025/international-ai-safety-report-2025 (дата обращения: 14.07.2025).
24. Panfilova S., Valueva E. A., Ilyin I. Y. The application of explainable artificial intelligence methods to models for automatic creativity assessment // Front. Artif. Intell. – 2024. – p. 1310518. – doi: 10.3389/frai.2024.1310518.
25. Peng S., Kalliamvakou E., Cihon P., Demirer M. The Impact of AI on Developer Productivity: Evidence from GitHub Copilot. DOI:
https://doi.org/10.48550/arXiv.2302.06590. URL: https://arxiv.org/abs/2302.06590 (дата обращения: 14.07.2025)
26. Reif J. A., Larrick R. P., Soll J. B. Evidence of a social evaluation penalty for using AI // Pnas. – 2025. – № 19. – doi: 10.1073/pnas.2426766122.

Страница обновлена: 11.11.2025 в 20:17:54

 

 

Development of a methodology for studying the influence of artificial intelligence on soft skills

Tarkhanova E.G., Arbatskaya E.A.

Journal paper

Leadership and Management
Volume 12, Number 8 (August 2025)

Citation:

Abstract:
The article assesses the impact of artificial intelligence (neural network) on users' soft skills. The authors chose critical thinking, creativity, and learning ability as the assessed soft skills. Firstly, according to the results of a number of studies, in modern conditions, the selected soft skills are among the most relevant and in-demand by employers. Secondly, they have a relatively more developed theoretical and methodological basis for the study and evaluation. The article presents the preliminary results of the pilot phase of the study related to the development of a methodology for assessing the impact of artificial intelligence on soft skills. The methodology is based on performing scenario-type tasks. The obtained results of using the developed methodology on the example of critical thinking preliminarily confirm the hypothesis of the study on the negative impact of neural networks on its manifestation. At the same time, an additional assessment of the using artificial intelligence impact on creativity and learning ability is required. The assessment should take into account the refinement of the methodology and increasing the automation of evaluating the subjects' responses.

Keywords: artificial intelligence, neural network, critical thinking, creativity, learning ability, soft skills

JEL-classification: O31, O32, O33

References:

Avdeenko N. A., Demidova M. Yu., Kovaleva G. S., Loginova O. B., Mikhaylova A. M., Yakovleva S. G. (2019). Main approaches to the assessment of the creative thinking in the framework of the Monitoring of the formation of functional literacy project. Otechestvennaya i zarubezhnaya pedagogika. (4). 124–145.

Danczak S. M., Thompson C. D., Overton T. L. (2017). What does the term Critical Thinking mean to you?’ A qualitative analysis of chemistry undergraduate, teaching staff and employers\' views of critical thinking Chem. Educ. Res. Pract. (18). 420-434.

Domínguez U. L. (2024). Potential cognitive risks of generative transformer-based AI chatbots on higher order executive functions Neuropsychology. (38). 293-308.

Farkov A. V. (2010). The main indicators of students' learning in mathematics. Siberian Pedagogical Journal. (3). 210-217.

Gracheva D. A., Tarasova K. V. (2022). Approaches to the development of scenario-based task forms within the framework of evidence-centered design. Otechestvennaya i zarubezhnaya pedagogika. (3). 83–97. doi: 10.24412/2224–0772–2022–84–83–97.

International AI Safety Report 2025: Independent report, Updated 18 February 2025GOV.UK: Department forScience, Innovation & Technology. Retrieved July 14, 2025, from https://www.gov.uk/government/publications/international-ai-safety-report-2025/international-ai-safety-report-2025

Isaeva O. M., Savinova S. Yu. (2020). Assessment of future managers soft skills through psycho-diagnostic and graphology methods. Organizational psychology. 10 (3). 69-84.

Karter F., Rassel K. (2003). Psychometric testing: 1,000 ways to determine personality traits, the dominant hemisphere of the brain, the level of creative thinking and intelligence

Panfilova S., Valueva E. A., Ilyin I. Y. (2024). The application of explainable artificial intelligence methods to models for automatic creativity assessment Front. Artif. Intell. 7 1310518. doi: 10.3389/frai.2024.1310518.

Reif J. A., Larrick R. P., Soll J. B. (2025). Evidence of a social evaluation penalty for using AI Pnas. 122 (19). doi: 10.1073/pnas.2426766122.

Sadova A. R., Khil Yu. S., Paschenko T. V., Tarasova K. V. (2022). Critical thinking assessment in adults: methodology and development experience. Sovremennaya zarubezhnaya psikhologiya. 11 (4). 105—116.

Saraeva O. N., Kolesova A. S. (2023). Reengineering of micro-merchandising as a business process using neurotechnologies. Baikal Research Journal. (3). 919-929.

Tarasov S. V. (2003). Using process data of task performance in creative thinking assessment. Psychological-Educational Studies. (28). 63–80. doi: 10.17759/pse.2023280404.

Terekhova T. A., Portnova L. K., Tyulyupov Yu. F. (2023). Algorithmic thinking: psychological essence and socio-economic consequences. Baikal Research Journal. (3). 1180-1192. doi: 10.17150/2411-6262.2023.14(3).1180-1192.

Tunik E. E. (1998). Diagnosis of Creativity. The Torrance Test

Uglanova I. L., Brun I. V., Vasin G. M. (2018). Evidence-Centered design method for measuring complex psychological constructs. Sovremennaya zarubezhnaya psikhologiya. 7 (3). 18—27. doi: 10.17759/jmfp.2018070302.

Valeeva N. Sh., Kupriyanov R. V., Valeeva E. R., Kupriyanova N. E. (2022). Critical thinking as a predictor of academic success. Baikal Research Journal. (4). 7. doi: 10.17150/2411-6262.2022.13(4).7.

Valueva E. A., Panfilova A. S., Rafikova A. S. (2024). Automatic scoring of verbal divergent thinking tests: from lexical databases to large language models. Psikhologiya. Zhurnal Vysshey shkoly ekonomiki. 21 (1). 202–225.

Vasileva E. N., Scherbakov A. V., Kuragina M. F. (2023). Communicative competencies in the structure of "soft skills" in the framework of professional training of university students. Psikhologo-pedagogicheskie issledovaniya. 15 (1). 21–36. doi: 10.17759/psyedu.2023150102.

Vikhman A. A. (2024). The adolescent critical thinking test: development and psychometric evaluation. Bulletin of Udmurt University. (2). 166-180. doi: 10.35634/2412-9550-2024-34-2-166-180.