Риски применения искусственного интеллекта в системе высшего образования

Лукичёв П.М.1, Чекмарев О.П.2
1 Балтийский государственный технический университет \"ВОЕНМЕХ\" им. Д.Ф. Устинова
2 Санкт-Петербургский государственный аграрный университет

Статья в журнале

Вопросы инновационной экономики (РИНЦ, ВАК)
опубликовать статью | оформить подписку

Том 14, Номер 2 (Апрель-июнь 2024)

Цитировать эту статью:

Эта статья проиндексирована РИНЦ, см. https://elibrary.ru/item.asp?id=67903427

Аннотация:
Данная статья посвящена анализу рисков применения искусственного интеллекта в системе высшего образования. Актуальность темы связана с качественно новым уровнем развития больших языковых моделей, как, например, ChatGPT, и перспективами их применения в такой массовой сфере как образование. В статье оцениваются возможности преподавателей университетов по подготовке сегодняшних студентов к деятельности в будущей рабочей среде, интегрированной с искусственным интеллектом. Одновременно с использованием в системе высшего образования моделей искусственного интеллекта возникают и риски их применения. На основе проведенных опросов и анализа опыта зарубежных университетов, авторы выявляют основные риски применения искусственного интеллекта в системе высшего образования. Все эти риски краткосрочного периода вполне преодолимы комплексом мер образовательной политики. Для этого необходимо создание государственной программы по применению технологий искусственного интеллекта в ВУЗах России Делается вывод, что уровень удовлетворённости студентов от использования ChatGPT, производен от их опыта обучения. Авторы выделяют два временных периода в освоении искусственного интеллекта в университетском образовании. Изменение «атмосферы» университетского образования за счёт применения искусственного интеллекта требует интенсивной переподготовки профессорско-преподавательского состава ВУЗов, основные задачи которой выделены в статье. Авторы обосновывают возможность возникновения риска долгосрочного периода («Х» риска) – отмирание необходимости в высшем образовании для будущих поколений из-за развития Общего искусственного интеллекта

Ключевые слова: риски, риски применения искусственного интеллекта в образовании, человеческий капитал, система высшего образования

JEL-классификация: I23, O33, O35



Введение

Под искусственным интеллектом в образовании (Artificial Intelligence in Education – AIEd или ИИО) понимается в данной статье применение таких его технологий как интеллектуальные системы обучения, чат-боты, роботы и автоматизированная оценка всех видов цифровых артефактов, которые поддерживают и улучшают образование. Использование моделей искусственного интеллекта (ИИ) в системе высшего образования несёт значительные последствия для его будущего развития. Взрывной рост применения ИИ, начавшийся в ноябре 2022 г. с ChatGPT, радикально изменил «атмосферу», в которой ведётся обучение. Она воздействует как на преподавателей и организаторов обучения, так и на студентов, и на весь образовательный процесс в целом. Предыдущие положения образовательной политики, как в России, так и в мире, не учитывали того уровня достижений, который достигли ChatGPT - 3.5, ChatGPT - 4 и их аналоги. Применение ИИ порождает целый ряд качественных преимуществ, которыми могут воспользоваться все участники системы высшего образования. Однако, выгоды использования искусственного интеллекта в образовании, - для студентов это, прежде всего, персонализированное обучение, немедленная обратная связь на все машинные запросы, беспристрастность оценивания знаний и умений; для преподавателей университетов это понимание прогресса в освоении предмета каждым учащимся, возможность адаптировать учебный процесс в соответствии с уровнями знаний и способностями студентов, стимулирование к разработке новых программ и методов обучения, - имеют пока потенциальный характер. Однако система высшего образования должна меняться уже сейчас, чтобы соответствовать будущим вызовам. В связи с этим возникает исследовательский вопрос: как преподаватели могут подготовить студентов к будущей рабочей среде, интегрированной с искусственным интеллектом, и проконсультировать студентов о том, как автоматизация ИИ может повлиять на их специальности и карьерный рост? Одновременно использование искусственного интеллекта несёт нарастающие риски для университетского образования вплоть до его исчезновения. Цель статьи: выявление и анализ основных рисков применения технологий искусственного интеллекта в системе высшего образовании. Гипотеза исследования: существующие сегодня риски использования университетами моделей искусственного интеллекта вполне преодолимы за счёт корректировки национальной образовательной политики и комплекса антикризисных мер. Результаты научного исследования могут полезны профессорам (преподавателям) университетов, специалистам в сфере искусственного интеллекта, ученым, сферой научных интересов которых является выявление и предупреждение рисков применения технологий искусственного интеллекта в сфере высшего образования. Постараемся перечислить и проанализировать эти основные риски.

Риск замены собственных текстов, собственных идей при выполнении студентами учебных работ текстами, идеями, подсказанными искусственным интеллектом

Опросы, проведенные одним из авторов 11 и 12 января 2024 г. среди студентов 2 курса Управление и аналитика на государственной службе НИУ ВШЭ ( N = 57) показали, что 92. 9% используют ChatGPT при подготовке своих учебных заданий. Наиболее характерные ответы об опыте использования были следующие.

«Я использовала ChatGPT для написания планов и структур текстов, генерации идей», «Он помогает в тех случаях, когда необходима креативность (предлагает варианты, из которых можно выбрать наиболее релевантные)», «Я периодически использую ChatGPT, когда мне нужно корректно сформулировать предложение или, например, в поиске сложной формулы», «Использую довольно редко, как правило с целью вдохновения. Он может дать интересные идеи, которые можно развить в процессе выполнения заданий, но, в любом случае, все тексты, сгенерированные ChatGPT, нуждаются в качественной ручной переработке». «Да, для генерации каких-то новых идей и поиска альтернативных решений различных задач», «Да, использую в написании программ в Python и в сочинениях по английскому языку», «Я использую ChatGPT для поиска новых идей, для вдохновения. Мои запросы – творческие или информационные».

То есть, исходя из данных этого исследования, можно сделать вывод, что современные студенты не всегда учатся думать, творить, считать самостоятельно, а полагаются (пусть и не полностью) на рекомендации чат-ботов. Роль, которую для них играет ChatGPT в образовательном процессе, - эта роль советника, суфлёра, а не заменителя учёбы. Как отмечал Hasselberger, студенты по определению занимаются развитием своих когнитивных способностей; их понимание собственного интеллекта постоянно меняется, и на него может влиять их взаимодействие с системами ИИ [1]. Если обучающиеся больше полагаются на возможности использования искусственного интеллекта в образовательном процессе, а не развитие собственных знаний, умений, навыков, то и в последующей работе они будут поступать также.

Между тем, во многих отраслях экономики, таких как транспорт [2]; [3], здравоохранение [4]; [5], образование [6], финансы [7]; [8], применение технологий ИИ играет всё более важную роль и становится неотъемлемой частью тех знаний, умений и навыков, которыми должен обладать выпускник университета по этим специальностям. То есть наличие компетенций в области искусственного интеллекта перестаёт быть привилегией только студентов информационной сферы, но становится необходимым элементом высшего образования гораздо более широкого круга специальностей, представителям которых необходимо владеть не только знаниями, но и навыками работы с ИИ в профессиональном качестве.

Кроме того, система высшего образования должна создать основы для эффективной и этичной работы выпускников с моделями искусственного интеллекта. Поскольку использование ИИ в образовании и оценивании становится все более распространенным, важно, чтобы учащиеся понимали принципы, лежащие в основе этой технологии, чтобы поддерживать академическую честность и предотвращать мошенничество [9]; [10]. Эффект от усилий профессоров (преподавателей) по освоению студентами университетов технологий ИИ скажется полностью в их будущей работе. То есть трудности освоения системой высшего образования моделей искусственного интеллекта принесут выгоду всей национальной экономике.

Риск увеличения объёма плагиата в студенческих работах и

риск девальвации оценок

Начинается новый виток соревнования компьютерных программ Антиплагиата и создаваемых с помощью искусственного интеллекта средств по их обходу. С одной стороны, Turnitin и подобные ему сервисы помогают проверить тексты на предмет использования в них ИИ. С другой, - появились сервисы-синонимайзеры текста, подобные MaxТекст, которые позволяют синонимизировать (по их выражению) любой текст, чтобы обойти существующие на данный момент программы Антиплагиата. Это «соперничество» будет длиться многие годы. Его последствием является возникновение необъективности выставляемых преподавателями и профессорами оценок. Здесь проблема переходит уже из технологической в этическую плоскость. Если эссе или курсовая работа, которые являются результатом изучения студентом определённой темы, его «погружения» в проблему, первых самостоятельных размышлений и выводов, оценивается преподавателем также, как и текст его коллеги, сгенерированный ИИ за несколько минут, то появляющаяся несправедливость убивает мотивацию студентов к обучению. Проблема не только в том, что какие-то студенты получат незаслуженные ими оценки, сколько в снижении «атмосферы» академической объективности и справедливости.

Методы решения, на наш взгляд, должны быть связаны с совершенствованием систем Антиплагиата и с изменением «правил игры» на образовательном поле. Надо ужесточить наказание за выявленное использование текстов (решений) с помощью искусственного интеллекта. Многие университеты, включая Оксфорд и Кембридж, объявили академическим нарушением использование искусственного интеллекта для выполнения заданий. Другие университеты пересматривают свою политику в отношении использования плагиата. Университеты Австралии, например, вернулись к сдаче экзаменов только с использованием бумаги и ручки.

Со стороны преподавателей (профессоров) должно быть постоянное совершенствование методов преподавания с акцентом на устные вопросы и на действия студентов, осуществляемые в аудитории под непосредственным контролем преподавателя. Для практического осуществления этого необходима интенсивная переподготовка профессорско-преподавательского состава университетов, нацеленная на освоение ими искусственного интеллекта. Целью переподготовки является – поднять уровень преподавания в университетах на качественно новый уровень в связи с технологическими изменениями. Задачами, решаемыми для достижения этой цели, являются:

· обладать необходимой осведомленностью и знаниями, чтобы информировать студентов о потенциальных рисках, связанных с использованием генеративного искусственного интеллекта в обучении, особенно при оценивании возможного плагиата [11],

· способствовать этичному использованию ИИ, например, посредством надлежащего атрибуции, чтобы признать вклад технологий ИИ в студенческие работы и принять его предельно допустимые нормы, в зависимости от характера выполняемого задания,

· разработать оценочные задания, которые требуют критического и аналитического мышления, «живых» ответов студентов, большего процента открытых вопросов, чтобы избежать плагиата с помощью искусственного интеллекта.

Безусловно, это увеличит нагрузку на профессорско-преподавательский состав и необходимость повышения заработных плат. Если же пустить всё на самотёк, то деградация высшего образования наступит очень скоро.

Риск «технологического уклона»

Риск «технологического уклона» существует в системе высшего образования в ущерб совершенствованию человеческого капитала преподавателей (профессоров), а через них – обучающихся. Технологии искусственного интеллекта (в перспективе) предоставляют студентам возможность извлечь ответы на почти все учебные вопросы, заменяя процесс постижения знаний получением наборов результатов. В итоге может происходить, как отмечают в логике, «вульгарная подмена тезиса». Ведь обучающимся важно не только знать, что дважды два будет четыре, а три плюс пять получится восемь, но – уметь проводить арифметические действия со всеми числами. Процесс преподавания не сводится только к получению студентами конкретных ответов по определенным дисциплинам, но организован университетами так, чтобы помочь им учиться. Именно поэтому педагогические технологии играют решающую роль в эффективности освоения обучающимися технологий искусственного интеллекта. Если совершенствование уровня преподавания будет отставать, то и освоение новых технологических знаний будет происходить не оптимально. Развитие национальной системы высшего образования играет роль катализатора прогресса всей экономики, обеспечивая базу для внедрения инноваций и роста народного хозяйства. В освоении цифровых технологий, и, в частности, технологий искусственного интеллекта высшее образование занимает ведущую роль среди отраслей экономики России. Это наглядно видно из данных таблицы 1.

Таблица 1. Использование цифровых технологий в системе высшего образования Российской Федерации в 2022 г. [Составлено на основе 12, Карагадаев, 2023]

№ п/п
Цифровая технология
Доля высшего образования среди всех отраслей экономики РФ
(в % от общего числа организаций)
Место, занимаемое высшим образованием по использованию данной технологии среди других отраслей экономики РФ
1.
Облачные сервисы
46,7%
1
2.
Цифровые платформы
32,3%
1
3.
Геоинформационные
системы
19,0%
3
4.
«Цифровые двойники»
6,2%
1
5.
Аддитивные технологии
19,3%
1
6.
Технологии искусственного интеллекта
10,2%
2
7.
Интернет вещей
16,2
2

Данные таблицы показывают, что уровень освоения цифровых технологий системой высшего образования России выше среднего уровня по отраслям экономики. В настоящий момент это составляет конкурентное преимущество РФ, поскольку в США сектор остаётся отстающим в сфере цифровых технологий: американские школы и университеты тратят около 2% и 5% своего бюджета соответственно на технологии по сравнению с 8% для средней американской компании [13]. Таким образом, российские университеты могут сыграть ведущую роль в переводе экономики с «инерционного пути развития» на «инновационный путь развития».

Если существующие чат-боты в высшем образовании «обучались» большему объёму информации, чем студенты, имея тем самым преимущество перед ними, но в основном на информации, доступной в Интернете, то это порождает несколько проблем для системы высшего образования.

Во-первых, обучающиеся массово жалуются на «неточность» ответов. Конкретно, это не соответствие полученных ответов фактам. Опросы, проведенные одним из авторов 05 и 06 февраля 2024 г. среди студентов 1 курса факультета менеджмента и коммуникации БГТУ «ВОЕНМЕХ» им. Д. Ф. Устинова (N = 53) показали, что 71,7% пользуются ChatGPT в учебных целях. Но они больше всего жалуются на его необъективность. «После того, как я завалил тест по истории из-за ChatGPT, перестал им пользоваться». Студентам приходится постоянно перепроверять информацию ChatGPT. “К примеру, исторические факты он подтасовывает, приписывая годы правления Петра I Петру III». Пока для российских студентов ChatGPT не пользуется безусловным авторитетом. Представители старших курсов, как и в ответах первокурсников отмечают, что «большую часть работы с ChatGPT связана с поиском ошибок в его ответах, приходится перепроверять». Однако, они видят и перспективность ChatGPT: «есть области, в которых он неплохо «разбирается». Существование такого «помощника» скорее плюс, чем минус». «Да, использую. Не беру готовый текст или ответ (они не всегда надёжны), но применяю для создания структуры/плана доклада или эссе)». В целом, уровень удовлетворённости использования студентами ChatGPT производен от их опыта обучения.

Во-вторых, большие языковые модели, ориентированные на образование, всё больше сталкиваются с противостоянием со стороны конкурентов. Ими выступают, прежде всего, компании, создатели платформ онлайн-обучения, и издательства, специализирующиеся на выпуске учебной литературы для университетов. Крупнейшие среди последних, - Pearson и McGraw Hill, - отказались предоставлять свои материалы ChatGPT и другим моделям ИИ. Они хотят использовать своё созданное десятилетиями конкурентное преимущество. «Студентам нужен контент от проверенных поставщиков», — утверждает Kate Edwards (Кейт Эдвардс), главный педагог Pearson. Компания использовала контент для обучения своих собственных моделей, которые она встраивает в свой набор обучающих приложений [13]. Можно предположить, что, если не произойдёт радикальных изменений в машинном обучении моделей искусственного интеллекта, то качество предоставляемых ими ответов будет на уровне Wikipedia, которая знает всё, но поверхностно. В образовательном процессе крайне важна качественная, проверенная информация, знания, которые студенты, магистранты, и, особенно аспиранты, получают первыми от своих профессоров (преподавателей) и научных исследователей. Кроме того, усиливается конкуренция между компаниями-универсалами, такими как OpenAI, создатель ChatGPT, и специализированными компаниями в области высшего образования, использующими искусственный интеллект. Именно эта конкуренция вместе с более полным учётом запросов университетов и государственного регулирования позволит создать более высокий уровень применения моделей ИИ в системе высшего образования.

В-третьих, надо честно предупреждать студентов и преподавателей от восторженного отношения к применению технологий искусственного интеллекта в сфере образования. У всех предыдущих проектов цифровых гигантов «плохая репутация». Uber обещал городам стать заменой общественному транспорту своими дешевыми поездками на беспилотных автомобилях, Facebook обещал решить проблемы связи на глобальном Юге, Tesla обещала с помощью своих электромобилей бороться с «потеплением» планеты. Ни одно из этих обещаний выполнено не было. Предоставление на первом этапе, который мы проходим сегодня, относительно дешёвых технологий искусственного интеллекта в образовании может обернуться их резким ростом, как показывает опыт цифровых гигантов, в последующие годы. Риск завышенных ожиданий от технологий может породить ущемление развития человеческого капитала в образовательном процессе. Идеализация совершенствования больших языковых моделей как средства обучения студентов может вызвать колоссальные издержки университетов на приобретение технологий искусственного интеллекта, а выгоды, - в повышении качества знаний, умений и навыков выпускников, - могут быть едва заметными из-за действия «парадокса производительности».

Риск «бюрократизации» (формализации) системы высшего образования

Он уже начался за счёт расширения применения моделей ИИ, с которыми взаимодействуют в процессе обучения студенты (обучающиеся), и сокращения взаимодействия с «живыми» профессорами (преподавателями). В чём здесь главная опасность? Алгоритмы искусственного интеллекта «знают» только то, что было ранее; то, что в них заложено создателями. Шаг в сторону, и появляется непонимание со стороны ИИ, и раздражение со стороны обучающихся. Это провоцирует новые области конфликтов в университетах, но уже не между администрацией и студентами, а между чат-ботами и обучающимися. Ценности, которые были заложены при создании Большой языковой модели (БЯМ), могут совершенно иначе восприниматься студентами через ряд лет. Как отмечал В. Радаев, формируется принципиально иное отношение к тексту — не как к источнику сокрытого в его недрах смысла, который ещё нужно из него добывать упорным трудом, а как к источнику информации, которая должна быть очищена, нарезана, упакована и готова к употреблению, подобно продуктам в супермаркете [14]. И чем больше будет в университетах таких «продуктов из супермаркета», тем больше будет роль бюрократии в высшем образовании, тем ниже уровень преподавания и возможности совершенствования человеческого капитала профессоров (преподавателей).

Кроме того, выпускники в этом случае будут лучше взаимодействовать с машинами, но крайне плохо – с коллегами и клиентами. В результате специалисты будут иметь хорошие «твердые» навыки, позволяющие им найти первое рабочее место, но не будут успешными в развитии своей карьеры. Отметим также, что все трудовые операции, которые могут быть формализованы, впоследствии легко заменяются технологиями искусственного интеллекта. Следовательно, для уменьшения негативных последствий «бюрократизации» системы высшего образования необходимо будет внести социально-экономические изменения. В связи с этим, Тайсон и Зисман отмечали следующее. Искусственный интеллект и интеллектуальные инструменты и системы, которые он использует, автоматизируют многие рутинные задачи, изменят существующие задачи и создадут новые задачи для людей, часто связанные с новыми формами сотрудничества человека и машины и новыми формами организации труда. В этом процессе продолжающихся структурных изменений будут – и уже есть – как победители, так и проигравшие [15, р. 266]. Для того, чтобы выпускники университетов были на стороне победивших, система высшего образования должна обеспечить их полноценными «мягкими навыками», обеспечивающими адаптацию к меняющимся «бизнес-процессам». Усиление бюрократизации системы высшего образования ведёт к ухудшению качества образования.

Риски целей в системе высшего образования

Формализация образования при расширении применения моделей ИИ будет только усиливаться. Алгоритмы искусственного интеллекта наиболее эффективны, когда они имеют чёткие цели, которых необходимо достичь. Как отмечал, в связи с этим Расселл, «Стандартная модель разработки систем ИИ предполагает фиксированную, известную цель, которую система ИИ должна оптимизировать своими действиями. Системы, разработанные в рамках стандартной модели, становятся все более успешными. … я ожидаю, что стандартная модель будет становиться все более несостоятельной в реальных приложениях из-за сложности полного и правильного определения целей». [16]. Напомним, что когда человек знает (что-то, какую-то проблему, в которой он разбирается), то он сомневается. Когда он не знает, то он имеет твёрдое мнение. Если мы всё время имеем фиксированную цель, то развитие невозможно. Оно становится заложником «прошлых» истин, которые неверны в новых условиях. Цели провоцируют создание извращенных результатов, если экономические агенты чрезмерно сосредотачиваются на их выполнении. Кроме того, люди (работники) адаптивны к фиксированным целям, меняя своё экономическое поведение так, как это выгодно им., а не «постановщикам целей».

Применительно к высшему образованию стоит напомнить, что существующая в университетах система заключения контрактов и продвижения по карьерной лестнице основана на производстве научных статей и учебных пособий, которое можно легко измерить, а не на качестве преподавания, которое невозможно измерить. Как следствие, преподаватели университетов отвлекаются от учебной работы со студентами на заполнение различных форм. Получается «подмена тезиса»: измерение эффективности труда профессоров и преподавателей зависит от тех параметров, которые могут быть замерены с помощью алгоритмов искусственного интеллекта (заполнение форм отчетности, количество статей и т. п.), а не потому насколько качественно и интересно ведутся лекции и практические занятия. Именно поэтому часто страдают студенты.

В школах ориентация на то, чтобы платить больше учителям, чьи выпускники будут иметь более высокие баллы ЕГЭ, приводит к «натаскиванию», но не к лучшим знаниям, умениям и навыкам выпускников. В более широком плане проблема постановки целей - «одержимость измерениями», - отражает недоучет реальности экономики и, в частности, концепции «временной ставки дисконтирования». Напомним, что люди (экономические агенты) обладают высокой временной ставкой дисконтирования, если в их разуме значение будущих событий снижается при сопоставлении с сегодняшними удовольствиями. Напротив, люди имеют низкую временную ставку дисконтирования, если по их текущей работе более поздние выгоды представляются большими (то есть они не «дисконтированы»). [17, с. 45). Применительно к нашей теме получается, что цели, которые ставятся алгоритмами ИИ, страдают недоучетом необходимости низкой временной ставки дисконтирования

В более общем плане, что является целью системы высшего образования будущего: выпускники, умеющие работать с ИИ, или совершенствование их человеческого капитала?

Если важно проверить текущие знания студентов по преподаваемому сейчас учебному курсу, то технологии искусственного интеллекта в образовании (AIEd или ИИО), используя тестовую форму, могут сделать это сейчас оперативнее и, наверно, объективнее существующих профессоров и преподавателей. Более того, применяя персональные данные обучаемого об освоении данного предмета (предшествующих предметов) ИИО могут повысить эффективность освоения им предмета. В ближайшей перспективе, - 3–5 лет, - необходимо, по мнению авторов, технологически переоснащать российские университеты для использования преимуществ контроля знаний со стороны моделей искусственного интеллекта в образовании. В более широком плане это поможет формированию у выпускников ВУЗов навыков взаимодействия с интеллектуальными машинами.

Выпускники университетов будут лучше взаимодействовать с машинами, но хуже с людьми: коллегами, клиентами. Возможен сильный «перекос» в сторону «твердых» навыков, в ущерб «мягким» навыкам, ориентированным на формирования умений работы в команде, лидерство. В чём тогда будут конкурентные преимущества таких выпускников по сравнению с большими языковыми моделями?

Для избежания этого авторы предлагают увеличить применение инновационных образовательных практик при проведении занятий. Здесь надо точнее учитывать особенности поколений Y и Z, составляющих сегодняшнее студенчество, прежде всего, их принципиально большую вовлечённость в цифровую экономику, чем у их преподавателей и профессоров. Отличительными чертами восприятия учебной информации студентами поколений Y и Z являются мультизадачность, неспособность к критическому осмыслению и восприятию большого объёма сложной информации, атомизация мышления, инфантилизм и пристрастие к игровым формам, вытеснение реального общения виртуальным [18]. Поэтому процесс образования обучающихся поколений Y и Z должен больше стимулировать их за счёт повышения привлекательности процесса обучения, большего живого (интерактивного) взаимодействия между преподавателями и студентами. Ведь истина, которая создаётся вместе, ценнее заранее заданных правил. Авторы предлагают шире применять визуальное искусство [19], дискуссии (баттлы), интерактивность при проведении занятий. Именно такие инновационные образовательные практики помогают развивать человеческий капитал студентов, их стремление к саморазвитию для более глубокого освоения различных предметов, которые составят их конкурентное преимущество на рынке труда будущего и понадобятся им в дальнейшей трудовой деятельности. Не случайно недавнее исследование Всемирного экономического форума выявило, что важность творческого мышления, по мнению опрошенных предприятий, растёт быстрее, чем важность аналитического мышления [20, р.7]. То есть применение нами образов «визуального искусства» наиболее ценно для подготовки будущих специалистов. Поэтому преподавателям важно опираться для повышения качества образования и на вопросы программы, и на то, что интересно студентам [21].

Риск усиления неравенства

Применение технологий искусственного интеллекта происходит в университетах крайне неравномерно. Сегодня уже существуют значительные отличия в заработных платах выпускников селективных ВУЗов [22] и обычных университетов, выпускников ВУЗов и выпускников СПО [23]. Та же тенденция наблюдается и в мире [24]. Использование моделей ИИ в образовании будет происходить активнее в селективных университетах, чем в рядовых университетах. Информация о прохождении подготовки с использованием искусственного интеллекта в резюме выпускников будет обеспечивать, при прочих равных условиях, на 20–25% более высокую заработную плату. Это, с одной стороны, сделает выпускников селективных университетов более конкурентоспособными по сравнению с их коллегами из других стран, а, с другой стороны, углубит неравенство между ними и выпускниками обычных российских университетов.

Следовательно, в самом ближайшем будущем необходимо создание государственных программ по применению технологий искусственного интеллекта в ВУЗах России, облегчая их доступность для всех студентов. С этих позиций введение с 1 января 2024 года ГОСТа Р 70949–2023 «Технологии искусственного интеллекта в образовании. Применение искусственного интеллекта в научно-исследовательской деятельности. Варианты использования» [25] является первым шагом в этом направлении. Дальнейшее движение должно быть связано с введением в Российской Федерации термина «Грамотность в области искусственного интеллекта» в учебные программы ВУЗов. Как показывает мировой опыт, следует выделить два временных периода в освоении ИИ в университетском образовании. Первый из них может быть назван «технологическим». Он характеризовался сосредоточением на образовании в области информатики и существовал до 2021 года. Сам термин «грамотность в области искусственного интеллекта» появился впервые в 2016 году и определялся как способность понимать основные методы и концепции, лежащие в основе продуктов ИИ [26]. В таком определении он не «прижился». К числу достоинств в педагогическим плане следует отнести обучение на основе совместных проектов, включая такие виды деятельности как работа с роботами, решение проблем, игровые элементы, разработка программного обеспечения, а к числу недостатков – требования от студентов предварительного знания программирования и не готовность обеспечить понимание ими искусственного интеллекта. Он может быть также назван «американским», так как анализ публикационной активности в Scopus и в Web of Science показал, что больше всего статей написано в США (25) [27]. Их число больше, чем в следующих за ними (2, 3, …, 11) странах: Испании, Англии, Канада, Гонконг, Таиланд, Мексика, Румыния, Бразилия, Китай, Тайвань) вместе взятых.

Второй этап, начавшийся с 2021 года, может быть назван «современным». Его отличительной чертой является переход от ориентации на технологии к междисциплинарному подходу. Исследователи связывают «грамотность в области искусственного интеллекта» с навыками общения и сотрудничества с использованием ИИ [28]; [29],

Лонг и Магерко [Long and Magerko] представляют ряд компетенций и соображений по проектированию грамотности в области ИИ, которые, по нашему мнению, целесообразно взять за основу в российских университетах. Их исследование выявило 17 компетенций, которые находятся на нижних уровнях таксономии знаний, и 13 дизайнерских соображений. Ключевые компетенции, предложенные Лонгом и Магерко, выделены нами в Таблице 2.

Таблица 2. Система компетенций грамотности в сфере искусственного интеллекта [Составлено по Long and Magerko, 2020]

Компетенция
Описание/результаты обучения
1. Распознавание искусственного интеллекта
Различать технологические артефакты, использующие и не использующие ИИ.
2. Понимание интеллекта
Критически проанализировать и обсудить особенности, которые делают объект «умным». Обсудите различия между интеллектом человека, животных и машины.
3. Междисциплинарность
Признать, что существует множество способов думать и разрабатывать «умные» машины. Определить различные технологии, в которых используется ИИ, включая технологии, охватывающие когнитивные системы, робототехнику и машинное обучение.
4. Общий ИИ против узкого ИИ
Различать общий и узкий искусственный интеллект.
5. Сильные и слабые стороны искусственного интеллекта
Определять типы проблем, с которыми ИИ справляется/не справляется. Определять, когда уместно использовать ИИ, а когда использовать человеческие навыки.
6. Представить себе будущий ИИ
Представить себе возможные будущие применения ИИ и рассмотреть влияние таких приложений на мир.
7. Представления
Понять, что такое представление знаний, и описать несколько примеров представлений знаний.
10. Роль человека в искусственном интеллекте
Признать, что люди играют важную роль в программировании, выборе моделей и точной настройке систем искусственного интеллекта.
14. Действие и противодействие
Понять, что некоторые системы ИИ обладают способностью физически воздействовать на мир. Это действие может направляться рассуждениями более высокого уровня (например, ходьба по запланированному пути) или реактивными импульсами (например, прыжок назад, чтобы избежать обнаруженного препятствия).
15. Датчики
Разобраться, что такое датчики и что компьютеры воспринимают мир с помощью датчиков. Идентификация датчиков на различных устройствах. Признать, что разные сенсоры поддерживают разные типы представления и рассуждений о мире.
16. Этика
Определить и описать различные точки зрения на ключевые этические проблемы, связанные с искусственным интеллектом: конфиденциальность, занятость, дезинформация, «единственность» (описывает момент, когда ИИ становится более разумным, чем люди, и может сопровождаться опасениями, что ИИ намеренно причинит вред людям), принятие решений, разнообразие, предвзятость, прозрачность и подотчетность.
17. Программируемость
Понять, что агенты являются программируемыми.
Некоторые из этих компетенций уже применяются авторами при проведении занятий со студентами. В частности, вторая, третья, пятая, шестая, десятая и шестнадцатая компетенции используются в курсе «Поведенческая экономика».

Далее национальным системам высшего образования необходимо переходить к комплексу мер по практическому внедрению технологий искусственного интеллекта в образовательный процесс в университетах. В качестве образца можно использовать опыт КНР, которая ввела «Инновационный план действий по искусственному интеллекту в высших учебных заведениях» [30] направленный на расширение возможностей ИИ в университетах Китая. Другие страны ввели за последние годы частные программы развития искусственного интеллекта в университетах. Подробный анализ представлен в [31].

Риск долгосрочного периода («Х» риск) – отмирание необходимости в высшем образовании для будущих поколений с развитием Общего искусственного интеллекта

В монографии «Экономика искусственного интеллекта: перспективы и риски» дан подробный анализ рисков применения технологий искусственного интеллекта, как в краткосрочном, так и в долгосрочном периоде [32]. В «лёгкой» форме этот процесс проходит в сфере образования уже сейчас. По мере развития цифровизации и использования ежедневно различных девайсов у студентов отмирают навыки считать, грамотно писать. Надо ли системе высшего образования «до последнего» конкурировать с развитием возможностей больших языковых моделей? В более широком плане: должно ли образование развиваться за счёт применения новых технологий, прежде всего, искусственного интеллекта или за счёт развития человеческого капитала профессоров (преподавателей)?

Хамильтон и др. выстраивают концепцию четырех временных этапов взаимодействия системы образования и технологий искусственного интеллекта [33].

Первый этап относится к настоящему времени и связан с глобальным запретом больших языковых моделей. Текущий период должен быть использован для разработки лучшего регулирования и мер безопасности технологий искусственного интеллекта. На этом этапе система образования сохраняется, человеческий капитал преподавателей и студентов развивается, в том числе, за счёт использования уже созданных моделей ИИ в образовании, проходит широкое обсуждение вариантов последующего взаимодействия человечества с искусственным интеллектом. На наш взгляд, при всей его целесообразности данный этап в условиях современной международной обстановки вряд ли возможен.

На втором этапе, который начнется с 2035 года работники и большие языковые модели трудятся бок о бок. Несмотря на то, что технологии ИИ имеют преимущество перед всеми видами человеческого труда, люди сохраняются на рабочих местах благодаря правительственным законам, обязывающим компании к этому. Ценность получения образования снижается, так как работники не находятся больше в авангарде идей или принятия решений, поскольку не могут думать со скоростью и уровнем сложности моделей искусственного интеллекта. Поэтому возможно, что сейчас люди находятся на пике своего образовательного потенциала.

На третьем этапе, который возможен после 2045 года, люди постараются взять своеобразный реванш, вернув себе первенство над машинами, за счёт внедрения интерфейса «Мозг – Машина». Университетское образование в этом случае будет не нужно, поскольку все необходимые знания и навыки мы сможем «загружать» мгновенно из облака. Наряду с «плюсами» данное направление, являющееся частью реализации концепции трансгуманизма, несёт явный минус в утрате нами человечности и превращении в «машиноподобных». Кроме того, третий этап вряд ли стоит относить так далеко, поскольку уже сейчас компания Neuralink Илона Маска занимается разработкой чипа, который можно встроить непосредственно в мозг человек. На четвертом этапе, который может быть назван «Универсальный базовый доход» и начнётся примерно с 2040 года, люди полностью устраняются из народного хозяйства, оставляя технологиям искусственного интеллекта, как право принимать все решения, так и обязанность производить все товары и услуги. Каждый человек в этих условиях получает свой «универсальный базовый доход». О возможности такого сценария заявляли как некоторые разработчики моделей ИИ, включая Сэма Альтмана (OpenAI), так и Илон Маск. Плюсом такого подхода является отсутствие необходимости вживлять «цифровые импланты», а минусом – исключение человечества впервые за его историю из хозяйственной жизни. Система образования может быть использована только для совершенствования нас в искусстве и в спорте.

Какой из этих сценариев станет преобладать, покажет только время, но, по нашему мнению, возможен «гибридный» вариант, сочетающий элементы двух или трех временных этапов. Достигнет ли система высшего образования в результате применения технологий искусственного интеллекта пика своего развития или быстро станет неконкурентоспособной с большими языковыми моделями покажет только время. В любом случае, нужно быть готовым к тому, что роль системы высшего образования в обществе будет принципиально меняться под воздействием технологий искусственного интеллекта. Для её сохранения и развития национальным государствам уже сейчас необходимо применять комплекс мер государственного регулирования.

Выводы и последующие исследования

Суммируя перечисленные риски, выявим основной риск в использовании искусственного интеллекта в высшем образовании: пустить его освоение студентами и преподавателями на «самотёк». Система высшего образования должна возглавить использование ИИ в народном хозяйстве. Задачами этого возможного лидерства являются:

1. гарантировать ответственное, компетентное и честное использование искусственного интеллекта в повседневной жизни;

2. подготовить сегодняшних студентов к решению этических, экономических и социальных проблем, которые могут возникнуть по мере более широкого распространения ИИ;

3. обучить выпускников университетов так, чтобы они были способны внести свой вклад в развитие искусственного интеллекта.

На основе российского опыта и мировых образовательных трендов можно сделать вывод, что в последние годы обучение искусственному интеллекту переходит от ориентированного на технологии к междисциплинарному подходу. Это движение происходит навстречу друг другу с двух сторон. Более того, глобальные инициативы начали включать грамотность в области ИИ в новейшие образовательные стандарты и стратегические инициативы. С этих позиций введение с января 2024 года ГОСТа Р 70949–2023 «Технологии искусственного интеллекта в образовании» - шаг в верном направлении. Хотелось бы, зная российские реалии, большего участия образовательного сообщества в его реализации. Дальнейшие шаги, по нашему мнению, должны быть связаны с применением компетенций «грамотности в области искусственного интеллекта» в учебных программах и курсах университетов России, введение предмета «Искусственный интеллект» в учебные программы как технологических, так и нетехнологических направлений университетской подготовки.


Источники:

1. Hasselberger W. Review: Can Machines Have Common Sense?
Reviewed Work: The Myth of Artificial Intelligence: Why Computers Can’t Think the Way We Do Erik J. Larson // The New Atlantis. No. 65 (Summer 2021), pp. 94-109
2. AbduljabbarR., DiaH., LiyanageS., BagloeeS. A. Applicationsofartificialintelligenceintransport: Anoverview // Sustainability. – 2019. – № 11(1). – p. 189.
3. Wu J., Wang X., Dang Y., Lv Z. Digital twins and artificial intelligence in transportation infrastructure: Classification, application, and future research directions // Computers and Electrical Engineering. – 2022. – p. 107983.
4. Eggmann F., Weiger R., Zitzmann N. U., Blatz M. B. Implications of large language models such as ChatGPT for dental medicine // Journal of Esthetic and Restorative Dentistry. – 2023.
5. Yu K.-H., Beam A. L., Kohane I. S. Artificial intelligence in healthcare // Nature Biomedical Engineering. – 2018. – p. 719–731.
6. Adiguzel T., Kaya M. H., Cansu F. K. Revolutionizing education with AI: Exploring the transformative potential of ChatGPT // Contemporary Educational Technology. – 2023. – p. 429.
7. BholatD., SusskindD. The assessment: Artificial intelligence and financial services // Oxford Review of Economic Policy. – 2021. – № 37(3). – p. 417–434.
8. Buckley R. P., Zetzsche D. A., Arner D. W., Tang B. W. Regulating artificial intelligence in finance: Putting the human in the loop // The Sydney Law Review. – 2021. – № 43(1). – p. 43–81.
9. Chan C. K. Y. Is AI Changing the Rules of Academic Misconduct? An In-depth Look at Students' Perceptions of'AI-giarism' //arXiv preprint arXiv:2306.03358. – 2023
10. Cotton D. R. E., Cotton P. A., Shipway J. R. Chatting and cheating: Ensuring academic integrity in the era of ChatGPT // Innovations in Education and Teaching International. – 2023. – p. 1-12.
11. Chan C. K. Y. A comprehensive AI policy education framework for university teaching and learning // International Journal of Educational Technology in Higher Education. – 2023. – № 1. – p. 38.
12. Карагадаев А.А., Никитская Е.Д., Фролов М.С. От облачных сервисов до аддитивных технологий: дифференциация спроса бизнеса. Цифровая экономика. Экспресс-информация ИСИ и ЭЗ НИУ ВШЭ. [Электронный ресурс]. URL: https://issek.hse.ru/mirror/pubs/share/867012715.pdf (дата обращения: 19.10.2023).
13. School experiments // The Economist January 13th, 2024
14. Радаев В.В. Смотрим кино, понимаем жизнь. 20 социологических очерков. / Сер. Социальная теория. - Москва, 2023.
15. Tyson L. D., Zysman J. Automation, AI & work // Daedalus. – 2022. – № 2. – p. 256-271.
16. Russell S. The history and future of AI // Oxford Review of Economic Policy. – 2021. – № 37(3). – p. 509-520.
17. Лукичёв П. М. Поведенческая экономика. - Санкт-Петербург, 2022.
18. Зверева Е.А. Особенности медиапотребления «поколения Y” и «поколения Z” // Социально-гуманитарные знания. – 2018. – № 8. – c. 205–216.
19. Лукичёв П. М., Кузекова С. А. Роль визуального искусства как инновационной практики в преподавании экономических дисциплин // Инновации в образовании. – 2023. – № 12. – c. 86–94.
20. The Future of Jobs. Report 2023. World Economic Forum. [Электронный ресурс]. URL: https://www.weforum.org/reports/the-future-of- jobs-report-2023/ (дата обращения: 22.02.2024).
21. Лызь Н.А., Лабынцева И. С. Цифровое поколение: трудности студентов и пути их преодоления // Педагогика. – 2022. – c. 86–94.
22. Рожкова К. В., Рощин С. Ю., Солнцев С. А., Травкин П. В. Дифференциация качества высшего образования и заработная плата выпускников в России // Вопросы образования. – 2023. – № 1. – c. 161–190.
23. Капелюшников Р.И. Отдача от образования в России: ниже некуда? // Вопросы экономики. – 2021. – № 8. – c. 37–68.
24. Britton J., Walker I., Waltmann B., Zhu Y. How much does it pay to get good grades at university?. Department for Education/IFS Research report. [Электронный ресурс]. URL: https://ifs. org. uk/publications/how-much-does-it-pay-get-good-grades-university (дата обращения: 22.02.2024).
25. ГОСТ Р 70949-2023 Технологии искусственного интеллекта в образовании. Применение искусственного интеллекта в научно-исследовательской деятельности. Варианты использования. – Москва. Российский институт стандартизации. [Электронный ресурс]. URL: https://allgosts.ru/35/240/gost_r_70949-2023?ysclid=lryyyh4k6w701222747 (дата обращения: 05.03.2024).
26. KandlhoferM., SteinbauerG., LaßnigJ. P., BaumannW., PlomerS., BallagiA., AlfoldiI. (2019). Enablingthecreationofintelligentthings: Bringingartificialintelligenceandroboticstoschools. In 2019 IEEE Frontiers in Education Conference (FIE)(pp. 1–5). IEEE
27. Ng D. T. K., Lee M., Tan R. J. Y., Hu X., Downie J. S., Chu S. K. W. A review of AI teaching and learning from 2000 to 2020 // Education and Information Technologies. – 2023. – № 28(7). – p. 8445-8501.
28. Long D., Magerko B. What is AI literacy? Competencies and design considerations // Proceedings of the 2020 CHI conference on human factors in computing systems. 2020. – p. 1-16.
29. Ng D. T. K., Leung J. K. L., Chu K. W. S., Qiao M. S. AI literacy: Definition, teaching, evaluation and ethical issues // Proceedings of the Association for Information Science and Technology. – 2021. – № 58(1). – p. 504–509.
30. Ministry of Education, People's Republic of China. 2018. Innovative Action Plan for Artificial Intelligence inHigher Education Institutions. [Электронный ресурс]. URL: http://www.moe.gov.cn/srcsite/A16/s7062/201804/ t20180410_332722.html (дата обращения: 29.02.2024).
31. AI and education: Guidance for policy-makers. Unesco. 2021. [Электронный ресурс]. URL: https://unesdoc.unesco.org/ark:/48223/pf0000376709 (дата обращения: 22.02.2024).
32. Лукичев П. М., Чекмарев О.П. Экономика искусственного интеллекта: перспективы и риски. - Санкт-Петербург, 2023. – 188 c.
33. Hamilton A., Wiliam D., Hattie J. The Future of AI in Education: 13 things we can do to minimize the damage. – 2023

Страница обновлена: 03.12.2024 в 12:35:47