Russian Journal of Innovation Economics

Вопросы инновационной экономики

2222-0372

BIBLIO-GLOBUS Publishing House

120731

10.18334/vinec.14.2.120731

MKEVSE

Articles

Статьи

Research Article

Risks of artificial intelligence in higher education

Риски применения искусственного интеллекта в системе высшего образования

Lukichyov

Pavel Mikhaylovich

Лукичёв

Павел Михайлович

профессор кафедры менеджмента организации, доктор экономических наук, профессор

loukitchev20@mail.ru

Chekmarev

Oleg Petrovich

Чекмарев

Олег Петрович

профессор кафедры организации аграрного производства и менеджмента,доктор экономических наук, доцент

oleg1412@mail.ru

Baltic State Technical University «VOENMEH» named after D.F. Ustinov Балтийский государственный технический университет ВОЕНМЕХ им. Д.Ф. Устинова

Saint-Petersburg State Agrarian University Санкт-Петербургский государственный аграрный университет

30 06 2024

14 2

VOL 14, NO2 (2024)

ТОМ 14, №2 (2024)

463 482 08 03 2024 11 03 2024

2024

Lukichyov P.M., Chekmarev O.P.

Лукичёв П.М., Чекмарев О.П.

https://1economic.ru/lib/120731

This article is devoted to analyzing the risks of using artificial intelligence in the higher education system. The relevance of the topic is related to the prospects for applying large language models in such a mass sphere as education. The article evaluates the ability of academic staff to prepare today's students for activities in the future work environment integrated with artificial intelligence. The use of artificial intelligence models in higher education is accompanied by risks. Based on surveys and analysis of the experience of foreign universities, the authors identify the main risks of artificial intelligence in the higher education system. All these short-term risks can be completely overcome by a set of educational policy measures. To do this, it is necessary to create a state program for the use of artificial intelligence in Russian universities. It is concluded that students' level of satisfaction from using ChatGPT is derived from their learning experience. The authors distinguish two time periods in the study of artificial intelligence in university education. Changing the “atmosphere” of university education using artificial intelligence requires intensive retraining of academic staff. The authors substantiate the possibility of a long-term risk (X risk): the extinction of the need for higher education for future generations due to the development of General Artificial Intelligence.

Данная статья посвящена анализу рисков применения искусственного интеллекта в системе высшего образования. Актуальность темы связана с качественно новым уровнем развития больших языковых моделей, как, например, ChatGPT, и перспективами их применения в такой массовой сфере как образование. В статье оцениваются возможности преподавателей университетов по подготовке сегодняшних студентов к деятельности в будущей рабочей среде, интегрированной с искусственным интеллектом. Одновременно с использованием в системе высшего образования моделей искусственного интеллекта возникают и риски их применения. На основе проведенных опросов и анализа опыта зарубежных университетов, авторы выявляют основные риски применения искусственного интеллекта в системе высшего образования. Все эти риски краткосрочного периода вполне преодолимы комплексом мер образовательной политики. Для этого необходимо создание государственной программы по применению технологий искусственного интеллекта в ВУЗах России Делается вывод, что уровень удовлетворённости студентов от использования ChatGPT, производен от их опыта обучения. Авторы выделяют два временных периода в освоении искусственного интеллекта в университетском образовании. Изменение «атмосферы» университетского образования за счёт применения искусственного интеллекта требует интенсивной переподготовки профессорско-преподавательского состава ВУЗов, основные задачи которой выделены в статье. Авторы обосновывают возможность возникновения риска долгосрочного периода («Х» риска) – отмирание необходимости в высшем образовании для будущих поколений из-за развития Общего искусственного интеллекта

risk risk of artificial intelligence in education human capital higher education system

риски риски применения искусственного интеллекта в образовании человеческий капитал система высшего образования

1. Hasselberger W. Review: Can Machines Have Common Sense?

2. Larson // The New Atlantis. No. 65 (Summer 2021), pp. 94-109 2. AbduljabbarR., DiaH., LiyanageS., BagloeeS. A. Applicationsofartificialintelligenceintransport: Anoverview // Sustainability. – 2019. – № 11(1). – p. 189. 3. Wu J., Wang X., Dang Y., Lv Z. Digital twins and artificial intelligence in transportation infrastructure: Classification, application, and future research directions // Computers and Electrical Engineering. – 2022. – p. 107983. 4. Eggmann F., Weiger R., Zitzmann N. U., Blatz M. B. Implications of large language models such as ChatGPT for dental medicine // Journal of Esthetic and Restorative Dentistry. – 2023. 5. Yu K.-H., Beam A. L., Kohane I. S. Artificial intelligence in healthcare // Nature Biomedical Engineering. – 2018. – p. 719–731. 6. Adiguzel T., Kaya M. H., Cansu F. K. Revolutionizing education with AI: Exploring the transformative potential of ChatGPT // Contemporary Educational Technology. – 2023. – p. 429. 7. BholatD., SusskindD. The assessment: Artificial intelligence and financial services // Oxford Review of Economic Policy. – 2021. – № 37(3). – p. 417–434. 8. Buckley R. P., Zetzsche D. A., Arner D. W., Tang B. W. Regulating artificial intelligence in finance: Putting the human in the loop // The Sydney Law Review. – 2021. – № 43(1). – p. 43–81. 9. Chan C. K. Y. Is AI Changing the Rules of Academic Misconduct? An In-depth Look at Students' Perceptions of'AI-giarism' //arXiv preprint arXiv:2306.03358. – 2023 10. Cotton D. R. E., Cotton P. A., Shipway J. R. Chatting and cheating: Ensuring academic integrity in the era of ChatGPT // Innovations in Education and Teaching International. – 2023. – p. 1-12. 11. Chan C. K. Y. A comprehensive AI policy education framework for university teaching and learning // International Journal of Educational Technology in Higher Education. – 2023. – № 1. – p. 38. 12. Карагадаев А.А., Никитская Е.Д., Фролов М.С. От облачных сервисов до аддитивных технологий: дифференциация спроса бизнеса. Цифровая экономика. Экспресс-информация ИСИ и ЭЗ НИУ ВШЭ. [Электронный ресурс]. URL: https://issek.hse.ru/mirror/pubs/share/867012715.pdf (дата обращения: 19.10.2023).13. School experiments // The Economist January 13th, 2024 14. Радаев В.В. Смотрим кино, понимаем жизнь. 20 социологических очерков. / Сер. Социальная теория. - Москва, 2023. 15. Tyson L. D., Zysman J. Automation, AI work // Daedalus. – 2022. – № 2. – p. 256-271. 16. Russell S. The history and future of AI // Oxford Review of Economic Policy. – 2021. – № 37(3). – p. 509-520. 17. Лукичёв П. М. Поведенческая экономика. - Санкт-Петербург, 2022. 18. Зверева Е.А. Особенности медиапотребления «поколения Y” и «поколения Z” // Социально-гуманитарные знания. – 2018. – № 8. – c. 205–216. 19. Лукичёв П. М., Кузекова С. А. Роль визуального искусства как инновационной практики в преподавании экономических дисциплин // Инновации в образовании. – 2023. – № 12. – c. 86–94. 20. The Future of Jobs. Report 2023. World Economic Forum. [Электронный ресурс]. URL: https://www.weforum.org/reports/the-future-of- jobs-report-2023/ (дата обращения: 22.02.2024).21. Лызь Н.А., Лабынцева И. С. Цифровое поколение: трудности студентов и пути их преодоления // Педагогика. – 2022. – c. 86–94. 22. Рожкова К. В., Рощин С. Ю., Солнцев С. А., Травкин П. В. Дифференциация качества высшего образования и заработная плата выпускников в России // Вопросы образования. – 2023. – № 1. – c. 161–190. 23. Капелюшников Р.И. Отдача от образования в России: ниже некуда? // Вопросы экономики. – 2021. – № 8. – c. 37–68. 24. Britton J., Walker I., Waltmann B., Zhu Y. How much does it pay to get good grades at university?. Department for Education/IFS Research report. [Электронный ресурс]. URL: https://ifs. org. uk/publications/how-much-does-it-pay-get-good-grades-university (дата обращения: 22.02.2024).25. ГОСТ Р 70949-2023 Технологии искусственного интеллекта в образовании. Применение искусственного интеллекта в научно-исследовательской деятельности. Варианты использования. ndash; Москва. Российский институт стандартизации. [Электронный ресурс]. URL: https://allgosts.ru/35/240/gost_r_70949-2023?ysclid=lryyyh4k6w701222747 (дата обращения: 05.03.2024).26. KandlhoferM., SteinbauerG., LaßnigJ. P., BaumannW., PlomerS., BallagiA., AlfoldiI. (2019). Enablingthecreationofintelligentthings: Bringingartificialintelligenceandroboticstoschools. In 2019 IEEE Frontiers in Education Conference (FIE)(pp. 1–5). IEEE 27. Ng D. T. K., Lee M., Tan R. J. Y., Hu X., Downie J. S., Chu S. K. W. A review of AI teaching and learning from 2000 to 2020 // Education and Information Technologies. – 2023. – № 28(7). – p. 8445-8501. 28. Long D., Magerko B. What is AI literacy? Competencies and design considerations // Proceedings of the 2020 CHI conference on human factors in computing systems. 2020. – p. 1-16.29. Ng D. T. K., Leung J. K. L., Chu K. W. S., Qiao M. S. AI literacy: Definition, teaching, evaluation and ethical issues // Proceedings of the Association for Information Science and Technology. – 2021. – № 58(1). – p. 504–509. 30. Ministry of Education, People's Republic of China. 2018. Innovative Action Plan for Artificial Intelligence inHigher Education Institutions. [Электронный ресурс]. URL: http://www.moe.gov.cn/srcsite/A16/s7062/201804/ t20180410_332722.html (дата обращения: 29.02.2024).31. AI and education: Guidance for policy-makers. Unesco. 2021. [Электронный ресурс]. URL: https://unesdoc.unesco.org/ark:/48223/pf0000376709 (дата обращения: 22.02.2024).32. Лукичев П. М., Чекмарев О.П. Экономика искусственного интеллекта: перспективы и риски. - Санкт-Петербург, 2023. – 188 c.33. Hamilton A., Wiliam D., Hattie J. The Future of AI in Education: 13 things we can do to minimize the damage. – 2023

3. Wu J., Wang X., Dang Y., Lv Z. Digital twins and artificial intelligence in transportation infrastructure: Classification, application, and future research directions // Computers and Electrical Engineering. – 2022. – p. 107983.

4. Eggmann F., Weiger R., Zitzmann N. U., Blatz M. B. Implications of large language models such as ChatGPT for dental medicine // Journal of Esthetic and Restorative Dentistry. – 2023.

5. Yu K.-H., Beam A. L., Kohane I. S. Artificial intelligence in healthcare // Nature Biomedical Engineering. – 2018. – p. 719–731.

6. Adiguzel T., Kaya M. H., Cansu F. K. Revolutionizing education with AI: Exploring the transformative potential of ChatGPT // Contemporary Educational Technology. – 2023. – p. 429.

7. BholatD., SusskindD. The assessment: Artificial intelligence and financial services // Oxford Review of Economic Policy. – 2021. – № 37(3). – p. 417–434.

8. Buckley R. P., Zetzsche D. A., Arner D. W., Tang B. W. Regulating artificial intelligence in finance: Putting the human in the loop // The Sydney Law Review. – 2021. – № 43(1). – p. 43–81.

9. Chan C. K. Y. Is AI Changing the Rules of Academic Misconduct? An In-depth Look at Students' Perceptions of'AI-giarism' //arXiv preprint arXiv:2306.03358. – 2023

10.

10. Cotton D. R. E., Cotton P. A., Shipway J. R. Chatting and cheating: Ensuring academic integrity in the era of ChatGPT // Innovations in Education and Teaching International. – 2023. – p. 1-12.

11.

11. Chan C. K. Y. A comprehensive AI policy education framework for university teaching and learning // International Journal of Educational Technology in Higher Education. – 2023. – № 1. – p. 38.

12.

12. Карагадаев А.А., Никитская Е.Д., Фролов М.С. От облачных сервисов до аддитивных технологий: дифференциация спроса бизнеса. Цифровая экономика. Экспресс-информация ИСИ и ЭЗ НИУ ВШЭ. [Электронный ресурс]. URL: https://issek.hse.ru/mirror/pubs/share/867012715.pdf (дата обращения: 19.10.2023).

13.

13. School experiments // The Economist January 13th, 2024

14.

14. Радаев В.В. Смотрим кино, понимаем жизнь. 20 социологических очерков. / Сер. Социальная теория. - Москва, 2023.

15.

15. Tyson L. D., Zysman J. Automation, AI work // Daedalus. – 2022. – № 2. – p. 256-271.

16.

16. Russell S. The history and future of AI // Oxford Review of Economic Policy. – 2021. – № 37(3). – p. 509-520.

17.

17. Лукичёв П. М. Поведенческая экономика. - Санкт-Петербург, 2022.

18.

18. Зверева Е.А. Особенности медиапотребления «поколения Y” и «поколения Z” // Социально-гуманитарные знания. – 2018. – № 8. – c. 205–216.

19.

19. Лукичёв П. М., Кузекова С. А. Роль визуального искусства как инновационной практики в преподавании экономических дисциплин // Инновации в образовании. – 2023. – № 12. – c. 86–94.

20.

20. The Future of Jobs. Report 2023. World Economic Forum. [Электронный ресурс]. URL: https://www.weforum.org/reports/the-future-of- jobs-report-2023/ (дата обращения: 22.02.2024).

21.

21. Лызь Н.А., Лабынцева И. С. Цифровое поколение: трудности студентов и пути их преодоления // Педагогика. – 2022. – c. 86–94.

22.

22. Рожкова К. В., Рощин С. Ю., Солнцев С. А., Травкин П. В. Дифференциация качества высшего образования и заработная плата выпускников в России // Вопросы образования. – 2023. – № 1. – c. 161–190.

23.

23. Капелюшников Р.И. Отдача от образования в России: ниже некуда? // Вопросы экономики. – 2021. – № 8. – c. 37–68.

24.

24. Britton J., Walker I., Waltmann B., Zhu Y. How much does it pay to get good grades at university?. Department for Education/IFS Research report. [Электронный ресурс]. URL: https://ifs. org. uk/publications/how-much-does-it-pay-get-good-grades-university (дата обращения: 22.02.2024).

25.

25. ГОСТ Р 70949-2023 Технологии искусственного интеллекта в образовании. Применение искусственного интеллекта в научно-исследовательской деятельности. Варианты использования. ndash; Москва. Российский институт стандартизации. [Электронный ресурс]. URL: https://allgosts.ru/35/240/gost_r_70949-2023?ysclid=lryyyh4k6w701222747 (дата обращения: 05.03.2024).

26.

26. KandlhoferM., SteinbauerG., LaßnigJ. P., BaumannW., PlomerS., BallagiA., AlfoldiI. (2019). Enablingthecreationofintelligentthings: Bringingartificialintelligenceandroboticstoschools. In 2019 IEEE Frontiers in Education Conference (FIE)(pp. 1–5). IEEE

27.

27. Ng D. T. K., Lee M., Tan R. J. Y., Hu X., Downie J. S., Chu S. K. W. A review of AI teaching and learning from 2000 to 2020 // Education and Information Technologies. – 2023. – № 28(7). – p. 8445-8501.

28.

28. Long D., Magerko B. What is AI literacy? Competencies and design considerations // Proceedings of the 2020 CHI conference on human factors in computing systems. 2020. – p. 1-16.

29.

29. Ng D. T. K., Leung J. K. L., Chu K. W. S., Qiao M. S. AI literacy: Definition, teaching, evaluation and ethical issues // Proceedings of the Association for Information Science and Technology. – 2021. – № 58(1). – p. 504–509.

30.

30. Ministry of Education, People's Republic of China. 2018. Innovative Action Plan for Artificial Intelligence inHigher Education Institutions. [Электронный ресурс]. URL: http://www.moe.gov.cn/srcsite/A16/s7062/201804/ t20180410_332722.html (дата обращения: 29.02.2024).

31.

31. AI and education: Guidance for policy-makers. Unesco. 2021. [Электронный ресурс]. URL: https://unesdoc.unesco.org/ark:/48223/pf0000376709 (дата обращения: 22.02.2024).

32.

32. Лукичев П. М., Чекмарев О.П. Экономика искусственного интеллекта: перспективы и риски. - Санкт-Петербург, 2023. – 188 c.

33.

33. Hamilton A., Wiliam D., Hattie J. The Future of AI in Education: 13 things we can do to minimize the damage. – 2023