Russian Journal of Innovation Economics Russian Journal of Innovation Economics Вопросы инновационной экономики 2222-0372 BIBLIO-GLOBUS Publishing House 119948 10.18334/vinec.13.4.119948 JKQVLU Articles Статьи Research Article Artificial intelligence in the economy: long-term risks Долгосрочные риски применения искусственного интеллекта в экономике https://orcid.org/0000-0001-9452-93329178-1317 Lukichyov Pavel Mikhaylovich Лукичёв Павел Михайлович

профессор кафедры менеджмента организации, доктор экономических наук, профессор

 loukitchev20@mail.ru https://orcid.org/0000-0002-9060-07928686-9645 Chekmarev Oleg Petrovich Чекмарев Олег Петрович

профессор кафедры организации аграрного производства и менеджмента, доктор экономических наук, доцент

 oleg1412@mail.ru Baltic State Technical University «VOENMEH» named after D.F. Ustinov Балтийский государственный технический университет ВОЕНМЕХ им. Д.Ф. Устинова Saint-Petersburg State Agrarian University Санкт-Петербургский государственный аграрный университет 24 12 2023 13 4 VOL 13, NO4 (2023) ТОМ 13, №4 (2023) 2427 2442 19 11 2023 22 11 2023 Copyright ©; 2023, Lukichyov P.M., Chekmarev O.P. Copyright ©; 2023, Лукичёв П.М., Чекмарев О.П. 2023 Lukichyov P.M., Chekmarev O.P. Лукичёв П.М., Чекмарев О.П. https://1economic.ru/lib/119948

The article characterizes the risks arising from the use of artificial intelligence technology in the long term. The authors identify two qualitatively different levels of risks posed by the use of large language models at the macro-level in the long term. Tail and existential risks from the application of artificial intelligence models have the potential to temporarily or permanently limit the long-term potential of humanity. A comparison of the risks of using artificial intelligence at the micro-level and at the macro-level reveals qualitatively different opportunities for preventing or reducing them. The authors especially highlight the political economic risks of applying artificial intelligence models in the future, which necessitate the replacement of the existing economic ideology. An analysis of the reality of the implementation of previous projects by digital monopolies shows their focus on making profit rather than solving the problems of humanity. Therefore, the technologies created by large language models are more focused on reducing costs than on improving human potential. It is concluded that it is necessary to use a scenario approach to analyze the risks of applying artificial intelligence in the long term; and an analysis criterion is introduced.

В статье даётся характеристика рисков, возникающих при применении технологий искусственного интеллекта в долгосрочном периоде. Авторы выявляют два качественно разных уровня рисков, которые несёт применение больших языковых моделей на макроуровне в долгосрочном периоде. Хвостовые риски и экзистенциальные риски от использования моделей искусственного интеллекта способны временно или постоянно (навсегда) ограничить долгосрочный потенциал человечества. Сопоставление рисков применения искусственного интеллекта на микроуровне и на макроуровне обнаруживает качественно разные возможности для их предотвращения или уменьшения. Авторы особо выделяют политэкономические риски использования моделей искусственного интеллекта в будущем, которые вызывают необходимость замены существующей экономической идеологии. Анализ реальности воплощения предыдущих проектов цифровыми монополиями показывает их ориентацию на извлечение прибыли, а не на решение проблем человечества. Поэтому и технологии, создаваемые большими языковыми моделями, больше ориентированы на снижение издержек, чем на улучшение человеческого потенциала. В заключении делается вывод о необходимости использования сценарного подхода к анализу рисков применения искусственного интеллекта в долгосрочном периоде и вводится критерий анализа.

 artificial intelligence risks government regulation long-term risks large language models искусственный интеллект риски государственное регулирование риски долгосрочного периода большие языковые модели 1. Clancy M., Correa D., Dworkin J., Niehaus P., Watney C., Williams H. Want to speed up scientific progress? First understand how science policy works // Nature. – 2023. – № 7975. – p. 724-726. 2. Лукичёв П.М., Чекмарев О.П. Риски применения искусственного интеллекта в краткосрочном периоде // Вопросы инновационной экономики. – 2023. – № 4. – doi: 10.18334/vinec.13.4.119359. 3. Ayling J., Chapman A. Putting AI ethics to work: are the tools fit for purpose? // AI and Ethics. – 2022. – № 3. – p. 405-429. – doi: 10.1007/s43681-021-00084-x. 4. Taleb N.N. Statistical consequences of fat tails: Real world preasymptotics, epistemology, and applications. , 2020. – 446 p. 5. Ord T. The precipice: Existential risk and the future of humanity. - United Kingdom: Hachette Books, 2020. – 468 p. 6. Hendrycks D., Mazeika M. X-risk analysis for ai research. Arxiv.org. [Электронный ресурс]. URL: https://arxiv.org/pdf/2206.05862.pdf. 7. Farrell H., Shalizi C. Artificial intelligence is a familiar-looking monster, say Henry Farrell and Cosma Shalizi. The Economist. [Электронный ресурс]. URL: https://www.economist.com/by-invitation/2023/06/21/artificial-intelligence-is-a-familiar-looking-monster-say-henry-farrell-and-cosma-shalizi. 8. How can we reduce customer churn?. In irrationallabs.com. [Электронный ресурс]. URL: https://irrationallabs.com/casestudies/google-how-can-we-reduce-customer-churn/ (дата обращения: 30.11.2022). 9. Nioi A., Wendelboe-Nelson C., Cowan S., Cherrie M., Rashid S., Cowie H., Davis A., Ritchie P., Lansdown T., Cherrie J.W. Nudging construction workers towards better sun-safety behaviour: summary of the evidence for practitioners // Policy and Practice in Health and Safety. – 2020. – № 1. – p. 25-33. – doi: 10.1080/14773996.2019.1708614. 10. Benartzi S., Thaler R. Heuristics and biases in retirement savings behavior // Journal of Economic Perspectives. – 2007. – № 3. – p. 81-104. – doi: 10.1257/jep.21.3.81. 11. Weijers R.J., de Koning B.B. Nudging to increase hand hygiene during the COVID-19 pandemic: A field experiment // Canadian Journal of Behavioural Science. – 2021. – № 3. – p. 353. – doi: 10.1037/cbs0000245. 12. Gopnik A. What AI Still Doesn’t Know How to Do. The Wall Street Journal. [Электронный ресурс]. URL: https://www.wsj.com/articles/what-ai-still-doesnt-know-how-to-do-1165789131627. 13. Scott J.C. Seeing like a state: How certain schemes to improve the human condition have failed. - London: Yale University Press, 2020. – 480 p. 14. Weitzman M. Iterative multilevel planning with production targets // Econometrica. – 1970. – № 1. – p. 50-65. – doi: 10.2307/1909240. 15. Farrell H., Newman A. The New Economic Security State // Foreign Affairs. – 2023. 16. Solove D.J. Privacy and power: computer databases and metaphors for information privacy // Stanford Law Review. – 2001. – № 6. – p. 1393-1462. – doi: 10.2139/ssrn.248300. 17. Andreessen M. Why AI Will Save the World. Andreessen Horowitz, Why AI Will Save the World. A16z.com. [Электронный ресурс]. URL: https://a16z.com/ai-will-save-the-world/. 18. Харари Ю.З. 21 урок для XXI века. - М.: Издательство «Синдбад», 2019. – 416 c. 19. Morozov E. The Risk from A.I. Isn’t Just Existential.// New York Times. Section SR. - 2023. - P. 6 20. Лукичёв П.М., Чекмарев О.П. Вызовы экономики искусственного интеллекта традиционному рынку труда // Вопросы инновационной экономики. – 2023. – № 2. – c. 785-802. – doi: 10.18334/vinec.13.2.118137. 21. Wiener N. Some Moral and Technical Consequences of Automation: As machines learn they may develop unforeseen strategies at rates that baffle their programmer // Science. – 1960. – № 3410. – p. 1355-1358. 22. How generative models could go wrong. The Economis. [Электронный ресурс]. URL: https://www.economist.com/science-and-technology/2023/04/19/how-generative-models-could-go-wrong. 23. Bostrom N. Ethical issues in advanced artificial intelligence. / In book: Science fiction and philosophy: from time travel to superintelligence., 2003. – 277-284 p. 24. Trajtenberg M. The economics of artificial intelligence. / In book: The economics of artificial intelligence. - Chicago: University of Chicago Press, 2018. – 175-186 p. 25. Danielsson J., Macrae R., Uthemann A. Artificial intelligence and systemic risk // Journal of Banking Finance. – 2022. – p. 106290. 26. Romer P. The trouble with macroeconomics. The American Economist, Retrieved. [Электронный ресурс]. URL: http://ccl.yale.edu/sites/default/files/files/The%20Trouble%20with%20Macroeconomics.pdf (дата обращения: 24.01.2017). 27. Beyond the hype. The Economist. - 2023 28. Where are all the robots? // The Economist. - 2023 29. Leveson N., Dulac N., Marais K., Carroll J. Moving beyond normal accidents and high reliability organizations: A systems approach to safety in complex systems // Organization Studies. – 2009. – № 2-3. – p. 227-249. 30. Hamilton A., Wiliam D., Hattie J. The Future of AI in Education: 13 things we can do to minimize the damage. Osf.io. [Электронный ресурс]. URL: https://osf.io/preprints/edarxiv/372vr/.