Russian Journal of Innovation Economics Russian Journal of Innovation Economics Вопросы инновационной экономики 2222-0372 BIBLIO-GLOBUS Publishing House 123758 10.18334/vinec.15.4.123758 RAAJBU Articles Статьи Research Article Artificial intelligence agents and the risks of their application Агенты искусственного интеллекта и риски их применения https://orcid.org/0000-0001-9452-93329178-1317 Lukichyov Pavel Mikhaylovich Лукичёв Павел Михайлович

профессор кафедры менеджмента организации, доктор экономических наук, профессор

 loukitchev20@mail.ru Baltic State Technical University VOENMEH named after D.F. Ustinov Балтийский государственный технический университет ВОЕНМЕХ им. Д.Ф. Устинова 24 12 2025 15 4 VOL 15, NO4 (2025) ТОМ 15, №4 (2025) 1345 1364 22 08 2025 22 09 2025 Copyright ©; 2025, Lukichev P.M. Copyright ©; 2025, Лукичёв П.М. 2025 Lukichev P.M. Лукичёв П.М. https://1economic.ru/lib/123758

The article discusses a qualitatively new stage of development of artificial intelligence – agents of artificial intelligence. The author conducts a comparative analysis of the concept of agents of artificial intelligence, systems with relatively high agency and systems with relatively low agency, and describes in detail various classifications of levels of AI agents. Two features inherent in agents of artificial intelligence are identified. They are: systematicity and autonomous nature. The article reveals new opportunities for the economy that the application of AI agents provides. The article identifies common features of AI agents that unite them with the principal-agent economic theory model, as well as their specific features. The article describes the main types of risks that arise when applying AI agents and measures to prevent them. The greatest risk is the ability of AI agents to exclude people from the business cycle. The article pays special attention to the problems of managing artificial intelligence agents in the economy and the increasing role of managers in this process. The author concludes that artificial intelligence agents are the most promising direction of artificial intelligence progress and will have a decisive impact on the development of the economy of the future.

Статья посвящена качественно новой ступени развития искусственного интеллекта – Агентам искусственного интеллекта. Автор проводит сравнительный анализ терминов «Агенты искусственного интеллекта», систем с относительно высокой агентностью и систем с относительно низкой агентностью, подробно характеризует различные классификации уровней Агентов искусственного интеллекта. Выявлены две черты присущие Агентам искусственного интеллекта: системность и автономный характер. Автор детально раскрывает новые возможности для экономики, которые даёт применение Агентов искусственного интеллекта. Выявлены общие черты Агентов искусственного интеллекта, объединяющие их с моделью экономической теории «Принципал – Агент», и их специфические черты. В статье раскрыты основные виды рисков, которые возникают при использовании Агентов искусственного интеллекта, и меры их предупреждения. Самый большой риск представляет возможность Агентов искусственного интеллекта исключить людей из делового цикла. Особое место в статье уделено проблемам управления Агентами искусственного интеллекта в экономике и возрастанию роли менеджеров в этом процессе. Автор делает вывод, что Агенты искусственного интеллекта являются наиболее перспективным направлением прогресса искусственного интеллекта и окажут решающее воздействие на развитие экономики будущего

 artificial intelligence artificial intelligence agents agent relations principal-agent concept short-term risks long-term risks artificial intelligence agents management искусственный интеллект Агенты искусственного интеллекта агентные отношения концепция Принципал – Агент риски краткосрочного периода долгосрочные риски управление Агентами искусственного интеллекта 1. Болодурина М. П. Ответственное принятие управленческих решений на основе интеллектуального анализа данных // Экономика и предпринимательство. – 2024. – № 5. – c. 868–871. – url: https://elibrary.ru/item.asp?id=67270732. 2. Лукичёв П.М., Чекмарев О.П. Экономика искусственного интеллекта и концепция «Принципал - Агент» // Вопросы инновационной экономики. – 2022. – № 2. – c. 1069-1082. – doi: 10.18334/vinec.12.2.114514. 3. Лукичев П. М. Человеский капитал в эпоху искусственного интеллекта // Экономика труда. – 2025. – № 5. – c. 683-702. – doi: 10.18334/et.12.5.123167. 4. Лукичёв П. М. Управление искусственным интеллектом: риски и государственное регулирование. Санкт-Петербург. 2025. [Электронный ресурс]. URL: https://elibrary.ru/item.asp?id=82572692 (дата обращения: 11.08.2025). 5. Сметанин А. С., Морозова И. А., Сметанина А. И. Менеджмент бизнеса в условиях цифровой трансформации: измерение 4.0. Москва. 2024. [Электронный ресурс]. URL: https://elibrary.ru/item.asp?id=62577398 (дата обращения: 11.08.2025). 6. Armour J., Hansmann H., Kraakman R. Agency problems and legal strategies // The anatomy of corporate law: a comparative and functional approach. – 2017. – p. 29-48. 7. Bengio Y., Cohen M., Fornasiere D., Ghosn J., Greiner P., MacDermott M., Williams-King D. Superintelligent agents pose catastrophic risks: Can scientist ai offer a safer path?. ArXiv preprint arXiv:2502.15657. – 2025. [Электронный ресурс]. URL: https://arxiv.org/pdf/2502.15657 (дата обращения: 06.07.2025). 8. Berente N., Gu B., Recker J., Santhanam R. Managing artificial intelligence // MIS Quarterly. – 2021. – № 3. – p. 1433–1450. – doi: 10.25300/MISQ/2021/16274 Parse. 9. Chan A., Salganik R., Markelius A., Pang C., Rajkumar N., Krasheninnikov D., Maharaj T. Harms from increasingly agentic algorithmic systems. Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency. – 2023. – Р. 651-666. [Электронный ресурс]. URL: https://arxiv.org/abs/2302.10329 (дата обращения: 09.04.2025). 10. Chan A., Ezell C., Kaufmann M., Wei K., Hammond L., Bradley H., Anderljung M. Visibility into AI agents // Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency. 2024. – p. 958-973. 11. Cobbe J., Veale M., Singh J. Understanding accountability in algorithmic supply chains // Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency. 2023. – p. 1186-1197.– doi: 10.1145/3593013.3594073. 12. Deng Z., Guo Y., Han C., Ma W., Xiong J., Wen S., Xiang Y. // ACM Computing Surveys. – 2025. – № 7. – p. 1-36. – url: https://doi.org/. 13. Farmer J. D. Making Sense of Chaos: A Better Economics for a Better World. – Yale University Press, 2024. [Электронный ресурс]. URL: https://fportier.wordpress.com/wp-content/uploads/2024/09/portier-df24.pdf (дата обращения: 19.06.2025). 14. Hammond L., Chan A., Clifton J., Hoelscher-Obermaier J., Khan A., McLean E., Rahwan I. Multi-agent risks from advanced ai. ArXiv preprint arXiv:2502.14143. – 2025. [Электронный ресурс]. URL: https://arxiv.org/pdf/2502.14143 (дата обращения: 10.08.2025). 15. Heikkilä M. What are AI agents?. MIT Technology Review. – 2024. [Электронный ресурс]. URL: https://www.technologyreview.com/2024/07/05/1094711/what-are-ai-agents/ (дата обращения: 10.08.2025). 16. How Al changes the way you think, The Economist. July 19th 2025. [Электронный ресурс]. URL: https://www.economist.com/science-and-technology/2025/07/16/will-ai-make-you-stupid (дата обращения: 20.07.2025). 17. Huang Y. Levels of ai agents: from rules to large language models. ArXiv preprint arXiv:2405.06643. – 2024. [Электронный ресурс]. URL: https://arxiv.org/pdf/2405.06643? (дата обращения: 22.07.2025). 18. Kapoor S., Stroebl B., Siegel Z. S., Nadgir N., Narayanan A. Ai agents that matter. ArXiv preprint arXiv:2407.01502. – 2024. [Электронный ресурс]. URL: https://arxiv.org/pdf/2407.01502? (дата обращения: 12.06.2025). 19. IEC DIS 22989(en) Information technology — Artificial intelligence — Artificial intelligence concepts and terminology. Iso. [Электронный ресурс]. URL: https://www.iso.org/obp/ui/#iso:std:iso-iec:22989:dis:ed-1:v1:en (дата обращения: 01.08.2025). 20. Kolt N. Governing ai agents. ArXiv preprint arXiv:2501.07913. – 2025. [Электронный ресурс]. URL: https://arxiv.org/pdf/2501.07913 (дата обращения: 16.08.2025). 21. Lan Y. J., Chen N. S. Teachers’ agency in the era of LLM and generative AI // Educational Technology amp; Society. – 2024. – № 1. – p. I-XVIII. – doi: 10.30191/ETS.202401_27(1).PP01. 22. Lindebaum D., Fleming P. ChatGPT undermines human reflexivity, scientific responsibility and responsible management research // British Journal of Management. – 2024. – № 2. – p. 566–575. – doi: 10.1111/1467-8551.12781. 23. Mirrlees J. // Bell Journal ofEconomics. – 1976. – № 1. – p. 105-131. – url: https://www.wiwi.unibonn.de/kraehmer/lehre/seminarss09/papiere/mirrlees_optimal_structure_incent_auth.pdf. 24. Newlands G. // Big Data amp; Society. – 2021. – № 1. – p. 20539517211016026. – url: https://journals.sagepub.com/doi/10.1177/20539517211016026. 25. Olson P. The AI Clones Are Comong! But It’s Not All Bad. [Электронный ресурс]. URL: https://www.bloomberg.com/opinion/articles/2025-08-18/the-ai-clones-are-coming-but-it-s-not-all-bad?srnd=homepage-europe (дата обращения: 19.08.2025). 26. Pan A., Bhatia K., Steinhardt J. The effects of reward misspecification: Mapping and mitigating misaligned models. ArXiv preprint arXiv:2201.03544. – 2022. [Электронный ресурс]. URL: https://arxiv.org/pdf/2201.03544 (дата обращения: 08.06.2025). 27. Purdy M. // Harvard Business Review. – 2024. – url: https://hbr.org/2024/12/what-is-agentic-ai-and-how-will-it-change-work. 28. Ross S. The economic theory of agency: the principal's problem // American Economic Review. – 1973. – № 2. – p. 134-139. 29. Russell S. J., Norvig P. Artificial Intelligence: A Modern Approach, Global Edition 4e. – 2021. [Электронный ресурс]. URL: https://library.giadinh.edu.vn/items/a81a1c54-22fd-4d65-8003-0188ec9d5c66 (дата обращения: 18.06.2025). 30. Sitkoff R. H. An Economic Theory of Fiduciary Law. – 2014 31. Stiglitz J.E. Incentives, risk, and information: notes toward a theory of hierarchy // Bell Journal of Economics. – 1975. – № 2. – p. 552-579. 32. Team A. A., Bauer J., Baumli K., Baveja S., Behbahani F., Bhoopchand A.,Zhang L. Human-timescale adaptation in an open-ended task space. ArXiv preprint arXiv:2301.07608. – 2023. [Электронный ресурс]. URL: https://doi.org/10.48550/arXiv.2301.07608 (дата обращения: 01.08.2025). 33. The rise of the “solopreneur”. The Economist. August 16th 2025. [Электронный ресурс]. URL: https://www.economist.com/business/2025/08/11/how-ai-could-create-the-first-one-person-unicorn (дата обращения: 16.08.2025). 34. Wiener N. Some moral and technical consequences of automation // Resonance. – 1999. – № 1. – p. 80-88. – doi: 10.1007/BF02837160. 35. Zaharia M., Khattab O., Chen L., Davis J. Q., Miller H., Potts C., Ghodsi A. The shift from models to compound ai systems. Berkeley Artificial Intelligence Research Lab. [Электронный ресурс]. URL: https://bair. berkeley. edu/blog/2024/02/18/compound-ai-systems/ – 2024 (дата обращения: 19.07.2025). 36. Xie J., Chen Z., Zhang R., Wan X., Li G. Large multimodal agents: A survey. ArXiv preprint arXiv:2402.15116. – 2024. [Электронный ресурс]. URL: https://arxiv.org/pdf/2402.15116 (дата обращения: 16.08.2025).