Creative Economy

Креативная экономика

1994-6929 2409-4684

BIBLIO-GLOBUS Publishing House

122327

10.18334/ce.18.12.122327

MGYCMN

Articles

Статьи

Research Article

Algorithm transparency in the public sector: key aspects

Прозрачность алгоритмов в государственном секторе: основные аспекты

https://orcid.org/0000-0001-7256-3281

9749-0209

Mukhametov

Daniyar Rustyamovich

Мухаметов

Данияр Рустямович

научный сотрудник Института гуманитарных технологий и социального инжиниринга, старший преподаватель Кафедры политологии, заведующий учебно-научной лабораторией цифровой политики, канд. полит. наук

mukhametovdaniyar@gmail.com

The Financial University under the Government of the Russian Federation Финансовый университет при Правительстве Российской Федерации

25 12 2024

18 12

VOL 18, NO12 (2024)

ТОМ 18, №12 (2024)

3867 3880 11 12 2024

2024

Mukhametov D.R.

Мухаметов Д.Р.

https://1economic.ru/lib/122327

The article examines the algorithm transparency in the public sector. The application of algorithms for decision-making in socially sensitive areas is characterized by a discussion about the growth of inequality and distrust in institutions. In order to avoid the negative consequences of the introduction of automated decision-making systems, it is necessary to ensure the algorithms transparency. Based on an analysis of existing algorithm transparency initiatives, the key aspects of algorithm transparency in the public sector were identified. They are as follows: (1) the importance of ethical principles and responsibility, (2) the involvement of different policy actors in assessing the impact of algorithms on social inequalities, (3) informing citizens about the principles of algorithms, (4) assessing and managing emerging risks, (5) long-term monitoring to ensure that algorithms meet the original goals. The article will be of interest to experts in algocracy and automated decision-making systems in public administration.

Статья посвящена прозрачности алгоритмов в государственном секторе. Использование алгоритмов для принятия решений в социально чувствительных сферах характеризуется дискуссией о росте неравенства и недоверия институтам. Для недопущения негативных последствий внедрения автоматизированных систем принятия решений необходимо обеспечение прозрачности алгоритмов. На основе анализа существующих инициатив прозрачности алгоритмов определены основные аспекты прозрачности алгоритмов в государственном секторе: (1) значение этических принципов и ответственности, (2) участие различных агентов политики в оценке влияния алгоритмов на социальные дисбалансы, (3) информирование граждан о принципах работы алгоритмов, (4) оценка и управление возникающими рисками, (5) долгосрочный мониторинг для обеспечения соответствия алгоритмов первоначальным целям. Статья представляет интерес для экспертов в области алгократии и использования автоматизированных систем принятия решений в публичном управлении.

algorithm transparency public sector artificial intelligence predictive system automated decision-making system algocracy

прозрачность алгоритмов государственный сектор искусственный интеллект предиктивные системы автоматизированные системы принятия решений алгократия

1. Berk R.A. Artificial intelligence, predictive policing, and risk assessment for law enforcement // Annual Review of Criminology. – 2021. – № 1. – p. 209-237. – doi: 10.1146/annurev-criminol-051520-012342.

2. Sandhu A., Fussey P. The ‘uberization of policing’? How police negotiate and operationalise predictive policing technology // Policing and Society. – 2021. – № 1. – p. 66-81. – doi: 10.1080/10439463.2020.1803315.

3. Sharma V. Exploring the Predictive Power of Machine Learning for Energy Consumption in Buildings // Journal of Technological Innovations. – 2022. – № 1.

4. Yağcı M. Educational data mining: prediction of students' academic performance using machine learning algorithms // Smart Learning Environments. – 2022. – № 1. – p. 1-19. – doi: 10.1186/s40561-022-00192-z.

5. Pallathadka H., Wenda A., Ramirez-Asís E., Asís-López M., Flores-Albornoz Ju., Phasinam Kh. Classification and prediction of student performance data using various machine learning algorithms // Materials Today: Proceedings. – 2023. – p. 3782-3785. – doi: 10.1016/j.matpr.2021.07.382.

6. Bharadiya Ja. Artificial intelligence in transportation systems a critical review // American Journal of Computing and Engineering. – 2023. – № 1. – p. 34-45. – doi: 10.47672/ajce.1487.

7. Lazar S., Stone Ja. On the site of predictive justice // Noûs. – 2023. – doi: 10.1111/nous.12477.

8. Ugwudike P. Predictive algorithms in justice systems and the limits of tech-reformism // International Journal for Crime, Justice and Social Democracy. – 2022. – p. 85-99. – doi: 10.5204/ijcjsd.2189.

9. Кузнецов А.Г. Туманности нейросетей: «черные ящики» технологий и наглядные уроки непрозрачности алгоритмов // Социология власти. – 2020. – № 2. – c. 157-182. – doi: 10.22394/2074-0492-2020-2-157-182.

10.

10. Харитонова Ю.С., Тяньфан Ян. Рекомендательные системы цифровых платформ в Китае: правовые подходы и практика обеспечения прозрачности алгоритмов // Закон. – 2022. – № 9. – c. 40-49. – doi: 10.37239/0869-4400-2022-19-9-40-49.

11.

11. Мочалов А.Н. Прозрачность алгоритмов как правовой принцип автоматизированной обработки данных о человеке // Юридические исследования. – 2023. – № 12. – c. 77-88. – doi: 10.25136/2409-7136.2023.12.69452.

12.

12. Mougdir S. What is in the black box: The ethical implications of algorithms and transparency in the age of the GDPR // Journal of AI, Robotics Workplace Automation. – 2023. – № 1. – p. 90. – doi: 10.69554/tqew5855.

13.

13. Lorenz L., Meijer A., Schuppan T. The algocracy as a new ideal type for government organizations: Predictive policing in Berlin as an empirical case // Information Polity. – 2021. – № 1. – p. 7186. – doi: 10.3233/ip-200279.

14.

14. Славин Б.Б. Алгократия или экспертократия: выбор цифровой эпохи // Инновации и инвестиции. – 2023. – № 9. – c. 318-321.

15.

15. Meijerink J., Bondarouk T. The duality of algorithmic management: Toward a research agenda on HRM algorithms, autonomy and value creation // Human Resource Management Review. – 2023. – № 1. – p. 100876. – doi: 10.1016/j.hrmr.2021.100876.

16.

16. Statement on Algorithmic Transparency and Accountability. ACM US Public Policy Council. [Электронный ресурс]. URL: https://www.acm.org/binaries/content/assets/public-policy/2017_usacm_statement_algorithms.pdf (дата обращения: 01.10.2024).

17.

17. Ethics, Transparency and Accountability Framework for Automated Decision-Making. Gov.uk. [Электронный ресурс]. URL: https://www.gov.uk/government/publications/ethics-transparency-and-accountability-framework-for-automated-decision-making/ethics-transparency-and-accountability-framework-for-automated-decision-making (дата обращения: 01.10.2024).

18.

18. Мухаметов Д.Р. Государство в контексте датаизма: рой политических агентов и управление данными в России и мире // Гуманитарные науки. Вестник Финансового университета. – 2023. – № 6. – c. 30-37. – doi: 10.26794/2226-7867-2023-13-6-30-37.