Opportunities, limitations and probable threats to the sustainable development of high-tech companies in the Asian region due to the out-of-control of artificial intelligence and neural networks

Shirokovskikh S.A.¹
¹ Институт социальных наук, Russia

Download PDF | Downloads: 25 | Citations: 4

Journal paper

Journal of Central Asia Economy ^{(РИНЦ, ВАК)}
опубликовать статью | оформить подписку

Volume 4, Number 4 (October-December 2020)

Citation:

Indexed in Russian Science Citation Index: https://elibrary.ru/item.asp?id=44668224
Cited: 4 by 07.12.2023

Abstract:
The rapid development of digital technologies and the introduction of the paradigm of the post-industrial structure of the socio-economic system marks the development of dialogue with machines and the virtual world as partners. In fact, post-industrial society and such its form as Industry 4.0 implies the ability of the virtual world to integrate into the physical world of people and interact with them, learning and acquiring increasingly progressive forms of communication and proactive response to the needs and demands of an individual partner, as the main criterion for development. However, moving machines beyond the framework of algorithmic thinking carries the systemic risks of invading the physical world of mankind and its transformation, taking into account the technological ideas of the machines, which have the basis for artificial thinking. The main achievements of the Asian companies in the development of the artificial intelligence and neural network control are discussed. Possible scenarios for disrupting the sustainable development of business structures and the entire socio-economic system when machine thinking systems are getting out of control are analyzed.

Keywords: artificial intelligence, neural networks, machine learning, control, dominance, risks, intervention, robotization of thinking, conflict of interest

Введение. Современный этап развития высокотехнологичного сектора стран азиатского региона стратегически заточен на всемерное развитие и поощрение исследований в области нейросетевого анализа и прогнозирования и сценарного моделирования развития общества и экономики, а также форсайт-менеджмента [2, 15] (Dudin, Lyasnikov, Egorushkin, Safin, 2013; Shirokovskikh, 2018). Как уже сложилось исторически, данные исследования носят достаточно ярко выраженный военно-политический характер, а также являются инструментом форсирования частных и государственных интересов таких стран азиатского региона, как Китай, Япония, Южная Корея, на региональной и мировой арене экономических и политических сил [3, 5, 9, 11, 12] (Akulinin, Adamov, 2019; Molchanova, Drozdova, 2019).

Учитывая колоссальные финансовые возможности указанных стран, грамотно выраженную политику международного технического обмена и привлечения иностранных специалистов в области machine-learning, искусственного интеллекта и Big Data анализа, представленные страны становятся новыми центрами силы в совершенно новой форме – машинном мышлении и инклюзии виртуального мира в мир физических вещей [4, 8, 15] (Shirokovskikh, 2018).

Для рассмотрения потенциальных рисков для стейкхолдеров микро- и макроуровня в случае потери контроля человека над машинным мышлением рассмотрим понятийный аппарат проблемной области, а именно: искусственный интеллект и искусственная социальность (табл. 1).

Таблица 1

Раскрытие понятий «искусственный интеллект» и «искусственная социальность» в контексте проблемной области

Автор (-ы)	Контекстуальное содержание понятий
А.Н. Аверкин [1, c. 7–8] (Gusarova, 2018, р. 7–8)	Искусственный интеллект – научное направление для постановки и решения задач аппаратного или программного моделирования интеллектуальных видов деятельности человека, например, мода, искусство, поэзия
Д. Хебб [3]	Искусственный интеллект – подраздел сферы информационных технологий, который ставит целью автоматизацию разумного поведения машин
Р. Хэмминг [5]	Искусственный интеллект – цифровая инфраструктура по генерации комплекса процессов мышления индивида (социума в целом) в части креативного анализа, диалектизма и дедукции в условиях лимита времени, ресурсов и информации
Дж. Нейман [7]	Искусственный интеллект – альтернативная человеческому форма машинного мышления, которая способна конструировать киберобъекты, наделенные опцией ставить цели и достигать их
Н. Виннер [9]	Искусственная социальность – генерация информационной средой некоторой реальности с правилами поведения, нормами, ограничениями и запретами, выстроенными на идеологии машин
А. Тьюринг [10]	Искусственная социальность – новая форма организации этических и культурных коммуникаций индивидов в контексте правил, сгенерированных в процессе разумного поведения машин
К. Шеннон [6]	Искусственная социальность – новая форма организации индивидов в социуме, когда участником является новый актор – киберструктура в форме искусственного интеллекта, который участвует в выработке правил поведения и коммуникаций в информационной среде интернета

Источник: составлено автором на основе критического обзора научной литературы и специализированных аналитических обзоров.

Исходя из построенного нами выше понятийного аппарата, можно выделить ключевые идеи научной статьи:

– искусственный интеллект является неотъемлемой частью построения социума в формате «Индустрия 4.0», но его поведенческие паттерны практически невозможно предсказать, так как он является воплощением идейно-этических установок всего человечества;

– объективное присутствие искусственного интеллекта в качестве самостоятельного актора в социуме в формате «Индустрия 4.0» обусловливает необходимость построения искусственной социальности, чьи правила и нормы поведения будут строиться с учетом проактивных решений искусственного интеллекта;

– наличие у искусственного интеллекта данных о всех типах поведения индивидов и его понимание алгоритмов мышления, психологических паттернов и жизненных ценностей формируют риск манипуляции указанными неидентифицируемыми объектами с целью получения машиной превосходства и власти над человеком [4, 6, 8–10, 13] (Pavlenko, 2018).

Для оценки реальности наступления ситуации выхода из-под контроля машинного мышления рассмотрим актуальные достижения стран азиатского региона в части технологий искусственного интеллекта и построения искусственной социальности (табл. 2). Исходя из данных таблицы, мы видим, что сфера применения искусственного интеллекта очень широка, но вместе с тем его возможности по-прежнему находятся в зоне погрешностных оценок, так как право администратора остается за оператором, и он может остановить деятельность цифрового мышления в случае установления видимой или перспективной угрозы.

Таблица 2

Ключевые достижения стран азиатского региона в части технологий искусственного интеллекта

Страна	Достижения в области применения ИИ
1. Китайская Народная Республика	1. Гиперавтоматизация производств – внедрение роботизированной системы управления процессов (RPA) в сфере опасных и вредных производств, что позволяет не только исключить ошибки человеческого фактора, но и снизить расходы на защитные и профилактические мероприятия по поддержанию здоровья сотрудников. Пример. Ведущее агентство космических технологий страны China Aerospace Science and Technology Corp. (CASC) в 2018 г. оборудовало 5 крупнейших угольных шахт роботизированными комплексами по добыче угля в сложных геологических условиях с участием команды операторов на поверхности 2. Производство автономных систем в рамках «Интернета вещей» – в рамках данного направления реализуется производство взаимосвязанных с помощью сети Интернет вещей физического мира, например, беспилотные летательные аппараты взаимодействуют с топографическими приложениями, уточняя в автономном режиме границы объектов, или оценивают изменение экосистем. Пример. Exyn Technologies и DJI совместно реализуют проект автономной оценки уровня загрязнения воздуха в крупнейших мегаполисах КНР и принимают решение о запрете на въезд в город автомобилей, определяют уровень опасности для гражданского населения
2. Япония	Развитие индустрии промышленных двойников – точных копий сложных производственных, энергетических и авиационных, космических, военных технологий для тестирования возможных сценариев поведения системы, оценки предельных параметров эксплуатации, экономической оценки оптимального выбора мощностей. Пример. По данным аналитического обзора Mordor Intelligence, в Японии система промышленных двойников применяется при строительстве систем энергообеспечения и информационной инфраструктуры в условиях высокой сейсмической активности путем анализа на виртуальной карте точек наименьшей и наибольшего стресса
3. Южная Корея	Развитие субсферы – «Интернета тел» (англ. Body Internet) – зоны взаимодействия компьютера и человека с помощью системы трекеров и индикаторов, непосредственно вживленных в его тело, что позволяет отслеживать его жизненные показатели в режиме онлайн и принимать экстренные меры в случае их ухудшения. Пример. Южнокорейская биотехнологическая компания Seoul Guide Medical совместно с компанией по производству нанороботов ГК «Ростех» выпустила наноробот с автоматическим введением в кровь искусственного инсулина при падении его уровня в крови пациента. Т.е. пациенту не нужно помнить об инъекции, робот сам оценивает необходимость инъекции и совершает операцию

Источник: составлено автором на основе [4–9].

Основываясь на представленных результатах применения искусственного интеллекта, рассмотрим основные возможности при переходе указанного объекта в категорию искусственной социальности, т.е. получения статуса актора в коммуникациях с социумом (табл. 3).

Таблица 3

Основные возможности при переходе искусственного интеллекта в статус искусственной социальности

Критерий оценки	Описание возможностей
1. Развитие систем проактивного реаги рования на ЧП в социуме	Характеристика возможности. ИИ включается в систему оперативного управления городским хозяйством и службами оперативного реагирования для предотвращения ЧП или преступ-лений, более эффективной помощи или скорейшей ликвидации ЧП. Пример. Пожарная служба в г. Осака (Япония) опирается на карты ЧП, составляемые специальным программным комплексом, что повышает оперативность реагирования на 20–30% и снижает человеческие жертвы на 57–62% в зависимости от категории пожара
2. Оптимизация транспортных потоков с целью улучшения экологического положения	Характеристика возможности. ИИ включается в систему стратегического управления транспортом и помогает оптимизировать транспортное сообщение как в городе, так и пригородов, сделать движение более ритмичным, снизить углеродный след. Пример. Организация транспорта в муниципалитете Гуанчжоу (Китай) на 75% построена на маршрутизации транспорта по картам ИИ, что позволило за 2018 г. снизить простой транспорта всех видов на 18,5%, а также снизить углеродный след на 8,3%
3. Применение ИИ в вопросах стандартизации и сертификации	Характеристика возможности. ИИ способен заменить экспертные команды в вопросах анализа и оценки продуктов на соответствие техническим условиям и параметрам, причем без учета человеческого фактора возможность обмана системы будет объективно невозможной. Пример. Телекоммуникационная компания ZTE использует с 2018 г. комплекс ИИ для оценки скорости интернет-связи в стране и автоматически увеличивает или уменьшает ширину шлюза передачи данных при наличии пиковых значений

Источник: составлено автором на основе [4, 6–9].

Таким образом, в странах азиатского региона имеются отличные примеры применения ИИ для построения искусственной социальности, которая модерируется машинным разумом.

В завершение исследования рассмотрим основные риски для устойчивого развития социально-экономических систем стран азиатского региона вследствие выхода из-под контроля искусственного интеллекта и нейросетей (табл. 4).

Таблица 4

Основные риски для устойчивого развития социально-экономических систем стран азиатского региона вследствие выхода из-под контроля ИИ

Наименование риска	Характеристика риска / последствия
1. Риск установления цифровой автокра-тии	Характеристика риска. Экспоненциальное развитие ИИ может привести к его качественной трансформации и овладению основными алгоритмами мышления человека, что позволит ему приблизиться к генезису человека, сформировать собственную систему ценностей и шкалу норм поведения. Одним из продуктов риска является появление стремления машины к власти, что с учетом повсеместной цифровизации может стать основой для формирования цифровой автократии. Последствия. Оценка возможных последствий является крайне субъективной, т.к. линия поведения машины будет зависеть от доминирующих ценностей, из которых она будет строить новую идеологию в системе искусственной социальности: при худшем сценарии – это означает формирование полицейского типа государства, управляемого машиной, в лучшем – создание пацифистического общества с угнетением нормальных человеческих инстинктов и страстей, т.е. фактически стерилизация ценностей агрессии, доминирования, власти
2. Манипулирование системами жизнеобеспечения и безопасности	Характеристика риска. ИИ, имеющий права администратора на ключевые инфраструктурные объекты: энергетика, связь, диспетчирование, военная сфера, может настроить системы против пользователей, тем самым подвергнув их благополучие и жизнь опасности, в т.ч. и физической. Последствия. По мнению специалистов Artificial Intelligence Index Report, машинное мышление может начать локальные вооруженные конфликты с человеком с использованием автономных объектов (БПЛА, военные образцы робототехники), с учетом темпов роста машинного IQ вероятность такого исхода составляет, по оценке военных аналитиков, 30–35%
3. Проведение хакерских атак на конкурирующие ядра ИИ	Характеристика риска. Если исходить из идеи, что ИИ свойственно использование моделей поведения человека, то имеется вероятность (20–24%), что отдельные ядра ИИ могут организовать свой цифровой рынок с правилами конкурентной борьбы в виде сгенерированных хакерских атак друг на друга. Последствия. По мнению аналитиков Silicon Valley Artificial Intelligence Lab, основной урон от машинного конкурирования заключается в разрушении недружественных экосистем, созданных другими платформами ИИ, что прямо повлияет на показатели жизнедеятельности общества
4. Управление личными данными отдельных лиц социума	Характеристика риска. Использование ИИ может сгенерировать риск умышленного вмешательства в его работу, что может привести к противоправным операциям с личными данными граждан как со стороны хакеров из физического мира, так и распоряжению информацией в виртуальном мире метафизических систем. Последствия. Вторжение в инфраструктуру Big Data хранилищ личной информации граждан может привести как к ее утечке в открытый доступ, так и нелегальному коммерческому использованию отдельными бизнес-структурами

Источник: составлено автором на основе [8–10].

Заключение. Сегодня власти азиатских государств (прежде всего, речь о Китае, Японии и Южной Корее) более чем активно инвестируют в развитие систем искусственного интеллекта и механизма построения искусственной социальности, что подтверждается наличием масштабных государственных программ:

– Белая книга развития ИИ – 10-летняя стратегия развития инфраструктуры и продуктового производства инструментов реализации принципов и концепций ИИ и построения искусственной социальности. Согласно данным государственной программы КНР, в области развития собственной инфраструктуры планируется инвестировать более 6,5 млрд долл. США и построить более 42 объектов цифровой инфраструктуры, в т.ч. 4 хранилища данных, соответствующих международным стандартам FERMA;

– Программа развития искусственного интеллекта нового поколения – 7-летняя инвестиционная программа финансирования стартап-проектов и государственно-частного партнерства лидеров рынка ИИ в Китае (компании Baidu, Tencent, MegVii) общим объемом инвестиций 10,4 млрд долл. США;

– государственная программа «1000 талантов» – специальная программа поиска, отбора и приглашения на работу иностранных ученых в сфере ИИ и построения искусственной социальности в пакетном формате «виза – место работы – жилье» с перспективой релокации или участия в международном научно-техническом обмене. Бюджет программы – 2,4 млрд долл. США [6–10].

В части вопросов безопасности применения ИИ и механизма построения искусственной социальности Китаем и Японией в 2019 г. планируется утвердить следующие документы:

1. Искусственный интеллект: национальная стратегическая инициатива – мануал, разработанный BAT (Baidu, Alibaba, Tencent) в рамках саморегуляции процессов урегулирования конфликтов с участием машинного разума и предотвращения нелегальных операций с личными данными.

2. Белая книга по стандартизации ИИ в цифровой экономике – руководство для китайских и японских компаний в части использования фундаментальных понятий, классификации продуктов ИИ, критериев оценки рисков и уровня развития искусственной социальности;

– вхождение на правах наблюдателя (до июня 2021 г.) в состав «Партнерства по искусственному интеллекту» (Partnership on AI, PAI) – некоммерческой организации, учрежденной Facebook, Google, Apple и Microsoft, с целью унификации технических стандартов работы с системой ИИ, реализации инициатив в области искусственной социальности.

References:

Akulinin F.V., Adamov D.V. (2019). Rossiya na poroge singulyarnosti. Iskusstvennyy intellekt, osnovnye aspekty i slozhnosti razvitiya i vnedreniya v Rossii i v mire [Russia is on the threshold of singularity. Artificial intelligence, main aspects and difficulties of development and implementation in Russia and in the world]. Journal of International Economic Affairs. 9 (2). 867-880. (in Russian). doi: 10.18334/eo.9.2.40633.

Dudin M.N., Lyasnikov N.V., Egorushkin P.A., Safin F.M. (2013). Innovatsionnyy forsayt kak instrument konkurentosposobnogo razvitiya predprinimatelskikh struktur [Innovative foresight as a tool for competitive development of business structures] M.: Izdatelskiy dom «Nauka». (in Russian).

Gusarova N.F. (2018). Vvedenie v teoriyu iskusstvennogo intellekta [Introduction to the theory of artificial intelligence] SPb.: Universitet ITMO. (in Russian).

Molchanova S.M., Drozdova A.P. (2019). Nauchno-tekhnicheskoe liderstvo kitayskogo iskusstvennogo intellekta: mif ili realnost? [Scientific and technical leadership of the chinese artificial intelligence: myth or reality?]. Journal of International Economic Affairs. 9 (4). 2771-2486. (in Russian). doi: 10.18334/eo.9.4.41314.

Pavlenko Yu.G. (2018). Ekonomicheskaya bezopasnost v usloviyakh kreativno-innovatsionnoy ekonomiki: politiko-ekonomicheskiy aspekt [On the initial prerequisites for the development of national economic security risk management system]. Ekonomicheskaya bezopasnost. 1 (2). 91-101. (in Russian). doi: 10.18334/ecsec.1.2.100499.

Shirokovskikh S.A. (2018). Metody i praktika ispolzovaniya iskusstvennogo intellekta v vysokotekhnologicheskikh kompaniyakh Rossii i regiona Tsentralnoy Azii [Methods and practice of using artificial intelligence in high-tech companies in Russia and the Central Asian region]. Ekonomika Tsentralnoy Azii. 2 (4). (in Russian). doi: 10.18334/asia.2.4.111559.

Tsvetkov V.A., Shutkov A.A., Dudin M.N., Lyasnikov N.V. (2018). Tsifrovaya ekonomika i tsifrovye tekhnologii kak vektor strategicheskogo razvitiya natsionalnogo agropromyshlennogo sektora [Digital economy and digital technologies as a vector of strategic development of the national agro-industrial sector]. Vestnik Moskovskogo universiteta. Seriya 6: Ekonomika. (1). 45-64. (in Russian).

Страница обновлена: 24.04.2025 в 14:13:38

Подробнее об авторе: