Возможности, ограничения и вероятные угрозы устойчивому развитию высокотехнологических компаний азиатского региона вследствие выхода из-под контроля искусственного интеллекта и нейросетей

Широковских С.А.1
1 Институт социальных наук, Россия, Москва

Статья в журнале

Экономика Центральной Азии
Том 4, Номер 4 (Октябрь-декабрь 2020)

Цитировать:
Широковских С.А. Возможности, ограничения и вероятные угрозы устойчивому развитию высокотехнологических компаний азиатского региона вследствие выхода из-под контроля искусственного интеллекта и нейросетей // Экономика Центральной Азии. – 2020. – Том 4. – № 4. – С. 385-394. – doi: 10.18334/asia.4.4.111626.

Эта статья проиндексирована РИНЦ, см. https://elibrary.ru/item.asp?id=44668224

Аннотация:
Стремительное развитие цифровых технологий и внедрение парадигмы постиндустриального устройства социально-экономической системы ознаменовывает развитие диалога с машинами и виртуальным миром как партнеров. Фактически постиндустриальное общество и его форма устройства – Индустрия 4.0 – подразумевает в качестве основного критерия развития умение виртуального мира интегрироваться в физический мир людей и взаимодействовать с ними, обучаясь и приобретая все более прогрессивные формы коммуникаций и проактивного реагирования на потребности и запросы индивида-партнера. Однако выход машин за рамки алгоритмического мышления несет в себе системные риски вторжения в физический мир человечества и его трансформацию с учетом технологических представлений маши, обладающих базой для формирования искусственного мышления. В статье рассматриваются основные достижения компаний Азиатского региона в вопросе развития концепции искусственного интеллекта и нейросетевого управления, а также приводится анализ возможных сценариев нарушения устойчивого развития бизнес-структур и всей социально-экономической системы при выходе из-под контроля систем машинного мышления.

Ключевые слова: искусственный интеллект, нейросети, машинное обучение, контроль, доминирование, риски, интервенция, роботизация мышления, конфликт интересов



Введение. Современный этап развития высокотехнологичного сектора стран азиатского региона стратегически заточен на всемерное развитие и поощрение исследований в области нейросетевого анализа и прогнозирования и сценарного моделирования развития общества и экономики, а также форсайт-менеджмента [2, 15] (Dudin, Lyasnikov, Egorushkin, Safin, 2013; Shirokovskikh, 2018). Как уже сложилось исторически, данные исследования носят достаточно ярко выраженный военно-политический характер, а также являются инструментом форсирования частных и государственных интересов таких стран азиатского региона, как Китай, Япония, Южная Корея, на региональной и мировой арене экономических и политических сил [3, 5, 9, 11, 12] (Akulinin, Adamov, 2019; Molchanova, Drozdova, 2019).

Учитывая колоссальные финансовые возможности указанных стран, грамотно выраженную политику международного технического обмена и привлечения иностранных специалистов в области machine-learning, искусственного интеллекта и Big Data анализа, представленные страны становятся новыми центрами силы в совершенно новой форме – машинном мышлении и инклюзии виртуального мира в мир физических вещей [4, 8, 15] (Shirokovskikh, 2018).

Для рассмотрения потенциальных рисков для стейкхолдеров микро- и макроуровня в случае потери контроля человека над машинным мышлением рассмотрим понятийный аппарат проблемной области, а именно: искусственный интеллект и искусственная социальность (табл. 1).

Таблица 1

Раскрытие понятий «искусственный интеллект» и «искусственная социальность» в контексте проблемной области

Автор (-ы)
Контекстуальное содержание понятий
А.Н. Аверкин
[1, c. 7–8] (Gusarova, 2018, р. 7–8)
Искусственный интеллект – научное направление для постановки и решения задач аппаратного или программного моделирования интеллектуальных видов деятельности человека, например, мода, искусство, поэзия
Д. Хебб [3]
Искусственный интеллект – подраздел сферы информационных технологий, который ставит целью автоматизацию разумного поведения машин
Р. Хэмминг [5]
Искусственный интеллект – цифровая инфраструктура по генерации комплекса процессов мышления индивида (социума в целом) в части креативного анализа, диалектизма и дедукции в условиях лимита времени, ресурсов и информации
Дж. Нейман [7]
Искусственный интеллект – альтернативная человеческому форма машинного мышления, которая способна конструировать киберобъекты, наделенные опцией ставить цели и достигать их
Н. Виннер [9]
Искусственная социальность – генерация информационной средой некоторой реальности с правилами поведения, нормами, ограничениями и запретами, выстроенными на идеологии машин
А. Тьюринг [10]
Искусственная социальность – новая форма организации этических и культурных коммуникаций индивидов в контексте правил, сгенерированных в процессе разумного поведения машин
К. Шеннон [6]
Искусственная социальность – новая форма организации индивидов в социуме, когда участником является новый актор – киберструктура в форме искусственного интеллекта, который участвует в выработке правил поведения и коммуникаций в информационной среде интернета
Источник: составлено автором на основе критического обзора научной литературы и специализированных аналитических обзоров.

Исходя из построенного нами выше понятийного аппарата, можно выделить ключевые идеи научной статьи:

– искусственный интеллект является неотъемлемой частью построения социума в формате «Индустрия 4.0», но его поведенческие паттерны практически невозможно предсказать, так как он является воплощением идейно-этических установок всего человечества;

– объективное присутствие искусственного интеллекта в качестве самостоятельного актора в социуме в формате «Индустрия 4.0» обусловливает необходимость построения искусственной социальности, чьи правила и нормы поведения будут строиться с учетом проактивных решений искусственного интеллекта;

– наличие у искусственного интеллекта данных о всех типах поведения индивидов и его понимание алгоритмов мышления, психологических паттернов и жизненных ценностей формируют риск манипуляции указанными неидентифицируемыми объектами с целью получения машиной превосходства и власти над человеком [4, 6, 8–10, 13] (Pavlenko, 2018).

Для оценки реальности наступления ситуации выхода из-под контроля машинного мышления рассмотрим актуальные достижения стран азиатского региона в части технологий искусственного интеллекта и построения искусственной социальности (табл. 2). Исходя из данных таблицы, мы видим, что сфера применения искусственного интеллекта очень широка, но вместе с тем его возможности по-прежнему находятся в зоне погрешностных оценок, так как право администратора остается за оператором, и он может остановить деятельность цифрового мышления в случае установления видимой или перспективной угрозы.

Таблица 2

Ключевые достижения стран азиатского региона в части технологий искусственного интеллекта

Страна
Достижения в области применения ИИ
1. Китайская Народная Республика
1. Гиперавтоматизация производств – внедрение роботизированной системы управления процессов (RPA) в сфере опасных и вредных производств, что позволяет не только исключить ошибки человеческого фактора, но и снизить расходы на защитные и профилактические мероприятия по поддержанию здоровья сотрудников.
Пример. Ведущее агентство космических технологий страны China Aerospace Science and Technology Corp. (CASC) в 2018 г. оборудовало 5 крупнейших угольных шахт роботизированными комплексами по добыче угля в сложных геологических условиях с участием команды операторов на поверхности
2. Производство автономных систем в рамках «Интернета вещей» – в рамках данного направления реализуется производство взаимосвязанных с помощью сети Интернет вещей физического мира, например, беспилотные летательные аппараты взаимодействуют с топографическими приложениями, уточняя в автономном режиме границы объектов, или оценивают изменение экосистем.
Пример. Exyn Technologies и DJI совместно реализуют проект автономной оценки уровня загрязнения воздуха в крупнейших мегаполисах КНР и принимают решение о запрете на въезд в город автомобилей, определяют уровень опасности для гражданского населения
2. Япония
Развитие индустрии промышленных двойников – точных копий сложных производственных, энергетических и авиационных, космических, военных технологий для тестирования возможных сценариев поведения системы, оценки предельных параметров эксплуатации, экономической оценки оптимального выбора мощностей.
Пример. По данным аналитического обзора Mordor Intelligence, в Японии система промышленных двойников применяется при строительстве систем энергообеспечения и информационной инфраструктуры в условиях высокой сейсмической активности путем анализа на виртуальной карте точек наименьшей и наибольшего стресса
3. Южная Корея
Развитие субсферы – «Интернета тел» (англ. Body Internet) – зоны взаимодействия компьютера и человека с помощью системы трекеров и индикаторов, непосредственно вживленных в его тело, что позволяет отслеживать его жизненные показатели в режиме онлайн и принимать экстренные меры в случае их ухудшения.
Пример. Южнокорейская биотехнологическая компания Seoul Guide Medical совместно с компанией по производству нанороботов ГК «Ростех» выпустила наноробот с автоматическим введением в кровь искусственного инсулина при падении его уровня в крови пациента. Т.е. пациенту не нужно помнить об инъекции, робот сам оценивает необходимость инъекции и совершает операцию
Источник: составлено автором на основе [4–9].

Основываясь на представленных результатах применения искусственного интеллекта, рассмотрим основные возможности при переходе указанного объекта в категорию искусственной социальности, т.е. получения статуса актора в коммуникациях с социумом (табл. 3).

Таблица 3

Основные возможности при переходе искусственного интеллекта в статус искусственной социальности

Критерий оценки
Описание возможностей
1. Развитие систем проактивного реаги рования на ЧП в социуме
Характеристика возможности. ИИ включается в систему оперативного управления городским хозяйством и службами оперативного реагирования для предотвращения ЧП или преступ-лений, более эффективной помощи или скорейшей ликвидации ЧП.
Пример. Пожарная служба в г. Осака (Япония) опирается на карты ЧП, составляемые специальным программным комплексом, что повышает оперативность реагирования на 20–30% и снижает человеческие жертвы на 57–62% в зависимости от категории пожара
2. Оптимизация транспортных потоков с целью улучшения экологического положения
Характеристика возможности. ИИ включается в систему стратегического управления транспортом и помогает оптимизировать транспортное сообщение как в городе, так и пригородов, сделать движение более ритмичным, снизить углеродный след.
Пример. Организация транспорта в муниципалитете Гуанчжоу (Китай) на 75% построена на маршрутизации транспорта по картам ИИ, что позволило за 2018 г. снизить простой транспорта всех видов на 18,5%, а также снизить углеродный след на 8,3%
3. Применение ИИ в вопросах стандартизации и сертификации
Характеристика возможности. ИИ способен заменить экспертные команды в вопросах анализа и оценки продуктов на соответствие техническим условиям и параметрам, причем без учета человеческого фактора возможность обмана системы будет объективно невозможной.
Пример. Телекоммуникационная компания ZTE использует с 2018 г. комплекс ИИ для оценки скорости интернет-связи в стране и автоматически увеличивает или уменьшает ширину шлюза передачи данных при наличии пиковых значений
Источник: составлено автором на основе [4, 6–9].

Таким образом, в странах азиатского региона имеются отличные примеры применения ИИ для построения искусственной социальности, которая модерируется машинным разумом.

В завершение исследования рассмотрим основные риски для устойчивого развития социально-экономических систем стран азиатского региона вследствие выхода из-под контроля искусственного интеллекта и нейросетей (табл. 4).

Таблица 4

Основные риски для устойчивого развития социально-экономических систем стран азиатского региона вследствие выхода из-под контроля ИИ

Наименование риска
Характеристика риска / последствия
1. Риск установления цифровой автокра-тии
Характеристика риска. Экспоненциальное развитие ИИ может привести к его качественной трансформации и овладению основными алгоритмами мышления человека, что позволит ему приблизиться к генезису человека, сформировать собственную систему ценностей и шкалу норм поведения. Одним из продуктов риска является появление стремления машины к власти, что с учетом повсеместной цифровизации может стать основой для формирования цифровой автократии.
Последствия. Оценка возможных последствий является крайне субъективной, т.к. линия поведения машины будет зависеть от доминирующих ценностей, из которых она будет строить новую идеологию в системе искусственной социальности: при худшем сценарии – это означает формирование полицейского типа государства, управляемого машиной, в лучшем – создание пацифистического общества с угнетением нормальных человеческих инстинктов и страстей, т.е. фактически стерилизация ценностей агрессии, доминирования, власти
2. Манипулирование системами жизнеобеспечения и безопасности
Характеристика риска. ИИ, имеющий права администратора на ключевые инфраструктурные объекты: энергетика, связь, диспетчирование, военная сфера, может настроить системы против пользователей, тем самым подвергнув их благополучие и жизнь опасности, в т.ч. и физической.
Последствия. По мнению специалистов Artificial Intelligence Index Report, машинное мышление может начать локальные вооруженные конфликты с человеком с использованием автономных объектов (БПЛА, военные образцы робототехники), с учетом темпов роста машинного IQ вероятность такого исхода составляет, по оценке военных аналитиков, 30–35%
3. Проведение хакерских атак на конкурирующие ядра ИИ
Характеристика риска. Если исходить из идеи, что ИИ свойственно использование моделей поведения человека, то имеется вероятность (20–24%), что отдельные ядра ИИ могут организовать свой цифровой рынок с правилами конкурентной борьбы в виде сгенерированных хакерских атак друг на друга.
Последствия. По мнению аналитиков Silicon Valley Artificial Intelligence Lab, основной урон от машинного конкурирования заключается в разрушении недружественных экосистем, созданных другими платформами ИИ, что прямо повлияет на показатели жизнедеятельности общества
4. Управление личными данными отдельных лиц социума
Характеристика риска. Использование ИИ может сгенерировать риск умышленного вмешательства в его работу, что может привести к противоправным операциям с личными данными граждан как со стороны хакеров из физического мира, так и распоряжению информацией в виртуальном мире метафизических систем.
Последствия. Вторжение в инфраструктуру Big Data хранилищ личной информации граждан может привести как к ее утечке в открытый доступ, так и нелегальному коммерческому использованию отдельными бизнес-структурами
Источник: составлено автором на основе [8–10].

Заключение. Сегодня власти азиатских государств (прежде всего, речь о Китае, Японии и Южной Корее) более чем активно инвестируют в развитие систем искусственного интеллекта и механизма построения искусственной социальности, что подтверждается наличием масштабных государственных программ:

– Белая книга развития ИИ – 10-летняя стратегия развития инфраструктуры и продуктового производства инструментов реализации принципов и концепций ИИ и построения искусственной социальности. Согласно данным государственной программы КНР, в области развития собственной инфраструктуры планируется инвестировать более 6,5 млрд долл. США и построить более 42 объектов цифровой инфраструктуры, в т.ч. 4 хранилища данных, соответствующих международным стандартам FERMA;

– Программа развития искусственного интеллекта нового поколения – 7-летняя инвестиционная программа финансирования стартап-проектов и государственно-частного партнерства лидеров рынка ИИ в Китае (компании Baidu, Tencent, MegVii) общим объемом инвестиций 10,4 млрд долл. США;

– государственная программа «1000 талантов» – специальная программа поиска, отбора и приглашения на работу иностранных ученых в сфере ИИ и построения искусственной социальности в пакетном формате «виза – место работы – жилье» с перспективой релокации или участия в международном научно-техническом обмене. Бюджет программы – 2,4 млрд долл. США [6–10].

В части вопросов безопасности применения ИИ и механизма построения искусственной социальности Китаем и Японией в 2019 г. планируется утвердить следующие документы:

1. Искусственный интеллект: национальная стратегическая инициатива – мануал, разработанный BAT (Baidu, Alibaba, Tencent) в рамках саморегуляции процессов урегулирования конфликтов с участием машинного разума и предотвращения нелегальных операций с личными данными.

2. Белая книга по стандартизации ИИ в цифровой экономике – руководство для китайских и японских компаний в части использования фундаментальных понятий, классификации продуктов ИИ, критериев оценки рисков и уровня развития искусственной социальности;

– вхождение на правах наблюдателя (до июня 2021 г.) в состав «Партнерства по искусственному интеллекту» (Partnership on AI, PAI) – некоммерческой организации, учрежденной Facebook, Google, Apple и Microsoft, с целью унификации технических стандартов работы с системой ИИ, реализации инициатив в области искусственной социальности.


Источники:

1. Гусарова Н.Ф. Введение в теорию искусственного интеллекта. - СПб: Университет ИТМО, 2018. – 62 c.
2. Дудин М.Н., Лясников Н.В., Егорушкин П.А., Сафин Ф.М. Инновационный форсайт как инструмент конкурентоспособного развития предпринимательских структур. / Монография. - М.: Издательский дом «Наука», 2013. – 216 c.
3. Китайский опыт развития отрасли искусственного интеллекта: стратегический подход : аналитический обзор Московского Центра Карнеги. Carnegie.ru. [Электронный ресурс]. URL: https://carnegie.ru/2020/07/07/ru-pub-82172 (дата обращения: 13.11.2020).
4. Прогнозы развития технологии искусственного интеллекта на 2019 год: шесть приоритетных направлений развития ИИ, которые нельзя игнорировать : аналитический обзор PWC. Pwc.ru/. [Электронный ресурс]. URL: https://www.pwc.ru/ru/publications/artificial-intelligence-predictions-2019.html (дата обращения: 13.11.2020).
5. Интеллектуальное превосходство: Китай ставит на мировое господство на рынке искусственного интеллекта : аналитическая статья. Forbes.ru. [Электронный ресурс]. URL: https://www.forbes.ru/kompanii/344031-iskusstvo-intellekta-kitay-stavit-na-miro-voe-gospodstvo-na-rynke-iskusstvennogo (дата обращения: 10.11.2020).
6. Развитие искусственного интеллекта в мире: Россия и мировая статистика. D-russia.ru. [Электронный ресурс]. URL: https://d-russia.ru/razvitie-iskusstvennogo-intellekta-v-mire-rossiya-i-mirovaya-statistika.html (дата обращения: 10.11.2020).
7. ИИ-тренды: чего ждать в сфере искусственного интеллекта в 2020 году. Vc.ru. [Электронный ресурс]. URL: https://vc.ru/ml/110478-ii-trendy-chego-zhdat-v-sfere-iskusstvennogo-intellekta-v-2020-godu (дата обращения: 07.11.2020).
8. Четыре сценария для ИИ в литературе: дискуссия в Библиотеке Достоевского. Russiancouncil.ru. [Электронный ресурс]. URL: https://russiancouncil.ru/news/chetyre-stsenariya-dlya-ii-v-literature-diskussiya-biblioteke-dostoevskogo (дата обращения: 08.11.2020).
9. Что такое искусственный интеллект: сферы применения, перспективы развития и возможная опасность для человека. Geekbrains.ru. [Электронный ресурс]. URL: https://geekbrains.ru/posts/what_is_ai (дата обращения: 04.11.2020).
10. Современное состояние искусственного интеллекта : аналитический обзор. Dtf.ru. [Электронный ресурс]. URL: https://dtf.ru/science/41917-sovremennoe-sostoyanie-iskusstvennogo-intellekta (дата обращения: 06.11.2020).
11. Акулинин Ф.В., Адамов Д.В. Россия на пороге сингулярности. Искусственный интеллект, основные аспекты и сложности развития и внедрения в России и в мире // Экономические отношения. – 2019. – № 2. – c. 867-880. – doi: 10.18334/eo.9.2.40633.
12. Молчанова С.М., Дроздова А.П. Научно-техническое лидерствo китайского искусственного интеллекта: миф или реальность? // Экономические отношения. – 2019. – № 4. – c. 2771-2486. – doi: 10.18334/eo.9.4.41314.
13. Павленко Ю.Г. Экономическая безопасность в условиях креативно-инновационной экономики: политико-экономический аспект // Экономическая безопасность. – 2018. – № 2. – c. 91-101. – doi: 10.18334/ecsec.1.2.100499.
14. Цветков В.А., Шутьков А.А., Дудин М.Н., Лясников Н.В. Цифровая экономика и цифровые технологии как вектор стратегического развития национального агропромышленного сектора // Вестник Московского университета. Серия 6: Экономика. – 2018. – № 1. – c. 45-64.
15. Широковских С.А. Методы и практика использования искусственного интеллекта в высокотехнологических компаниях России и региона Центральной Азии // Экономика Центральной Азии. – 2018. – № 4. – doi: 10.18334/asia.2.4.111559.

Страница обновлена: 27.03.2021 в 10:40:58