Оценка и минимизация рисков человека в цифровой среде

Городнова Н.В.1
1 Уральский федеральный университет им. первого Президента России Б.Н. Ельцина

Статья в журнале

Экономика, предпринимательство и право
Том 12, Номер 7 (Июль 2022)

Цитировать:
Городнова Н.В. Оценка и минимизация рисков человека в цифровой среде // Экономика, предпринимательство и право. – 2022. – Том 12. – № 7. – doi: 10.18334/epp.12.7.114866.

Аннотация:
Широкое внедрение в жизнедеятельность общества сквозных технологий, таких, как искусственный интеллект и Интернет вещей, с одной стороны, открывает новые возможности технологического роста, с другой – создает новые риски и угрозы для самого человека, в частности, необходимость адаптации к быстро меняющейся внешней среде обитания и труда, а также угрозы, связанные с незаконным использованием накопленных о человеке данных. Научная новизна заключается в разработке классификации рисков человека в цифровой среде, оценке уровня рисков для цифрового благополучия человека, а также обосновании направлений минимизации отдельных рисков в целях формирования цифрового благополучия человека. Сделан вывод, что человеку, как слабой стороне в процессе цифровизации, необходимо экономико-правовое сопровождение его жизнедеятельности и самореализации. Результаты данного научного исследования могут быть полезными для специалистов, занимающихся управлением рисками в цифровой среде, экспертов, работающих в сфере создания благоприятных условий труда в цифровой экономике, а также представителей органов государственной власти, осуществляющих реализацию национальных программ по цифровизации экономики.

Ключевые слова: цифровизация, искусственный интеллект, риск, области риска, зоны риска, метод Монте-Карло, цифровое благополучие человека

JEL-классификация: D81, D83, O31



Введение

Актуальность темы. Широкое распространение сквозных технологий в социально-экономической жизни общества таких, как алгоритмы искусственного интеллекта (ИИ), различные системы робототехники, Интернет вещей и т.п., открывают еще большие возможности повышения производительности труда для компаний и организаций, а также качества жизни отдельных домохозяйств и общества в целом. Внедрение сквозных технологий приводит к генерированию гигантского массива информации, который, с одной стороны, создается алгоритмами и системами, а с другой – является основой для обучения нейронных сетей ИИ и виртуальных помощников.

Сбор и обработка информации сопровождается необходимостью копирования ИИ различного рода данных. Указанная проблема требует внедрения надежных способов защиты данных от несанкционированного и незаконного использования. Применение больших баз данных сопряжено с риском утечки конфиденциальной информации в силу недолжного и недобросовестного применения. Кроме того, отсутствие унифицированных требований к защите персональных данных и авторского права может привести к неоднозначной интерпретации понятия легального копирования данных для целей работы ИИ. Это становится серьезным барьером для более широкого внедрения технологий ИИ и порождает различные виды риска для самого человека, что подтверждает актуальность выбранной темы.

Цель – разработать классификацию рисков для человека в цифровой среде и определить пути их снижения.

Научная новизна работы состоит в выявлении и идентификации рисковых событий для человека в процессе цифровизации экономики и в цифровой среде, позволяющих представить классификацию цифровых экономико-социальных рисков, произвести оценку уровня риска человека в цифровой среде, а также разработать направления минимизации рисков.

Научная гипотеза: в процессе цифровизации среды у человека, как слабой стороны, возникают такие проблемы, как необходимость адаптации к новым условиям, сохранение конфиденциальности данных, а также трансформация рынка труда.

Сделан вывод о том, что человеку в эпоху цифровизации необходимо правовое сопровождение и социально-правовая поддержка в рамках его жизнедеятельности и самореализации.

Основная часть. Российская программа перехода на цифровую экономику предполагает оцифровывание различных сфер социально-экономической жизни, а также отдельных направлений производства и услуг. При этом отмечается, что гражданин России будет представлять собой идентифицируемый уникальный цифровой объект. В цифровой среде осуществляется накопление и обработка огромных массивов данных, из которых при помощи алгоритмов расчетов различных методов и методик формируются субъекты с характерными свойствами, а также выделяются различные процессы, тенденции и взаимосвязи между ними. Оцифрованные данные – это информация, имеющая либо чёткий характер и подлежащие кластеризации и кодированию, либо нечёткий характер – данные, подлежащие анализу с применением алгоритмов расчетов.

Цифровое благополучие человека – это дефиниция, которая означает исключительное позитивное воздействие процессов цифровизации социальной и экономической жизни личности [7]. Однако следует отметить, что в любом явлении и процессе одновременно наличествует положительные и отрицательные проявления. Данная статья будет посвящена идентификации потенциальных рисков и угроз для человека, их оценке и рекомендациям социально-экономического характера, нацеленных на снижение отдельных видов рисков. В этих целях автором выделяются следующие разряды рисков:

Первый разряд рисков – это риски для человека, которые вытекают вследствие необходимости его адаптации к быстроменяющейся внешней цифровой среде.

Второй разряд рисков, с которыми сталкивается человек в цифровой среде, риски, связанные со сбором, анализом, обработкой, хранением, передачей и коммерческим использованием данных, то есть формирование больших баз данных (big data), содержащей в себе социальные и персональные данные. Информация и данные, интегрированные в огромные массивы, необходимы различным сторонам. В частности, государству указанные данные необходимы в целях создания системы взаимодействия с гражданами, для принятия решений, для формирования нормативно-правовой базы, формирования условий национальной безопасности. Для частного партнера (бизнеса, инвесторов) большие данные необходимы в целях реализации онлайн-рекламы, коммерческой деятельности в Интернете вещей. Особую актуальность и важность большие данные приобретают в процессах обучения нейронных сетей алгоритмов ИИ.

Формирование больших данных (big data), как способа анализа информационных ресурсов, является следствие невозможности применения ранее созданных аппаратных и программных средств в силу их недостаточных возможностей в эпоху колоссального роста информации. Непосредственно процесс формирования больших данных стал возможен в связи с появлением новых способов сбора и хранения информации, не требующих ручной обработки и присутствия человека (сенсоры, датчики, различные технические устройства, смарт-устройства и пр.). С появлением новых сквозных информационных технологий и расширением потенциала стало возможным и создание принципиально новых способов формирования баз и хранения данных.

Третий разряд рисков – риски, сопряженные с формирование больших данных Интернета вещей. Риски, связанные с созданием и передачей огромного количества унифицированных сигналов, поступающих с датчиков смарт-устройств, применяемых в различных сферах жизнедеятельности человека, включая производственный сектор, сектор оказания различного рода услуг, широким применением носимых устройств (смартфонов, планшетов и т.п.).

Четвертый разряд рисков – риски человека в цифровой среде возникают на стыке выбора между правами человека, интересов и целей конкретных социальных групп, общества в целом, государства, процессами внедрения новых, сквозных технологий, и созданием новых цифровых продуктов, услуг и возможностей, напрямую или косвенно использующих различного рода данные.

Авторская классификация укрупненных групп и разрядов рисков для человека в цифровой среде представлена на рисунке 1.

Рисунок 1 – Укрупненные разряды и группы рисков цифровой среды для человека [1]

Автором исследования выделяются следующие основные группы риска:

1. Риски адаптации – риски и вызовы, возникающие в процессе и по причины адаптации человека к цифровой среде: психологические, физиологические, ментальные:

1) формирование принципиально новых условий жизнедеятельности человека (формирование цифровой среды, оцифровывание всех сторон жизни человека);

2) адаптация к быстро меняющимся внешним условиям;

3) идентификация личности в цифровой среде;

4) смена уклада повседневной жизни;

5) формирование стрессовых условий вследствие генерирования колоссальных информационных потоков, которые человеку постоянно необходимо обрабатывать;

6) высокий уровень технологической конкуренции за человека, как ресурс;

7) попытка разорвать цифровые шаблоны и стереотипы;

8) применение конвергентных технологий.

2. Риски применения сквозных технологий (в том числе искусственного интеллекта, ИИ) – широкое применение сквозных технологий, непреднамеренное создание алгоритмов ИИ и систем принятия решений, оказывающих дискриминирующее воздействие на отдельные личности или отдельные социальные группы вследствие низкого качества процессов сбора данных и / или некорректного применения больших данных в процессе обучения программного обеспечения:

1) этичное / неэтичное поведение алгоритмов ИИ;

2) возникновение ошибок или сбоев систем ИИ на стадии проектирования, производства, наладки или эксплуатации;

3) возможность ущерба вследствие принятия неверных решений системами ИИ;

4) определенная «предубежденность» алгоритмов ИИ (bias).

5) недостаточная прозрачность работы и / или мониторинга алгоритмов и систем ИИ (недостаточность объяснительной компоненты);

6) возможность утечки информации (целых баз данных);

7) потеря приватности / конфиденциальности данных;

3. Конфликт интересов государства, бизнеса, общества (человека) – возникновение конфликта интересов государства, общества, отдельных социальных групп или человека вследствие возникновения недостаточного уровня / или полного отсутствия разъяснительной работы и работы с общественным мнением или в связи с несовершенством законодательства.

1) стирание государственных и финансово-экономических границ (трансграничный характер цифровой среды, телемедицина и т.п.);

2) языковой барьер и необходимость поиска унифицированных кодов;

3) трансформация функций государства (отсутствие достаточной информационной поддержки со стороны государства / бизнеса и ненадлежащей предварительной разъяснительной работы);

4) принятие законодателем неадекватных решений и непроработанных законодательных актов, влекущих серьезные последствия, финансовые, репутационные и иного рода потери;

5) непреднамеренное (преднамеренное) нарушением государственными служащими и чиновниками действующего законодательства вследствие непродуманное

6) неэтического применения персональных данных и возникновение различного рода существенных негативных последствий и значительного ущерба;

4. Риск возникновения цифрового неравенства – все виды рисков и угроз, связанных с цифровым неравенством и возможностью цифровой дискриминации человека или отдельных социальных групп:

1) прямая дискриминация личности (отдельных социальных групп) в цифровой среду (финансово необеспеченные граждане, не имеющие технические возможности в связи с местом жительства, принадлежность к группе с ОВЗ и т.п.);

2) цифровое неравенство человека или отдельных социальных групп;

3) глубокая цифровизация повседневной жизни человека, не имеющего доступа к новым цифровым технологиям (к примеру, пожилые граждане, финансово обеспеченные, проживающие в крупных мегаполисах, но не принимающие новые технологии по каким-либо причинам: отсутствие знаний и навыков, религиозные убеждения, недоверие к новым информационным технологиям и т.п.);

4) возможность возникновения иных видом дискриминации косвенного характера (отсутствие кабинета на портале госуслуг или аккаунта на информационном ресурсе).

5. Риски трансформации рынка труда – полная модификация рынка труда и риск роста безработицы.

6. Риски тотального контроля личности – риски потери свободы, тотальный контроль со стороны государства или отдельных систем.

7. Риски роста киберпреступности и хакавизма.

8. Риски, связанные с ведением антироссийских санкций в IT-сфере. С российского рынка ушли такие IT-гиганты, как Apple, Ericsson, HP, Canon, Nokia, Hitachi, Panasonic, IBM, Intel, AMD, TSMC и пр. Это означает, что применение высоких технологий, разрабатываемых в указанных корпорациях, будет приостановлено. Рядом разработчиков программного обеспечения заявлено о приостановлении использования на территории РФ использования таких сервисов и программ, как Microsoft, SAP, Oracle, Autodesk, Adobe, сервис бронирования билетов Sabre, EPAM Systems, VistaCreate, VMware, фотохостинг Depositphotos и пр.

Краткая характеристика групп и подгрупп рисков человека в цифровой среде представлена в таблице 1.

Таблица 1 – Классификация и краткое описание рисков человека в цифровой среде [2]

№ п/п
Группы риска / краткая характеристика
Подгруппы риска /
Краткая характеристика
1
Риски адаптации – риски возникающие вследствие необходимости адаптации человека к быстроменяющимся внешним условиям
Формирование принципиально новых условий обитания
Высокая скорость адаптации и трансформации
Идентификация личности в цифровой среде
Проблема одиночества в толпе, феномен мегаполиса
Смена жизненного уклада (эффект повседневности)
Формирование гигантский информационных потоков (повышения уровня стресса)
Высокий уровень технологической конкуренции
Поиск форм и путей вдохновения, «расчеловечивание»
2
Технологические риски – риски широкого применения сквозных технологий, включая алгоритмы ИИ
Неэтичное по отношению к человеку проявление работы алгоритмов и систем
Риск ошибок или сбоев систем на различных стадиях разработки и эксплуатации
Риск ущерба вследствие принятия неверных решений
Определенная «предубежденность» алгоритмов (bias)
Риск непрозрачности и / или мониторинга алгоритмов
Возникновение утечки различного рода информации и данных
Проблема утери приватности / конфиденциальности данных
Проблема технологической надежности систем и алгоритмов
Проблема психологической привязки человека к антропоморфным роботам
3
Конфликт интересов государства, бизнеса, общества, (человека)
риски, возникающие вследствие возникновения недостаточного уровня / или полного отсутствия разъяснительной работы или в связи с несовершенством законодательства
Трансграничный характер цифровой среды
Серьезная трансформация основных функций государства
Принятие государством неадекватных решений и нормативно-правовой базы / несовершенство законодательства
Непреднамеренное (преднамеренное нарушение цифрового законодательства чиновниками и служащими (коррупционная составляющая)
Неэтического применения персональных данных
Возникновение риска негативных последствий и значительного ущерба
4
Риск возникновения цифрового неравенства – риски, связанные с отсутствием технических и финансовых возможностей человека интегрироваться в цифровую среду
Риски цифровой дискриминация человека / социальных групп лиц
Риски возникновения цифрового неравенства вследствие научной или правовой непроработанности
Риски глубокой цифровизации повседневной жизни, отсутствие доступа к услугам
Низкий уровень цифровой грамотности населения
Недостаток цифровой культуры, отсутствие навыков жизни и работы в цифровой среде
Низкий уровень цифровой гигиены
Иные риски дискриминационного характера
5
Риски трансформации рынка труда –
риски, связанные с кардинальной трансформацией рынка труда, исключением человека из отдельных сфер трудовой деятельности
Риск частичной потери функций в отдельных сферах деятельности
Риски полной потери возможности осуществлять профессиональную деятельность в отдельных сферах
Риски высвобождения большого количества рабочей силы
Риск роста безработицы
6
Риски тотального контроля личности – риски потери свободы, связанные с тотальным контролем со стороны государства или отдельных систем
Социальная деградация, социальная рискогенность [2]
Стирание границы между личностью и обществом
Потеря приватности
Создание систем социального рейтинга и благонадежности личности
Формирование больших баз данных с датчиков, серсеров и устройств слежения
Приоритет общественных интересов над личностными
Постоянное отслеживание и мониторирование поведения
Формирование новых принципов расслоения общества и неравенства
Широкое применение цифровых технологий в кризисных и чрезвычайных ситуациях
Постоянный мониторинг изменившегося ландшафта антропотехносферы [2]
7
Риски роста киберпреступности и хакавизма – появления новых видов преступлений и мошенничества в цифровой среде против личности, общества, бизнеса, государства
Киберпреступления в сфере электронных средств платежа
Банковская киберпреступность
Мошенничество в сфере компьютерной информации
Различные виды дистанционного мошенничества
Участие несовершеннолетних лиц как субъектов правонарушений в сети Интернет
Применение компьютерных технологий против личности
Киберпреступность на игровых онлайн-платформах
Появление цифровых картелей
Киберсталкинг
Кибертерроризм
Фишинг как новый вид киберпреступности
Казено в сети
Появление субкультуры хакеров и проблема харекрских атаки на различные сервисы
Распространение вредоносного контента [2]
Несанкционированное вмешательство в работу беспроводных устройв
Угрозы манипуляции данными
8
Риски, связанные с ведением антироссийских санкций в IT-сфере – риски, связанные с угрозами возникновения серьезных сбоев и ошибок в работе персональных компьютеров
Появление различных ошибок при активации программного обеспечения
Ограничение (полный запрет) доступа к различным сервисам и контенту
Появление различных ошибок в работе операционной системы и программ
Необходимость модификации имеющегося программного обеспечения
Сбои в работе, приводящие к поломке персональных компьютеров
Сбои в активации программного обеспечения
Необходимость замены ключей для программного обеспечения
Необходимость полной замены офисов и программного обеспечения
Потеря (полная или частичная) доступа к финансовым средствам
Как было показано на рисунке 1, выделяются следующие типы данных человека, которые применяются в цифровой среде:

1. Социальные данные человека – это информация о перемещениях личности, его покупках в Интернете вещей, поведении и различных интересах, социальных связях, взаимодействиях и взаимоотношении с другими людьми, возможно, идеологии и религиозных предпочтениях.

2. Персональные данные человека – это вся информация, непосредственно касающаяся личности, прямо или косвенно определяющая и характеризующая человека – физического лица (субъекта персональных данных).

3. Государственные данные – это информация, отраженная в реестрах органов государственной власти и информационных ресурсах организаций государственного сектора (различные статистические данные, данные по формированию и расходованию бюджета на различные социальные и национальные проекты и программы и пр.).

4. Открытые данные – это информация, размещенная в глобальной сети Интернет в форме систематизированных данных, позволяющих осуществлять автоматическую обработку, без предварительного изменения личностью, в целях многократного и свободного применения на безвозмездной основе.

В цифровой среде для сбора и обработки данных алгоритмами ИИ могут быть применимы такие статистические методы оценки уровня риска, как оценка частоты возникновения некоторого уровня потерь и метод Монте-Карло [1].

Статистический метод оценки частоты возникновения потерь позволяет рассчитать вероятности возникновения потерь на основе анализа всего массива статистических данных, связанных с осуществлением различного вида операций. При этом частота возникновения некоторого уровня может быть определена по следующей формуле [4]:

fAE(SAE) = (n`/ n AE(SAE)) 100 %, где (1)

fAE(SAE) частота возникновения нежелательных событий (AE, SAE);

n` – число случаев наступления конкретного нежелательных событий (AE, SAE);

n AE(SAE) – общее число случаев наблюдения в статистической выборке, включающее и успешно осуществленные операции данного вида;

В целях практического применения указанного метода и построения кривой риска и определения уровня потерь необходимо введение понятия областей риска в цифровой среде. Областью риска определим некоторую зону возникновения нежелательных событий, в границах показатель fAE(SAE) не превышает предельного значения установленного уровня риска (Нр). Показатель Нр определяется на основании данных, полученных в ходе построения графика Лоренца (по частоте возникновения нежелательных событий) [10]. По показателю Нр определяется общий уровень риска возникновения негативных последствий введения ряда антироссийских санкций.

При этом необходимо установить границы диапазона показателя Нр:

Нр = 0 – безрисковая деятельность (идеальная модель); Нр = 0-25% область минимального риска; Нр = 25-50% область повышенного риска; Нр = 50-75% область критического риска; Нр область недопустимого риска.

Уровень риска Нр определяется по частоте возникновения потерь. Для построения графика риска (графика Лоренца) частоты fAE(SAE) выстраиваются в восходящий ранжированный ряд по объему явлений (Нр), затем определяются кумулятивные итоги частот. Построение нескольких линий Лоренца по различным периодам позволяет сравнивать Нр по степени кривизны этих линий.

Применение инновационных технологий и возможностей обучения нейронных сетей открывают широкие перспективы разработки и внедрения различных IT-продуктов, создания программного обеспечения и применения больших баз данных в сфере оценки уровня риска. Однако следует отметить, что данный процесс сопряжен с возникновением различных рисков социально-этического характера практически для всех членов общества.

Метод Монте-Карло позволяет учесть неопределенность и риск за счет использования распределений различных входных параметров. Метод применим при определении различных параметров, которые не требуют предварительных данных о чистой текущей стоимости деятельности. Кроме того, метод позволяет рассчитать искомые параметры в прогнозном периоде. Однако, вследствие того, что оценка параметров содержит компонент неопределенности и риска, такая прогностическая оценка может оказаться неточной в течение периодов [14, 15]. Данный метод также применим к анализируемой ситуации с заданными характеристиками (например, оценка эффективности социально-ориентированных проектов). В таких случаях, стоимость социальных проектов может быть повышена на величину стандартного отклонения премии за риск.

Экономическое обоснование уровня риска произведено с применением статистического метода, суть которого заключается в определении вероятностей возникновения нежелательных событий (AE) и серьезных нежелательных событий (SAE) с учетом данных прогнозной оценки возникновения различного рода рисковых событий 8 группы рисков по авторской классификации – риски, связанные с введением антироссийских санкций. В качестве примера приведем фрагмент расчетов эффективности гипотетического применения плана мероприятий по снижению экономико-правовых рисков человека в цифровой среде.

В целях построения кривой риска (графика Лоренца) и определения частоты возникновения нежелательных событий (AE, SAE) потребуется введение понятия областей риска, промежуточные расчеты удельного веса каждого нежелательного события, отобранные из всего перечня рисковых событий, которые приведены в таблице 2.

Таблица 2 – Исходные данные для определения уровня риска (фрагмент) [3]

Нежелательные события (AE), серьезные нежелательные события (SAЕ) Частота возникновения нежелательного события (f AE(SAE ), %
Безрисковая область
Область минимального риска
Область повышенного риска
Область критического риска
Область недопустимого риска
f AE(SAE)общ
f AE(SAE 2
f AE(SAE)3
f AE(SAE)4
f AE(SAE)5
4331 (69,03%)
0,34
[0,17÷0,57]
5,34
[4,55÷6,22]
11,68
[10,46÷12,99]
0,94
[0,72÷1,19]
1) AE: появление различных ошибок при активации программного обеспечения
20,97
856 (13,75%)
-
0,94 [0,72÷1,19]
-
-
2) AE: ограничение доступа к различным сервисам и контенту
9,31
535 (8,60%)
-
-
8,60 [7,92÷9,31]
-
3) AE: незначительные ошибки при работе операционной системы и программ
4,72
262 (4,61%)
-
4,21 [3,73÷4,72]
-
-
4) AE: потребность модификации имеющегося программного обеспечения
3,52
157 (2,52%)
-
-
2,52 [2,15÷2,92]
-
5) AE: сбои, приводящие к поломке персональных компьютеров
0,76
35 (0,56%)
-
-
0,56 [0,39÷0,76]
-
6) AE: сбои в активации программного обеспечения
0,31
12 (0,19%)
-
0,19 [0,10÷0,31]
-
-
?) AE: необходимость получения ключей для программного обеспечения
0,30
11 (0,18%)
0,18 [0,09÷0,30]
-
-
-
8) AE: полная замена офисов и программного обеспечения
0.27
10 (0,16%)
0,16 [0,08÷0,27]
-
-
-
9) AE: различные проблемы с операционной системой
1,19
59 (0,94%)
-
-
-
0,94 [0,72÷1,19]
10) SAЕ: полная потеря доступа к программному обеспечению
0,14
4 (0,06%)
-
-
-
0,06 [0,01÷0,14]
11) SAЕ: потеря возможности доступа к финансовым средствам
0,09
2 (0,03%)
-
-
-

0,03 [0÷0,09]
Показатель риска Нр
Удельный вес Yn
41,52
(1943)
100

(21)
1,08

(1130)
58,16

(727)
37,41

(65)
3,35

На рисунке 2 представлен график для определения частоты возникновения нежелательных событий (AE, SAE).

Рисунок 2 – График Лоренца [4]

Показатель Нр определяется по следующей формуле:

Нр = (OD / AO) 100% = (16 / 55) 100% = 29,9%.

Уровень риска возникновения неблагоприятных последствий введения антироссийских санкций в цифровой среде, по нашим расчетам, соответствует области повышенного риска.

Однако следует отметить, что при определении Нр с помощью графика Лоренца имеется один весьма существенный недостаток – Нр не будет равен 1 при его максимальном значении, он будет лишь стремиться к единице. Указанный недостаток возможно устранить с помощью идеи, высказанной проф. П.П. Масловым по следующей формуле [4, 5]:

Y1 (n –1) + Y2 (n – 2) + … + Yn -1

Нр = 1 – , где (2)

50 (n – 1)

Нр – уровень риска;

n – число единиц совокупностей событий;

Yn – удельный вес частоты возникновения нежелательных событий (AE, SAE).

Применение выражения (2) дает возможность получить следующий показатель уровня риска человека в цифровой среде:

277,34

Нр = 1 – = 1 – 0,5548 = 0,4452, т.е. Нр = 44,52%.

50 (11 – 1)

Скорректированная величина уровня риска Нр несколько возросла, но также остается в области повышенного риска.

В таблицах 3 и 4 приведены направления снижения некоторых видов рисков человека в цифровой среде.

Таблица 3 – Пути снижения отдельных видов рисков человека в цифровой среде, связанные с трансформацией рынка труда [5]

Группы сценариев развития событий
Направления развития цифровой среды
Ожидаемые позитивные последствия
Сферы
возникновения риска
Пути минимизации рисков
Первый сценарий
Передача алгоритмах ИИ части функционала человека
Повышение скорости и качества осуществлений операций
Фармацевтика, химическое производство, здравоохранение (диагностика и визуализация данных), сельское хозяйство (мониторинг), промышленное производство (технологические линии), финансы, безопасность, образование, юриспруденция.
Перевод человека на решение иных задач [13]
Второй сценарий
Полная замена человеческого труда в сферах рутинных и трудоемких операций
Освобождения человека от необходимости выполнения многократко повторяющихся
механических и рутинных действий
Строительство, логистика, промышленный клининг, кибербезопасность, промышленное производство
Третий сценарий
Появление новых функций, которых человек не выполнял в силу различных факторов
Высокая скорость, масштабы реализации, комплексность различных систем, высокая точность
Медицина (нанотехнологии), материаловедение (нанотехнологии), спутниковая связь
Автоматизация процесс планирования

Таблица 4 – Методы снижения рисков утраты данных о человеке [6]

№ пп
Метод снижения рисков человека в цифровой среде
Краткая характеристика метода
Ожидаемые позитивные последствия
Возможные негативные последствия и угрозы
1
Обезличивание данные (анонимизация)
Целенаправленное воздействие или алгоритм действий, в результате которых устраняется связь между субъектом данных и совокупностью идентифицирующих данных
1. Удаление из базы персональных данных (имя, фамилия, местожительство и пр.).
2. Практически полное исключение возможности идентификации личности.
3. Упрощение правового применения в связи с отсутствием персональных данных.
1. Затруднение применения базы данных в научно-исследовательских целях.
2. Присутствие риска деанонимизации личности по косвенным признакам и характеристикам, а также косвенной идентификации личности (к примеру, сопоставление данных с информацией из новостных источников и пр.).
2
Псевдонимизация
Целенаправленное воздействие или алгоритм действий, в результате которых добавляется связь между совокупностью обезличенных данных и одним или несколькими псевдонимами
1. Удаление из базы или изменение данных, позволяющих идентифицировать конкретное физическое лицо (имя, фамилия, местожительство и пр.).
2. Присвоение псевдонима и возможность идентификации личности при необходимости.
3. Возможность объединения данных из различных баз, сохранение конфиденциальности.
4. Удобство применения в аналитических и научных целях.
1. Повышения риски идентификации личности (деанонимизации) по сравнению с обратной анонимизацией (первый способ).
Например, предоставление лечащим врачам цифровых данных о пациенте и доступность данных, идентифицирующих личность).
2. Увеличение технологической сложности по сравнению с анонимизацией.
3. Увеличение затрат по сравнению с методом анонимизацией.
4. Предоставления доступа к базам отдельных участников

Идентификация отдельных видов рисков и угроз в цифровой среде и возможные пути их минимизации для человека приведены в таблице 5.

Таблица 5 – Рисковые события и пути их минимизации [7]

Идентификация
рискового события
Организационные пути минимизации рисков
Отсутствия доступа к электронным и цифровым устройствам и технологиям
Создание компьютерных центров общего доступа в многофункциональных центрах (МФЦ) или специализированных центрах информационных технологий
Отсутствие / недостаток цифровой культуры
Просветительская работа.
Реализация комплексных программ повышения цифровой грамотности населения.
Разъяснительная работа среди граждан.
Обучение грамотной работы с государственными цифровыми сервисами.
Обучение принципам цифровой гигиены и необходимости нераспространения информации о паролях, кодах и пр.
Отсутствие навыков применения банковских технологий (ЭСП, цифровые активы).
Отсутствие / недостаточный уровень цифровой гигиены
Несовершенство работы и возможность сбоев информационных порталов и сервисов
Технологическое совершенствование и повышение качества работы цифровых услуг. Сохранение возможности предоставление услуг в аналоговой форме (к примеру, через МФЦ).
Не предоставление отдельных видов цифровых услуг или предоставление услуг ненадлежащего качества.
Совершенствование межведомственного взаимодействия, модификация регламентов, изменение формулировок и форм запроса, расширение перечня услуг МФЦ.

В условиях цифровизации экономической среды необходимо четко и неуклонно соблюдать основные принципы гуманизма. К таковым, в частности, относится предоставление правовых гарантий соблюдения прав как базовое условие создания частного существования человека в цифровой среде.

Выводы

Наряду с несомненными позитивными последствиями применения в повседневной жизни общества прорывных информационных технологий, могут возникать различные проблемы, в частности, проблема идентификации личности в мире информации и цифр, а также проблема утечки различных информации.

Развитие цифровой экономики и применение сквозных технологий, включая системы ИИ, сопровождаются возникновением таких серьезных рисков, как проблема амбивалентности обеспечения конфиденциальности данных и повышения доступности к различным базам данных, отсюда вытекает необходимость введения и поддержания внутригосударственных и международных стандартов конфиденциальности. Это является основным фактором сокращения объемов трансграничной передачи персональных данных.

Разработка строгих мер по защите конфиденциальности информации требует предоставления гигантского массива персональных данных для изучения и обучения программ ИИ. Здесь ключевая проблема состоит в выработке правил конфиденциальности, не создающих избыточную ограниченность доступа ИИ к большим данным.

Проведенное исследование показало, что основными рисками для человека в процессе построения цифровой основы экономики и применения сквозных технологий являются две основные проблемы: адаптация человека к новой цифровой среде и необходимость предоставления персональных данных, что подтверждает выдвинутые автором гипотезы.

В процессе работы были идентифицированы социально-экономические риски, влияющие на цифровое благополучие человека, предложены меры по снижению выявленных рисков, которые, по нашему мнению, должны оказать позитивное воздействие.

[1]Построено автором по результатам исследования.

[2]Составлено автором по: [2, 6, 12]

[3]Составлено автором по результатам исследования.

[4]Построено автором по результатам расчета.

CСоставлено автором по: [3, 13, 16]

[6]Составлено автором по: [13, 15, 16]

[7]Составлено автором по: [8, 9, 11]


Источники:

1. Агапина Н. В., Кононов В. Н. Сравнительный анализ методов оценки рисков и подходов к организации риск-менеджмента // Молодой ученый. – 2013. – № 5. – c. 235–243.
2. Асеева И.А., Буданов В.Г., Маякова А.В. От цифровых технологий к обществу тотального контроля? // Вестник Томского государственного университета. Философия. Социология. Политология. – 2021. – № 59. – c. 51-59.
3. Городнова Н.В. Метод оценки качества информационных потоков при формировании big data в цифровой экономике // Вопросы инновационной экономики. – 2022. – № 1. – c. 607-624. – doi: 10.18334/vinec.12.1.114142.
4. Грабовский П. Г. Риски в современном бизнесе. - М.: Издательство «Ассоциация строительных вузов (АСВ)», 2017. – 142 c.
5. Капустина Н. В., Крюкова С. Г., Федосова Р. Н. Новая методика оценки рисков деятельности предприятия // Менеджмент в России и за рубежом. – 2009. – № 4. – c. 7–14.
6. Киберпреступность: риски и угрозы. / материалы Всероссийского студенческого круглого научно-практического стола с международным участием (Северо-Западный филиал ФГБОУВО «Российский государственный университет правосудия» (Санкт-Петербург, 11 февраля 2021 г.) / Под ред. д-ра юрид. наук, доцента Е. Н. Рахмановой. - СанктПетербург: Астерион, 2021. – 236 c.
7. Лямин Б.М., Конников Е.А. Использование инновационных средств автоматизации для анализа влияния развития информационной среды на благополучие человека в контексте цифровой трансформации // Экономические науки. – 2021. – № 2. – c. 249-254.
8. Стребков А.И., Мусаев А. И. Риск власти – власть риска // Вестник Санкт-Петербургского университета. Философия и конфликтология. – 2020. – № 2. – c. 394-406.
9. Томина Н.М. Угрозы и риски финансовой безопасности домашних хозяйств // Экономическая безопасность. – 2021. – № 2. – c. 343-362. – doi: 10.18334/ecsec.4.2.112143.
10. Шелунцева М. А. Риск-менеджмент в общественном секторе экономики // Проблемы современной экономики. – 2011. – № 3. – c. 2–9.
11. Фишхофф Б. Риск: очень краткое введение. / Б. Фишхофф, Д. Кадвани; под науч. ред. М. И. Левина; пер. с англ. И. В. Шевелевой ; Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации. - Москва : Дело, 2022. – 240 c.
12. Формирование цифровой экономики в России: вызовы, перспективы, риски. / под ред. Е. Б. Ленчук ; Институт экономики РАН. - Санкт-Петербург : Алетейя, 2020. – 321 c.
13. Янченко Е.В. Гиг-экономика: риски прекаризации занятости // Экономика труда. – 2022. – № 5. – c. 909-930. – doi: 10.18334/et.9.5.114795.
14. Hoesli M., Jani E., Bender A. Monte Carlo Simulations for Real Estate Valuation // Fame. – 2005. – № 148. – p. 30.
15. Risk-management guideline for the BC Public sector. - Province of British Columbia Risk-management branch and government security office, 2012.
16. Syrova T.N. Risk management of innovation activities in the conditions of the digital economy // Advances in Intelligent Systems and Computing. – 2020. – № 908. – p. 306-311.

Страница обновлена: 07.06.2022 в 11:41:15