Оценка и минимизация рисков человека в цифровой среде

Введение

Актуальность темы. Широкое распространение сквозных технологий в социально-экономической жизни общества, таких как алгоритмы искусственного интеллекта (ИИ), различные системы робототехники, Интернет вещей и т.п., открывают еще большие возможности повышения производительности труда для компаний и организаций, а также качества жизни отдельных домохозяйств и общества в целом. Внедрение сквозных технологий приводит к генерированию гигантского массива информации, который, с одной стороны, создается алгоритмами и системами, а с другой – является основой для обучения нейронных сетей ИИ и виртуальных помощников.

Сбор и обработка информации сопровождаются необходимостью копирования ИИ различного рода данных. Указанная проблема требует внедрения надежных способов защиты данных от несанкционированного и незаконного использования. Применение больших баз данных сопряжено с риском утечки конфиденциальной информации в силу недолжного и недобросовестного применения. Кроме того, отсутствие унифицированных требований к защите персональных данных и авторского права может привести к неоднозначной интерпретации понятия легального копирования данных для целей работы ИИ. Это становится серьезным барьером для более широкого внедрения технологий ИИ и порождает различные виды риска для самого человека, что подтверждает актуальность выбранной темы.

Цель – разработать классификацию рисков для человека в цифровой среде и определить пути их снижения.

Научная новизна работы состоит в выявлении и идентификации рисковых событий для человека в процессе цифровизации экономики и в цифровой среде, позволяющих представить классификацию цифровых экономико-социальных рисков, произвести оценку уровня риска человека в цифровой среде, а также разработать направления минимизации рисков.

Научная гипотеза: в процессе цифровизации среды у человека как слабой стороны возникают такие проблемы, как необходимость адаптации к новым условиям, сохранение конфиденциальности данных, а также трансформация рынка труда.

Сделан вывод о том, что человеку в эпоху цифровизации необходимо правовое сопровождение и социально-правовая поддержка в рамках его жизнедеятельности и самореализации.

Основная часть. Российская программа перехода на цифровую экономику предполагает оцифровывание различных сфер социально-экономической жизни, а также отдельных направлений производства и услуг. При этом отмечается, что гражданин России будет представлять собой идентифицируемый уникальный цифровой объект. В цифровой среде осуществляется накопление и обработка огромных массивов данных, из которых при помощи алгоритмов расчетов различных методов и методик формируются субъекты с характерными свойствами, а также выделяются различные процессы, тенденции и взаимосвязи между ними. Оцифрованные данные – это информация, имеющая либо четкий характер и подлежащая кластеризации и кодированию, либо нечеткий характер – данные, подлежащие анализу с применением алгоритмов расчетов.

Цифровое благополучие человека – это дефиниция, которая означает исключительное позитивное воздействие процессов цифровизации социальной и экономической жизни личности [7] (Lyamin, Konnikov, 2021). Однако следует отметить, что в любом явлении и процессе одновременно наличествуют положительные и отрицательные проявления. Данная статья будет посвящена идентификации потенциальных рисков и угроз для человека, их оценке и рекомендациям социально-экономического характера, нацеленным на снижение отдельных видов рисков. В этих целях автором выделяются следующие разряды рисков.

Первый разряд рисков – это риски для человека, которые вытекают вследствие необходимости его адаптации к быстро меняющейся внешней цифровой среде.

Второй разряд рисков, с которыми сталкивается человек в цифровой среде, – риски, связанные со сбором, анализом, обработкой, хранением, передачей и коммерческим использованием данных, то есть формированием больших баз данных (big data), содержащих в себе социальные и персональные данные. Информация и данные, интегрированные в огромные массивы, необходимы различным сторонам. В частности, государству указанные данные необходимы в целях создания системы взаимодействия с гражданами для принятия решений, для формирования нормативно-правовой базы, формирования условий национальной безопасности. Для частного партнера (бизнеса, инвесторов) большие данные необходимы в целях реализации онлайн-рекламы, коммерческой деятельности в Интернете вещей. Особую актуальность и важность большие данные приобретают в процессах обучения нейронных сетей алгоритмов ИИ.

Формирование больших данных (big data) как способа анализа информационных ресурсов является следствием невозможности применения ранее созданных аппаратных и программных средств в силу их недостаточных возможностей в эпоху колоссального роста информации. Непосредственно процесс формирования больших данных стал возможен в связи с появлением новых способов сбора и хранения информации, не требующих ручной обработки и присутствия человека (сенсоры, датчики, различные технические устройства, смарт-устройства и пр.). С появлением новых сквозных информационных технологий и расширением потенциала стало возможным и создание принципиально новых способов формирования баз и хранения данных.

Третий разряд рисков – риски, сопряженные с формированием больших данных Интернета вещей. Риски, связанные с созданием и передачей огромного количества унифицированных сигналов, поступающих с датчиков смарт-устройств, применяемых в различных сферах жизнедеятельности человека, включая производственный сектор, сектор оказания различного рода услуг, широким применением носимых устройств (смартфонов, планшетов и т.п.).

Четвертый разряд рисков – риски человека в цифровой среде возникают на стыке выбора между правами человека, интересов и целей конкретных социальных групп, общества в целом, государства, процессами внедрения новых, сквозных технологий и созданием новых цифровых продуктов, услуг и возможностей, напрямую или косвенно использующих различного рода данные.

Авторская классификация укрупненных групп и разрядов рисков для человека в цифровой среде представлена на рисунке 1.

Рисунок 1. Укрупненные разряды и группы рисков цифровой среды для человека

Источник: построено автором по результатам исследования.

Автором исследования выделяются следующие основные группы риска:

1. Риски адаптации – риски и вызовы, возникающие в процессе и по причине адаптации человека к цифровой среде: психологические, физиологические, ментальные:

1) формирование принципиально новых условий жизнедеятельности человека (формирование цифровой среды, оцифровывание всех сторон жизни человека);

2) адаптация к быстро меняющимся внешним условиям;

3) идентификация личности в цифровой среде;

4) смена уклада повседневной жизни;

5) формирование стрессовых условий вследствие генерирования колоссальных информационных потоков, которые человеку постоянно необходимо обрабатывать;

6) высокий уровень технологической конкуренции за человека как ресурс;

7) попытка разорвать цифровые шаблоны и стереотипы;

8) применение конвергентных технологий.

2. Риски применения сквозных технологий (в том числе искусственного интеллекта, ИИ) – широкое применение сквозных технологий, непреднамеренное создание алгоритмов ИИ и систем принятия решений, оказывающих дискриминирующее воздействие на отдельные личности или отдельные социальные группы вследствие низкого качества процессов сбора данных и/или некорректного применения больших данных в процессе обучения программного обеспечения:

1) этичное/неэтичное поведение алгоритмов ИИ;

2) возникновение ошибок или сбоев систем ИИ на стадии проектирования, производства, наладки или эксплуатации;

3) возможность ущерба вследствие принятия неверных решений системами ИИ;

4) определенная «предубежденность» алгоритмов ИИ (bias);

5) недостаточная прозрачность работы и/или мониторинга алгоритмов и систем ИИ (недостаточность объяснительной компоненты);

6) возможность утечки информации (целых баз данных);

7) потеря приватности/конфиденциальности данных;

3. Конфликт интересов государства, бизнеса, общества (человека) – возникновение конфликта интересов государства, общества, отдельных социальных групп или человека вследствие возникновения недостаточного уровня или полного отсутствия разъяснительной работы и работы с общественным мнением или в связи с несовершенством законодательства:

1) стирание государственных и финансово-экономических границ (трансграничный характер цифровой среды, телемедицина и т.п.);

2) языковой барьер и необходимость поиска унифицированных кодов;

3) трансформация функций государства (отсутствие достаточной информационной поддержки со стороны государства/бизнеса и надлежащей предварительной разъяснительной работы);

4) принятие законодателем неадекватных решений и непроработанных законодательных актов, влекущих серьезные последствия, финансовые, репутационные и иного рода потери;

5) непреднамеренное (преднамеренное) нарушение государственными служащими и чиновниками действующего законодательства вследствие непродуманного, неэтического применения персональных данных и возникновение различного рода существенных негативных последствий и значительного ущерба.

4. Риск возникновения цифрового неравенства – все виды рисков и угроз, связанных с цифровым неравенством и возможностью цифровой дискриминации человека или отдельных социальных групп:

1) прямая дискриминация личности (отдельных социальных групп) в цифровой среде (финансово необеспеченные граждане, не имеющие технических возможностей в связи с местом жительства, принадлежность к группе с ОВЗ и т.п.);

2) цифровое неравенство человека или отдельных социальных групп;

3) глубокая цифровизация повседневной жизни человека, не имеющего доступа к новым цифровым технологиям (к примеру, пожилые граждане, финансово обеспеченные, проживающие в крупных мегаполисах, но не принимающие новые технологии по каким-либо причинам: отсутствие знаний и навыков, религиозные убеждения, недоверие к новым информационным технологиям и т.п.);

4) возможность возникновения иных видов дискриминации косвенного характера (отсутствие кабинета на портале госуслуг или аккаунта на информационном ресурсе).

5. Риски трансформации рынка труда – полная модификация рынка труда и риск роста безработицы.

6. Риски тотального контроля личности – риски потери свободы, тотальный контроль со стороны государства или отдельных систем.

7. Риски роста киберпреступности и хакавизма.

8. Риски, связанные с введением антироссийских санкций в IT-сфере. С российского рынка ушли такие IT-гиганты, как Apple, Ericsson, HP, Canon, Nokia, Hitachi, Panasonic, IBM, Intel, AMD, TSMC и пр. Это означает, что применение высоких технологий, разрабатываемых в указанных корпорациях, будет приостановлено. Рядом разработчиков программного обеспечения заявлено о приостановлении использования на территории РФ использования таких сервисов и программ, как Microsoft, SAP, Oracle, Autodesk, Adobe, сервис бронирования билетов Sabre, EPAM Systems, VistaCreate, VMware, фотохостинг Depositphotos и пр.

Краткая характеристика групп и подгрупп рисков человека в цифровой среде представлена в таблице 1.

Таблица 1

Классификация и краткое описание рисков человека в цифровой среде

1. Социальные данные человека – это информация о перемещениях личности, покупках в Интернете вещей, поведении и различных интересах, социальных связях, взаимодействиях и взаимоотношениях с другими людьми, возможно, идеологии и религиозных предпочтениях.

2. Персональные данные человека – это вся информация, непосредственно касающаяся личности, прямо или косвенно определяющая и характеризующая человека – физического лица (субъекта персональных данных).

3. Государственные данные – это информация, отраженная в реестрах органов государственной власти и информационных ресурсах организаций государственного сектора (различные статистические данные, данные по формированию и расходованию бюджета на различные социальные и национальные проекты и программы и пр.).

4. Открытые данные – это информация, размещенная в глобальной сети Интернет в форме систематизированных данных, позволяющих осуществлять автоматическую обработку, без предварительного изменения личностью, в целях многократного и свободного применения на безвозмездной основе.

В цифровой среде для сбора и обработки данных алгоритмами ИИ могут быть применимы такие статистические методы оценки уровня риска, как оценка частоты возникновения некоторого уровня потерь и метод Монте-Карло [1] (Agapina, Kononov, 2013).

Статистический метод оценки частоты возникновения потерь позволяет рассчитать вероятности возникновения потерь на основе анализа всего массива статистических данных, связанных с осуществлением различного вида операций. При этом частота возникновения некоторого уровня может быть определена по следующей формуле [4] (Grabovskiy, 2017):

f^AE(SAE) = (n`/ n ^AE(SAE)) 100%, (1)

где f^AE(SAE) – частота возникновения нежелательных событий (AE, SAE);

n` – число случаев наступления конкретного нежелательного события (AE, SAE);

n ^AE(SAE) – общее число случаев наблюдения в статистической выборке, включающее и успешно осуществленные операции данного вида.

В целях практического применения указанного метода и построения кривой риска и определения уровня потерь необходимо введение понятия областей риска в цифровой среде. Областью риска определим некоторую зону возникновения нежелательных событий, в границах показатель f^AE(SAE) не превышает предельного значения установленного уровня риска (Нр). Показатель Нр определяется на основании данных, полученных в ходе построения графика Лоренца (по частоте возникновения нежелательных событий) [10] (Sheluntseva, 2011). По показателю Нр определяется общий уровень риска возникновения негативных последствий введения ряда антироссийских санкций.

При этом необходимо установить границы диапазона показателя Нр:

Нр = 0 – безрисковая деятельность (идеальная модель); Нр = 0–25% – область минимального риска; Нр = 25–50% – область повышенного риска; Нр = 50–75% – область критического риска; Нр – область недопустимого риска.

Уровень риска Нр определяется по частоте возникновения потерь. Для построения графика риска (графика Лоренца) частоты f^AE(SAE) выстраиваются в восходящий ранжированный ряд по объему явлений (Нр), затем определяются кумулятивные итоги частот. Построение нескольких линий Лоренца по различным периодам позволяет сравнивать Нр по степени кривизны этих линий.

Применение инновационных технологий и возможностей обучения нейронных сетей открывает широкие перспективы разработки и внедрения различных IT-продуктов, создания программного обеспечения и применения больших баз данных в сфере оценки уровня риска. Однако следует отметить, что данный процесс сопряжен с возникновением различных рисков социально-этического характера практически для всех членов общества.

Метод Монте-Карло позволяет учесть неопределенность и риск за счет использования распределений различных входных параметров. Метод применим при определении различных параметров, которые не требуют предварительных данных о чистой текущей стоимости деятельности. Кроме того, метод позволяет рассчитать искомые параметры в прогнозном периоде. Однако вследствие того, что оценка параметров содержит компонент неопределенности и риска, такая прогностическая оценка может оказаться неточной в течение периодов [14, 15] (Hoesli, Jani, Bender, 2005). Данный метод также применим к анализируемой ситуации с заданными характеристиками (например, оценка эффективности социально ориентированных проектов). В таких случаях стоимость социальных проектов может быть повышена на величину стандартного отклонения премии за риск.

Экономическое обоснование уровня риска произведено с применением статистического метода, суть которого заключается в определении вероятностей возникновения нежелательных событий (AE) и серьезных нежелательных событий (SAE) с учетом данных прогнозной оценки возникновения различного рода рисковых событий 8 группы рисков по авторской классификации – риски, связанные с введением антироссийских санкций. В качестве примера приведем фрагмент расчетов эффективности гипотетического применения плана мероприятий по снижению экономико-правовых рисков человека в цифровой среде.

В целях построения кривой риска (графика Лоренца) и определения частоты возникновения нежелательных событий (AE, SAE) потребуются введение понятия областей риска, промежуточные расчеты удельного веса каждого нежелательного события, отобранные из всего перечня рисковых событий, которые приведены в таблице 2.

Таблица 2

Исходные данные для определения уровня риска (фрагмент)

На рисунке 2 представлен график для определения частоты возникновения нежелательных событий (AE, SAE).

Рисунок 2. График Лоренца

Источник: построено автором по результатам расчета.

Показатель Нр определяется по следующей формуле:

Нр = (OD / AO) 100% = (16 / 55) 100% = 29,9%.

Уровень риска возникновения неблагоприятных последствий введения антироссийских санкций в цифровой среде, по нашим расчетам, соответствует области повышенного риска.

Однако следует отметить, что при определении Нр с помощью графика Лоренца имеется один весьма существенный недостаток – Нр не будет равен 1 при его максимальном значении, он будет лишь стремиться к единице. Указанный недостаток возможно устранить с помощью идеи, высказанной проф. П.П. Масловым, по следующей формуле [4, 5] (Grabovskiy, 2017; Kapustina, Kryukova, Fedosova, 2009):

Y₁ (n –1) + Y₂ (n – 2) + … + Y_{n -1}

Нр = 1 – , (2)

50 (n – 1)

где Нр – уровень риска;

n – число единиц совокупностей событий;

Y_n – удельный вес частоты возникновения нежелательных событий (AE, SAE).

Применение выражения (2) дает возможность получить следующий показатель уровня риска человека в цифровой среде:

277,34

Нр = 1 – = 1–0,5548 = 0,4452, т.е. Нр = 44,52%.

50 (11–1)

Скорректированная величина уровня риска Нр несколько возросла, но также остается в области повышенного риска.

В таблицах 3 и 4 приведены направления снижения некоторых видов рисков человека в цифровой среде.

Таблица 3

Пути снижения отдельных видов рисков человека в цифровой среде, связанные с трансформацией рынка труда

Таблица 4

Методы снижения рисков утраты данных о человеке

Идентификация отдельных видов рисков и угроз в цифровой среде и возможные пути их минимизации для человека приведены в таблице 5.

Таблица 5

Рисковые события и пути их минимизация

В условиях цифровизации экономической среды необходимо четко и неуклонно соблюдать основные принципы гуманизма. К таковым, в частности, относится предоставление правовых гарантий соблюдения прав как базовое условие создания частного существования человека в цифровой среде.

Заключение

Наряду с несомненными позитивными последствиями применения в повседневной жизни общества прорывных информационных технологий могут возникать различные проблемы, в частности проблема идентификации личности в мире информации и цифр, а также проблема утечки различных информации.

Развитие цифровой экономики и применение сквозных технологий, включая системы ИИ, сопровождаются возникновением таких серьезных рисков, как проблема амбивалентности обеспечения конфиденциальности данных и повышения доступности к различным базам данных, отсюда вытекает необходимость введения и поддержания внутригосударственных и международных стандартов конфиденциальности. Это является основным фактором сокращения объемов трансграничной передачи персональных данных.

Разработка строгих мер по защите конфиденциальности информации требует предоставления гигантского массива персональных данных для изучения и обучения программ ИИ. Здесь ключевая проблема состоит в выработке правил конфиденциальности, не создающих избыточную ограниченность доступа ИИ к большим данным.

Проведенное исследование показало, что основными рисками для человека в процессе построения цифровой основы экономики и применения сквозных технологий являются две основные проблемы: адаптация человека к новой цифровой среде и необходимость предоставления персональных данных, что подтверждает выдвинутые автором гипотезы.

В процессе работы были идентифицированы социально-экономические риски, влияющие на цифровое благополучие человека, предложены меры по снижению выявленных рисков, которые, по нашему мнению, должны оказать позитивное воздействие.