Economics of artificial intelligence and the principal-agent concept

ВВЕДЕНИЕ

Искусственный интеллект сегодня представляет главное технологическое влияние на экономическое развитие, заменив прежние роботизацию и автоматизацию. В этом статусе искусственный интеллект предоставляет наибольшие возможности для роста производительности, повышения качества жизни. Одновременно его применение порождает углубление неравенства между экономическим развитием отдельных стран, нарастание противоречий между возможностями технологических гигантов и потенциалом малого и среднего бизнеса (МСБ). Углубляется не только технологический разрыв, но на его основе расширяется также разрыв качества жизни между регионами, между развитыми странами и развивающимися государствами.

Основная гипотеза научного исследования. Известно, что с каждым годом технологии искусственного интеллекта (ИИ) все шире применяются как в производстве, так и в потреблении. При этом в существующих сегодня исследованиях акцент делается на технологических преимуществах использования ИИ и его влиянии на требования к работникам будущего рынка труда. В качестве гипотезы мы предлагаем акцентировать внимание на экономическом анализе применения фирмами ИИ для преодоления неравенства между странами и защиты приватности потребителей.

Экономический подход к любому явлению включает в себя, прежде всего, сопоставление «издержки – выгоды». Издержки на осуществление (производство) данного товара или услуги, и выгоды от производства этого товара или услуги. И выгоды, и издержки необходимо оценивать как в краткосрочном, так и в долгосрочном периоде. Их сопоставление следует осуществлять как на уровне народного хозяйства, так и на уровне фирм, то есть предприятий, действующих в условиях рыночной экономики.

На наш взгляд, сейчас проявляется двойственность внедрения ИИ для предприятий. С одной стороны, он позволит компаниям и организациям сократить затраты на выполнение производственных и рутинных задач, что может означать, при прочих равных условиях, повышение прибыльности фирм. С другой стороны, наилучшее технологическое решение на уровне фирмы не означает автоматически наилучшее экономическое решение. Почему?

Любое технологическое решение, предполагающее применение искусственного интеллекта, несет для фирмы издержки, которые в краткосрочном периоде снижают прибыль, но обеспечивают возможность улучшения качества выпускаемой продукции в долгосрочном периоде и, как следствие, повышение ее конкурентоспособности и увеличение прибыли. Однако точный размер возрастания прибыли предприятия не может быть определен по трем основным причинам: 1) неясно, насколько именно такое применение искусственного интеллекта позволит снизить издержки и повысить качество выпускаемой продукции; 2) неясно, каков будет уровень конкуренции в отрасли и востребованность продукции на рынке, что будет определять ее рыночную цену: 3) неясно, как именно применение ИИ скажется на сокращении численности сотрудников и, как следствие, на издержках фирмы. Именно эта неопределенность заставляет фирмы искать экономические, а не чисто технологические способы снижения риска своей деятельности.

Улучшение наших знаний и объема получаемой информации не приводит, к сожалению, к качественно более высокому уровню эффективности производства. Как отмечал Ю. Харари, знание, не меняющее поведение, бесполезно. Однако знание, меняющее поведение, быстро теряет актуальность. Наше знание обесценивается по мере того, как мы получаем больший объем информации и лучше понимаем происходящее, поскольку в соответствии с этим история быстрее перестраивается. Сегодня мы должны были бы постигать окружающий нас мир полнее и глубже, поскольку объемы получаемых знаний увеличиваются с огромной быстротой. Но этого не происходит. Напротив, освоенное новое знание ведет к быстрым переменам во всех сферах человеческой жизни: экономической, политической, социальной. Образуется парадоксальный процесс: чем больше и интенсивнее мы накапливаем знания, тем быстрее и глубже осуществляются провоцируемые нами изменения [1] (Kharari, 2018). Следовательно, только те технологии, в которых предприятия имеют преимущество по сравнению с фирмами других стран, позволяют им максимизировать прибыль и повышать свою конкурентоспособность на рынке.

Для технологических новшеств (инноваций), применяемых в современном национальном хозяйстве, характерны несколько экономических проблем. Первая из них связана с фактором неопределенности сегодняшней мировой экономики. Это касается как последствий коронавирусного кризиса, так и больших политических «шоков», влияющих на формирование нового международного разделения труда.

Вторая проблема вытекает из наличия «парадокса производительности». Сейчас на новом витке эволюции научно-технического прогресса проявляется противоречие, выявленное впервые Р. Солоу: «мы видим компьютеры всюду, кроме статистики производительности труда» [2] (Solow, 1987). Отметим также, что воздействие новых технологий на экономическое развитие не всегда можно охарактеризовать количественными величинами. Труднее всего оценить именно вклад инноваций в повышение производительности труда. Во многом это является следствием, как отмечает Watanabe et al., третьего «парадокса производительности» [3] (Watanabe, Naveed, Tou, Neittaanmäki, 2018).

Первый парадокс производительности (в конце 1980-х – 1990-х гг.) был инициирован применением компьютеров, второй парадокс производительности был инициирован Интернетом (в начале 2010-х годов). Третий парадокс сейчас – цифровыми технологиями. Парадокс состоит в том, что улучшение условий ведения бизнеса и социальное благополучие, обеспеченное цифровизацией, не учитываются должным образом в национальном ВВП. Это замедляет процесс внедрения цифровых технологий и, в частности, искусственного интеллекта, прохождение повышения квалификации персоналом для их освоения. Невозможность точного определения получаемых выгод от использования цифровых технологий и понесенных издержек на создание, внедрение и применение их порождает трудности ускорения цифровизации бизнес-процессов, особенно для малых и средних предприятий.

Сейчас существуют три основные направления изучения ИИ, которые условно можно охарактеризовать как: 1) ИИ на базе развития машинного обучения; 2) искусственный интеллект как фактор производства; 3) футуристическое видение (vision). Кратко охарактеризуем каждое из них.

1. ИИ – это технология прогнозирования, основанная на Machine Learning (ML) (машинном обучении – МО). Для этого подхода характерны превознесение безграничных возможностей совершенствования искусственного интеллекта и выявление объективных ограничений его использования. «Благодаря машинному обучению, разделу вычислительной статистики системы ИИ могут получать новые знания, находя сложные структуры и шаблоны в примерах данных» [4] (Taddy, 2019). Но существуют отмеченные этим же автором ограничения: «технологии машинного обучения могут только предсказывать будущее, которое следует тем же шаблонам прошлых данных» [4] (Taddy, 2019). Кроме того, хотя ИИ, вероятно, заменит человеческие прогнозы, он по-прежнему требует человеческих навыков, таких как суждение, то есть способность определять функции полезности или оценки (Agrawal, Gans, Goldfarb, 2018). Последние, как показывает поведенческая экономика, могут быть не только рациональными, но и иметь другие виды рациональности: ограниченную рациональность, иррациональность, неполную рациональность. Введение в анализ всех видов рациональности только приблизит, по нашему мнению, технологии искусственного интеллекта к реальной экономике. Также системам ИИ по-прежнему требуется человеческий опыт для организации приложений машинного обучения в структуре, специфичной для бизнеса, и, следовательно, требуются человеческие знания (Taddy, 2019). Следовательно, пока проблемы применения искусственного интеллекта сдерживают его широкое применение. Из-за этих ограничений сторонники концепции ИИ, основанной на машинном обучении, ставят под сомнение возможность того, что искусственный интеллект полностью заменит человеческий интеллект.

2. Второй подход во многом основан на аналогии с применением роботов в экономике. Он предполагает, что люди все еще будут лучше мыслить нестандартно в течение многих лет. Согласно этому видению, ИИ в основном будет использоваться для улучшения рабочей силы, предоставляя людям идеи, советы и рекомендации для повышения производительности фирмы. Эта концепция ИИ имеет сильное сходство с концепцией автоматизации, поскольку она является фактором, повышающим производительность традиционных производственных ресурсов. В связи с этим Agrawal, Gans, Goldfarb [6] (Agrawal, Gans, Goldfarb, 2019а) отмечают, что автоматизация – лишь одно из потенциальных последствий ИИ. Таким образом, получается в соответствии со вторым подходом, что ИИ – такой же фактор, как роботизация, по влиянию на рынок труда. Поэтому для использования технологий искусственного интеллекта характерны те же самые прорывы и проблемы применения в экономике, что и для робототехники.

3. Vision (видение) – это образ желаемого будущего. Поэтому управление по vision – это управление из будущего. Футуристическое видение предусматривает общий ИИ, способный превзойти человеческий интеллект в любом аспекте [7] (Bostrom, 2014), [8] (Kaplan, 2016). Затем обществу придется иметь дело с тем, что было определено как экономическая сингулярность [9] (Nordhaus, 2021): экономика радикального изобилия, характеризующаяся неограниченным ростом, в которой никому больше не нужно будет работать. Под экономической сингулярностью подразумевается такой гипотетический момент времени, когда искусственный интеллект и другие технологии стали настолько передовыми, что человечество претерпевает драматические и необратимые изменения. В этом случае забота политиков должна быть направлена на разработку эффективных способов распределения богатства и устранение несовершенства рынка, чтобы каждый мог извлечь выгоду из богатства, созданного недоступным сверхразумом [10] (Korinek, Stiglitz, 2019). Таким образом, в третьем подходе ИИ не только источник изобилия, но и – опасности существования всей хозяйственной системы.

Abrardi et al. отмечают, что попытка проанализировать, каким именно будут влияние ИИ и роль государственной политики в связи с этим, с разных точек зрения, может привести к двусмысленности, если не будут определены некоторые границы [11] (Abrardi, Cambini, Rondi, 2021). Прежде всего, необходимо, по нашему мнению, определиться с тем, что представляет сам термин «искусственный интеллект»

Что такое искусственный интеллект?

Russell and Norvig дают следующее определение искусственному интеллекту: «Проектирование и построение интеллектуальных агентов, которые воспринимают объекты окружающей среды и предпринимают действия, влияющие на окружающую среду» [12]. В этом определении ключевую роль играет словосочетание «предпринимают действия».

Определяющим признаком ИИ является автоматизация последней области, в которой рабочие-люди имели сравнительное преимущество перед машинами, – нашего мышления и обучения. [10] (Korinek, Stiglitz, 2019).

ОЭСР предлагает следующее определение, достаточно конкретное, чтобы соответствовать существующим технологиям, но в то же время допускающее реализацию политики: «Система ИИ – это машинная система, которая может для заданного набора целей, определенных человеком, делать прогнозы, рекомендации или решения, влияющие на реальную или виртуальную среду» [13].

Abrardi et al. отмечают свой подход. Способность учиться с разным уровнем автономии отличает системы искусственного интеллекта на основе машинного обучения от более ранних цифровых технологий [11] [11] (Abrardi, Cambini, Rondi, 2021).

С точки зрения хозяйственных процессов, по мнению автора, самым точным является определение ИИ, данное Korinek A, Stiglitz J.E., поскольку оно характеризует его качественную особенность: возможность действовать самостоятельно в режиме реального времени без непосредственного контроля человека. Данное положение кардинально меняет взаимоотношения «человек – машина», что, с одной стороны, видоизменяет существующие рыночные структуры, а с другой стороны, функции управления, надзора и контроля производственных процессов передаются от менеджеров к системам искусственного интеллекта. Как следствие, применение фирмами ИИ меняет структуру управления предприятиями, распределение обязанностей и последующую кооперацию между сотрудниками фирм, создает на новом уровне синергетический эффект от взаимодействия работника и технологий искусственного интеллекта.

В отраслевом аспекте применение искусственного интеллекта развивается с разной скоростью. В некоторых оно делает только первые шаги [14] (Checmarev, Kovalenko, Sudorgina, Timoshenko, Lukichev, 2021). В других, как, например, в медицине, уже существуют четкие программы изменения всего характера взаимодействия врачей и пациентов. Уже сейчас системы на основе искусственного интеллекта в ряде стран дистанционно контролируют, диагностируют, лечат и управляют домашними пациентами. С широким применением технологий искусственного интеллекта в сфере здравоохранения поставщики медицинских услуг все больше зависят от опыта консультантов, специалистов и экспертов в области ИКТ, конвергенции и управления человеческими ресурсами [15] (Lee, Yoon, 2021). Это будет требовать все большего применения командного вида работы, а прежняя система бюрократического управления в больницах работать не будет. Вместо нее возникает новая форма управления, динамичная живая система, которая интегрирует и связывает каждую систему, устройство и человека для обеспечения наилучшего ухода за пациентом [16] (Lee, Lim, 2018).

В чисто экономическом плане (не технологическом) системы ИИ бросают вызов существующей структуре рыночных механизмов и процессов принятия решений потребителями. Это проявляется в повышении роли данных, очень сильной экономии за счет масштаба и охвата. Также экстремальные сетевые эффекты ведут к сильному преимуществу действующего лица и приводят к высокой концентрации рынков с несколькими доминирующими игроками [17] (Cremer et al., 2019).

Ведущей особенностью использования ИИ является то, что интеллектуальные агенты самостоятельно реагируют на те сигналы реального мира, которые программисты проконтролировать напрямую не в состоянии. Возникает классическая экономическая модель «Принципал – Агент», в которой машина играет роль Агента, а работник (менеджер) роль принципала [18] (Lukichyov, 2018). Напомним, что ключевой особенностью концепции является то, что принципал не всегда может наблюдать за действиями агентов, а некоторых случаях, даже осуществляя мониторинг, не может точно сказать, насколько действия агента являются наилучшими с точки зрения принципала. Для успешного функционирования существующей модели «Принципал – Агент», в которой роль принципала играют собственники фирмы, а менеджеры играют роль агентов, предусматриваются различные «пряники» (наделение собственностью, участие в прибыли, долгосрочные контракты) для менеджеров (персонала). То есть прежняя концепция «Принципал – Агент» работала по схеме «Пр. → А». В изменившихся условиях применения искусственного интеллекта какой должна быть мотивация агентов? Как должна выглядеть новая модель «Принципал – Агент»? По нашему мнению, можно предложить следующую схему «Пр. ↔ ИИ».

Влияние искусственного интеллекта на современный рынок труда, в частности возможности ИИ с помощью машинного обучения занять рабочие места людей, является темой, которая вызывает очень большой интерес ученых и практиков [19] (Brynjolfsson, Mcafee, 2017), [20] (Haefner, Wincent, Parida, Gassmann, 2021). Основная предпосылка для подобного внимания заключается в том, что с учетом определенных ограничений в обработке информации ИИ может обеспечить более высокое качество, большую эффективность и лучшие результаты, чем люди-эксперты [5] (Agrawal, Gans, Goldfarb, 2018), [21] (Bughin, 2017).

Кроме того, технологии искусственного интеллекта позволят заменить многие виды человеческого труда трудом машин. Прежде всего, это касается повторяющихся процессов, рутинных обязанностей, которые столь не нравится выполнять людям и которые станут устаревшими вместе с применением ИИ. Во многом, по мнению авторов, развитие здесь будет протекать по аналогии с использованием робототехники. Хотя некоторые рабочие места будут потеряны, будут созданы многие новые рабочие места для поддержки внедрения и эксплуатации систем на основе искусственного интеллекта. Потребуется переподготовка существующего персонала и обучение его новым обязанностям, но это вполне будничные проблемы.

Применение технологий искусственного интеллекта оказывает влияние на объем спроса на рабочую силу, на требования к компетенциям сегодняшних работников, на перспективы развития карьеры персонала фирм. Важность искусственного интеллекта сейчас существенно отличается в отраслях цифровой экономики и в «старых» отраслях. В современной России потенциал технологий искусственного интеллекта раскрыли для себя 8,1% организаций ИТ-отрасли и 7,8% – сферы «Информация и связь». В среднем по экономике их применяют 5,4% компаний [22]. Согласно данным PwC, Всемирное исследование Digital IQ® за 2017 год (База расчета: 2 216), 74% российских компаний планируют инвестировать в искусственный интеллект в ближайшие три года (реально инвестировали на тот момент 35%). Для сопоставления: в среднем в мире эти цифры 63% и 54% [23]. Приведенные данные показывают, что уровень использования технологий ИИ пока не позволяет России занять лидирующие позиции в мире. Между тем и экономические причины, и политические причины заставляют интенсифицировать народнохозяйственные усилия в этом направлении.

Насколько это будет эффективно для совершенствования бизнес-процессов, для улучшения работы персонала с точки зрения повышения производительности труда и как это скажется на изменении структуры рынка труда будущего, останется открытым вопросом. Тем более, что объективных данных и статистики для ответов на эти вопросы крайне мало.

Большая часть доступной эмпирической литературы о влиянии ИИ на рынок труда использует данные о фабричной робототехнике и автоматизации. Таким образом, происходит, по нашему мнению, «подмена тезиса». Кроме того, следует учитывать, что большинство инновационных решений, связанных с практическим применением фирмами искусственного интеллекта, за исключением крупных технологических гигантов, находятся на стадии становления и представляют собой лабораторные опытные образцы или предмет научных исследований. Да, робототехника часто использует ИИ для обработки данных, но ее экономическое использование довольно специфично и сосредоточено на автоматизации узких задач, то есть замене машинами определенных физических действий, ранее выполняемых людьми [24] (Acemoglu, Restrepo, 2020). В то же время использование искусственного интеллекта явно шире и явно более перспективно, чем применение только в робототехнике.

Bécue et al. анализируют возможности и угрозы использования технологии искусственного интеллекта (ИИ) в производственном секторе с учетом наступательного и оборонительного использования такой технологии. Авторы для решения проблемы на уровне фирмы предлагают подход к разработке состязательного/надежного ИИ и описывают требования к мониторингу поведения человека и машины [25] (Bécue, Praça, Gama, 2021). Повторим, что пока применяют ИИ только крупнейшие компании и цифровые гиганты. Они занимают сейчас доминирующее положение на рынке и фактически диктуют свои условия использования искусственного интеллекта, как МСБ, так и населению целых стран. Все это порождает необходимость регулирования применения искусственного интеллекта со стороны государства. Процесс государственного регулирования [26] [26] (Lukichyov, 2015) применения технологий ИИ делает только первые шаги.

В своей White Paper presented on February 19, 2020, the European Commission (2020) (Белой книге, представленной 19 февраля 2020 г., Европейская комиссия (2020 г.) [27] предусматривает нормативно-правовую базу для искусственного интеллекта, в которой должны применяться правила для устранения рисков, связанных с приложениями ИИ, для гарантии защиты потребителей, добросовестной коммерческой практики и защиты личных данных и конфиденциальности. Это первая по времени попытка государственного регулирования использования ИИ. Она была осуществлена не столько для сдерживания монополизма технологических гигантов, сколько для обеспечения сохранения приватности потребителей. Затем – в прошлом году КНР приняла свои меры государственного регулирования в этой сфере. В России, как констатирует Леднева О.В. [28] (Ledneva, 2022), пока отсутствуют четкие границы цифровых прав населения, и потребители должны во многом сами заботиться о защите своих персональных данных и финансовых операций в Интернете.

Вместе с тем отметим недостаточность, неполноту сегодняшнего регулирования использования ИИ и цифровой сферы в целом. Фактически усиливается с каждым месяцем вмешательство цифровых гигантов в дела национальных государств, в текущую политику, в приватность каждого потребителя. Сегодня существует фактическое отсутствие (или минимальное присутствие) регулирования применения искусственного интеллекта со стороны национальных государств и, как следствие, незащищенность потребителей.

Заключение

Искусственный интеллект представляет собой сегодня хоть и разумную машину, но все-таки машину. Экономические издержки и выгоды ее применения пока не могут быть точно измерены. Поэтому не стоит ждать чудес, что она сможет обучаться без участия человека. Поле действия для последнего велико, и прежде всего в получении и в очистке данных, в обучении как машин, так и сотрудников. Это потребует переосмысления действия концепции «Принципал – Агент» в условиях использования технологий искусственного интеллекта. Таким образом, «изучение эффектов ИИ требует гораздо более широкого внимания, чем просто робототехника, и должно сделать еще один шаг, чтобы открыть черный ящик искусственного интеллекта, связанного с машинным обучением» [11] (Abrardi, Cambini, Rondi, 2021).

Тем не менее проведенный нами анализ свидетельствует о том, что ИИ является уже сейчас распространенной технологией, которая включает в себя различные области исследований и ставит отличающиеся задачи в зависимости от производственного процесса и специфики отраслей, в которых она применяется. Как экономически эффективно расширить применение искусственного интеллекта российскими фирмами? Как в изменившихся условиях должна использоваться концепция «Принципал – Агент»? Каким должно быть государственное регулирование использования искусственного интеллекта? Это те вопросы, которые требуют решения в последующих исследованиях.