Влияние генеративного искусственного интеллекта на трансформацию информационной асимметрии в здравоохранении

Введение

Значимой категорией в системе институциональной экономики является информационная асимметрия – ситуация, когда одна сторона знает о благе больше, чем другая. Оно связано с такими понятиями как неопределенность, рыночные риски и принятие решений рыночными агентами. Эта же категория формирует проблему институциональной экономики: неполнота информации и неравномерное распределение знаний между агентами провоцирует неоптимальность сделок и системные сбои рынка. В работе К.Эрроу 1964 года информационная асимметрия рассматривается на примере рынка медицинских услуг [7], что делает такой рынок классическим примером. Более поздние исследования асимметрии испытывают на себе влияние поведенческой экономики и работ Д.Канемана и А.Тверски, где источником неопределенности является не только неосведомленность агента, но также его ограниченная рациональность [3]. Такое понимание факторов, фундирующих информационную асимметрию, порождает различные способы преодоления производной от неё ситуации утраты доверия к сфере здравоохранения, в частности, применение теории подталкивания Р. Талера к ведению здорового образа жизни за счет снижения когнитивных нагрузок при принятии повседневных решений в сфере здоровья [5]. В то же время, другим способом снижения когнитивной нагрузки является применение технологий генеративного искусственного интеллекта (далее также – ИИ): чат-ботов, основанных на больших языковых моделях (далее также – БЯМ), а также агентов искусственного интеллекта – более сложных программных решений с делегированным доступом к другим компьютерным программам и ресурсам, позволяющим совершать действия от лица пользователя, замещая ряд производимых им рутинных операций.

Большие языковые модели рассматриваются нами не только как технология, но и как новый институт производства, распределения и подтверждения информации. Они упрощают процессы принятия решений: как за счет повышения информированности экономических агентов, так и за счет принятия на себя ряда функций работы с информацией и принятия решений. В полной мере это касается экономического поведения, однако не всегда изменения, спровоцированные информационными технологиями, способны снизить возникающую асимметрию. Основное противоречие видится нам в неравенстве доступа к технологиям для экономических агентов. Неравенство доступа при этом может пониматься как многоуровневое явление, и, следовательно, провоцировать возникновение новых и усугубления имеющихся разрывов разного порядка, усиливающих информационную асимметрию. Исходя из классических положений институциональной экономики, это может привести к утрате доверия в рыночной системе, что особенно критично для сферы здравоохранения, где основное благо тесно связано с жизненными потребностями.

Ранее мы писали о неравномерности процесса цифровизации и возникающих разрывах в сфере здравоохранения в части помощи маломобильным пациентам и компенсации разрывов за счет горизонтальных связей, опосредованных информационно-коммуникационных технологий [6] В этой работе мы продолжаем вектор исследования асимметрий, чье возникновение обусловлено применением новых информационных технологий, в частности, искусственного интеллекта.

Целью данного исследования является характеристика влияния генеративного искусственного интеллекта на трансформацию информационной асимметрии в здравоохранении

Для достижения цели была сформулирована система задач, определившая структуру работы:

- описать большие языковые модели как фактор трансформации информационной асимметрии;

- охарактеризовать асимметрию скорости как форму цифрового неравенства;

- показать специфику асимметрии скорости в сфере здравоохранения в современных условиях.

Научная новизна заключается в предлагаемой авторской трактовке асимметрии скорости как различия во времени преобразования информации в экономически значимое и оспоримое действие. Авторская гипотеза состоит в том, что в условиях распространения больших языковых моделей экономически дефицитным ресурсом становится не информация сама по себе, а способность экономических агентов своевременно преобразовать ее в проверяемое, практически применимое и институционально оспоримое решение. Поэтому генеративный ИИ сокращает информационную асимметрию первого порядка, связанную с доступом к сведениям, но способен усиливать асимметрию второго порядка — неравенство скорости обработки, верификации, применения информации и защиты интересов экономического субъекта.

Большие языковые модели как фактор трансформации информационной асимметрии

Условия цифровой экономики меняют форму информационной асимметрии, прежде всего, в части источника её возникновения. Если в традиционной модели хозяйствования таким источником было неравномерное распределение достоверных сведений между сторонами контракта, то цифровая среда одновременно снижает стоимость получения таких сведений и создает новые способы концентрации информации. Уже в середине 1990-х годов Я. Бакос показал, что электронные рынки уменьшают издержки покупателей на поиск данных о ценах и свойствах товаров, ослабляя информационное преимущество продавца [10]. А. Голдфарб и К. Такер относят снижение издержек поиска и верификации к фундаментальным эффектам цифровых технологий [19]. Различные цифровые платформы также снижают неопределенность для потребителя за счет механизмов агрегирования предложений, отзывов и рейтингов о товарах, услугах и брендах облегчает сравнение альтернатив и формирует репутационные сигналы [30]. Показано, что информационные агрегаторы и маркетплейсы способны снижать информационную асимметрию и влиять на выживаемость фирм [1].

В то же время, нельзя утверждать, что асимметрия полностью исчезает, вместо этого происходит изменение её конфигурации: платформы получают массивы пользовательских данных, тогда как пользователи часто не знают, какие сведения собираются и как они используются, либо не вникают [8]. Пользователь никогда не может точно сказать, сколько и какие данные получает платформа, и поэтому цифровизация, с одной стороны, расширяет доступ покупателя к информации, с другой стороны, концентрирует возможности ее обработки продавцом. Следующим логичным этапом этой трансформации становится развитие и распространение больших языковых моделей (далее также – БЯМ), способных помимо базового поиска данных осуществлять интерпретацию найденного.

Распространение БЯМ способно приводить к сокращению транзакционных издержек за счет поисковой автоматики и последующей аналитики поиска. Такие операции как формулировка запроса, отбор достоверных источников, сопоставление результатов и синтез сведений БЯМ осуществляет без участия человека. В результате сокращаются временные и интеллектуальные затраты на первичную обработку информации, а значит - снижаются поисковые и верификационные издержки, что характерно для цифровой экономики в целом [19]. В специальных исследованиях отмечается снижение стоимости получения информации для потребителя [28]. Однако при этом нельзя утверждать о том, что устраняется само явление информационной асимметрии.

Информационная асимметрия при использовании БЯМ строится на технологических особенностях их функционирования. Прежде всего, БЯМ без дополнительной коррекции способны генерировать фактически ошибочные сведения. Особенность подобных ошибок состоит в том, что неверная информация может быть представлена связно, уверенно и в убедительной форме. В результате снижаются затраты ресурсов при поиске (издержки поиска), но таковые увеличиваются при проверке достоверности и принципиальной применимости сформированного ответа (издержки верификации).

Помимо технологических особенностей доступных поисковых инструментов на основе БЯМ, источником асимметрии может также быть особенности цифровых платформ, непосредственно влияющие на ценообразование, имеющих статус информационного посредника. Цифровая платформа уже способна аккумулировать значительно больший объем данных о пользователях и продавцах, чем каждый из участников сделки по отдельности. Показано, что занимающая монополистическое положение в качестве такого информационного посредника, платформа может использовать накопленные данные для получения информационного преимущества одновременно перед потребителями и поставщиками [11]. В случае применения генеративного ИИ к этому добавляется возможность преобразовать большие массивы данных в готовые рекомендации, прогнозы и решения. При этом доступ к данным и вычислительным ресурсам распределен крайне неравномерно. J. Gans отмечает, что рынок ИИ характеризуется высокой значимостью данных, вычислительных мощностей и архитектуры базовых моделей, а их сочетание способно формировать устойчивую концентрацию рыночной власти [17]. Исследования демонстрируют, что даже в случае, если компания обладает большим объемом данных, но не обладают возможностями их обработки, всё равно имеют возможность для рыночного роста [26].

Иная ситуация складывается в случае с единичным пользователем или малой фирмой: у таких рыночных агентов есть возможность использовать рекомендательные технологии, основанные на БЯМ, но при этом нет ни сопоставимого доступа к исходным данным, ни к специализированным моделям и вычислительной инфраструктуре, которыми располагает крупная организация. В результате возникает парадоксальная ситуация: БЯМ способны сокращать информационную дистанцию между экономическими субъектами на одном уровне и одновременно увеличивать ее на другом. Поэтому традиционная схема информационной асимметрии, когда одна сторона знает больше другой, в современных условиях дополняется схемой, когда одна сторона располагает большими возможностями преобразования информации в решение о заключении контракта.

Можно утверждать, что отчетливо эта трансформация проявляется в сфере здравоохранения. Это типичный пример отношений, в которых пациент не способен самостоятельно оценить качество значительной части предоставляемых ему медицинских услуг и предлагаемых товаров медицинского назначения, а медицинский специалист располагает профессиональными знаниями, недоступными пациенту. Использование БЯМ в теории способно уменьшить такую асимметрию: пациент получает возможность самостоятельно изучить сведения о заболевании, расшифровать медицинскую терминологию, сопоставить варианты лечения и подготовить вопросы к врачу. К числу наиболее распространенных медицинских применений БЯМ относятся предоставление медицинской информации, объяснение и суммирование медицинских текстов, перевод и поддержка коммуникации между пациентом и медицинским работником. При этом особенно острой в силу высокой цены врачебной ошибки при этом является проблема, создаваемая возможностью выдавать убедительные и ошибочные ответы [33]. Меняется и характер взаимодействия врача и пациента. Если ранее информационное преимущество врача могло налагать ограничения на способности пациента участвовать в принятии решений, то использование БЯМ потенциально увеличивает его информированность. При этом наблюдается сходная картина дисбаланса сил, которая заключается в том, что пациент может:

- получить более подробное объяснение диагноза, но не иметь доступа к данным, использованным для принятия клинического решения;

- понимать предложенные варианты лечения, но не иметь возможности оценить качество исходной информации;

- располагать несколькими интерпретациями ситуации, но не обладать институциональной возможностью повлиять на решение медицинской организации ввиду сниженной автономии [13].

Кроме того, в системе отношений «врач-пациент» может возникнуть дефицит доверия, вызванный интерпретацией факта применения врачом систем искусственного интеллекта за счет явления, когда пациент проецирует собственный опыт использования ИИ на ситуации его применения профессионалами в медицине [4].

Таким образом, воздействие БЯМ на информационную асимметрию следует рассматривать как вызывающую её структурную трансформацию: при том, что доступ к информации становится более симметричным, в то время как возможности проверки, интерпретации, использования и влияния на итоговое решение могут оставаться распределенными крайне неравномерно. Ключевым в новых условиях становится возможность использования информации для принятия решения, и в частности, в таком измерении как скорость принятия решения.

Асимметрия скорости как форма цифрового неравенства и содержание барьеров, его формирующих

Традиционно в теории информационной асимметрии источником таковой являются различия в объеме и качестве информации, которой располагают участники экономических отношений. Цифровая экономика вносит ещё одно измерение в эти различия – различие во времени, необходимом для преобразования информации в экономически значимое действие. Даже при условии равного доступа к одному и тому же сигналу участники могут обладать неодинаковыми возможностями его обработать, интерпретировать и использовать. Вследствие этого преимущество может получать не только субъект, который знает больше, но и субъект, который способен раньше других превратить доступную информацию в экономическое решение. Иными словами, преимущество получает более быстрый субъект.

Экономическая значимость скорости хорошо иллюстрируется развитием высокочастотной торговли. Исследования финансовых рынков показали, что преимущество может возникать даже в ситуации, когда сигнал является общедоступным: участник, способный первым обработать сигнал и изменить свое предложение, получает преимущество над более медленным участником. П. Хоффманн показывает, что скорость становится источником рыночной власти, позволяя «быстрым» участникам извлекать ренту из взаимодействия с «медленными» трейдерами [20]. Исследование М. Акулины, Э. Бадиша и П. О'Нила продемонстрировало, что в современных электронных рынках конкуренция за микросекунды действительно имеет измеримый экономический эффект: значительная часть сделок связана с так называемым latency arbitrage — извлечением дохода из минимального преимущества во времени реакции на один и тот же публичный сигнал [9].

Данные результаты позволяют распространить понятие временного преимущества за пределы финансового рынка. Под асимметрией скорости предлагается понимать устойчивое различие между экономическими субъектами во времени, необходимом для получения, обработки, проверки и преобразования информации в действие, вследствие которого один из субъектов получает возможность принять или реализовать решение до того, как другая сторона сможет его осмыслить, проверить или оспорить.

В данном определении принципиально важны не абсолютная скорость работы компьютера и не сравнение вычислительной мощности машины с физиологическими характеристиками человеческого мозга. Существенным является соотношение времени двух процессов: с одной стороны, автоматизированной обработки большого потока данных и исполнения решения; с другой — человеческого восприятия, осмысления, проверки и реакции. Поэтому один и тот же цифровой сигнал может быть формально доступен обоим субъектам, но экономически полезен преимущественно тому, кто располагает более коротким циклом «информация — решение — действие».

Возникновение асимметрии скорости обусловлено действием ряда барьеров. Охарактеризуем их более подробно.

Первый из рассматриваемых барьеров можно обозначить как инфраструктурно-технологический. Он включает не только наличие подключения к интернет-сети, но и качество соединения, доступность современных устройств, вычислительных мощностей и программных сервисов. В условиях распространения БЯМ это различие приобретает дополнительное содержание: различные модели, режимы доступа и объемы вычислительных ресурсов предоставляют неодинаковые возможности обработки информации. Региональные исследования также фиксируют устойчивую неоднородность цифровой инфраструктуры и уровня цифровой включенности. Например, С. Земцов показывает, что различия регионов по цифровым ресурсам становятся значимым фактором различий в условиях распространения технологий искусственного интеллекта [2].

Второй барьер — компетентностный. Доступ к одному и тому же цифровому инструменту не обеспечивает одинакового результата его использования, так как пользователь должен уметь сформулировать задачу, правильно интерпретировать результат, сопоставить его с другими источниками и обнаружить возможную ошибку. В случае БЯМ это особенно заметно, поскольку один и тот же инструмент может давать существенно различные результаты в зависимости от постановки задачи и способности пользователя критически оценивать ответ. Следовательно, возникает неравенство не только доступа к информации, но и скорости прохождения цепочки от запроса через результат к его проверке и принятию решения.

Современные исследования распространения генеративного ИИ подтверждают неравномерность его освоения различными слоями общества. Исследование 13 367 взрослых в Японии показало, что вероятность использования генеративного ИИ связана с возрастом, образованием, доходом, характером занятости, интенсивностью цифрового поведения и уровнем цифровой грамотности [27]. Данные по США и Южной Корее показывают, что генеративный ИИ распространяется быстрее прежних технологий, но его адаптация остается неравномерной — лидерские преимущества получают молодёжь, мужчины и более образованные слои населения [23]. Таким образом, формируется ИИ-разрыв, при котором различия в способности пользоваться системами искусственного интеллекта накладываются на существующие социально-экономические различия.

Третий барьер имеет более фундаментальный характер и может быть назван структурно-ресурсным. Корпорации, государство и аффилированные с ними цифровые платформы располагают массивами больших данных и вычислительной инфраструктурой, которые принципиально недоступны отдельному человеку. При этом данные обладают свойством неисчерпаемости в использовании: одни и те же медицинские, транзакционные или поведенческие данные могут одновременно использоваться множеством организаций, создавая возрастающую отдачу от их накопления и обработки [22]. Таким образом, пользователь может получить доступ к БЯМ, не получая доступа к тому же объему данных, качеству моделей и вычислительных ресурсов, которыми располагает другая сторона экономического взаимодействия. Возникает своеобразная асимметрия масштаба: человек взаимодействует с отдельным ответом модели, тогда как организация может обрабатывать массивы данных и принимать тысячи решений на той же технологической основе. Это различие напрямую связано с асимметрией скорости, поскольку масштаб вычислительной инфраструктуры определяет не только объем информации, доступной субъекту, но и скорость ее преобразования в управленческое действие.

Наконец, четвёртый барьер можно охарактеризовать как институциональный. Он тесно связан с метафорой «черного ящика» при описании функционирования систем, основанных на искусственном интеллекте: логика предлагаемых решений может быть неясна, и, кроме того, неоспорима, что также создаёт проблему алгоритмической непрозрачности. Эта проблема описывается Дж. Баррелл, которая различает как минимум три аспекта такой непрозрачности: во-первых, преднамеренную секретность организации, во-вторых, недостаточную техническую грамотность пользователя, в-третьих, непрозрачность, обусловленную самой сложностью машинного обучения и масштабом его применения [12]. Все эти аспекты действуют одновременно и не исключают друг друга. С понятием непрозрачности решения тесно связаны понятия объяснимости и оспоримости. Получение объяснения того, какие признаки повлияли на результат, не обязательно позволяет добиться его пересмотра. Э. Вахтер, Б. Миттельштадт и К. Рассел показывают, что объяснение автоматизированного решения должно рассматриваться не только как средство понимания, но и как инструмент, позволяющий человеку действовать в отношении нежелательного результата: выявлять основания решения, оспаривать его и понимать, какие изменения способны привести к иному исходу [32]. А. Зельбст и С. Барокас дополнительно показывают, что понятия непостижимости и неинтуитивности алгоритма нельзя полностью отождествлять: даже понятное описание правил может не ответить на вопрос, насколько сами правила являются обоснованными [29].

Исходя из этого, при характеристике цифрового неравенства субъектов важно не только требование, заключающееся в объяснении действии алгоритма, но и требование обеспечить оспоримость результата его действия, то есть практическую возможность инициировать проверку решения. С экономической точки зрения это означает, что значимым ресурсом становится не только доступ к информации, но и время и стоимость институциональной реакции. Если алгоритм принимает решение за секунды, а его обжалование занимает дни или недели, возникает временная структура неравенства независимо от того, насколько подробно алгоритм объясняет свое решение. Более быстрый субъект получает возможность действовать первым, а более медленный субъект вынужден реагировать уже на сформировавшиеся последствия.

Действие асимметрии скорости в здравоохранении в условиях генеративного ИИ

Современные системы ИИ уже используются для ускорения проведения исследований, автоматического анализа медицинских изображений, формирования медицинской документации и поддержки клинических решений. Все это в совокупности позволяет ускорить принятие врачебного решения, и, в теории, способствовать повышению эффективности работы медицинской организации. Например, исследование реального использования ИИ для приоритизации компьютерных томографий при подозрении на тромбоэмболию легочной артерии показало сокращение времени подготовки предварительного заключения в рабочие часы примерно на 22 минуты [31]. В другом исследовании применение ИИ при анализе рентгенограмм существенно сокращало время чтения исследований рентгенологами [21]. Описанные случаи ускорения имеют положительный эффект: уменьшается время ожидания и повышается пропускная способность медицинской системы. Однако с институционально-экономической точки зрения возникает вопрос о том, одинаково ли распределяется выгода от этого ускорения. Медицинская организация, обладающая ИИ-инфраструктурой, получает возможность быстрее обрабатывать поток пациентов и информации, тогда как пациент, не имеющий доступа к аналогичным инструментам, сохраняет прежнюю длительность поиска и проверки сведений. В результате цифровая технология способна сокращать общее время оказания помощи и одновременно увеличивать временной разрыв между субъектами.

Здесь можно было бы возразить, что сам по себе такой разрыв в условиях асимметричности как нормы в сфере здравоохранения не представляет проблемы. Однако, современный подход к терапии предполагает комплаентность пациента, его осознанное отношение к собственному здоровью, что формирует зону совместной ответственности врача и пациента. Пациент имеет право (и часто вынужден) разбираться в собственных диагнозе, назначениях врача и рисках. Когда процессы в медицинской организации ускоряются, а инструменты пациента остаются прежними, нагрузка на него относительно возрастает: пациент может наблюдать, что система работает быстро и «умно», а он сам — медленно и «по-старому». Это может проецироваться на восприятие врача и усиливать дефицит доверия. Кроме того, следует различать ситуации: в острых состояниях скорость принятия решения врачом важна в то время, как в ситуациях с хроническими заболеваниями и постоянным лечением пациенту часто нужно не столько быстрое решение, сколько качественное и понятное. Иными словами, в современных условиях для обеспечения комплаентности при лечении пациент нуждается в сопоставимой агентности – возможности в разумные сроки понимать, проверять и влиять на процесс.

В отношениях врача и пациента асимметрия скорости приобретает еще одну форму. Пациент может получить с помощью общедоступных БЯМ, таких как ChatGPT или DeepSeek развернутое объяснение диагноза или подготовить перечень вопросов, однако врач либо медицинская организация могут располагать доступом к значительно большему объему структурированных данных и специализированных алгоритмов. При этом сам врач должен проверить выводы системы и сопоставить их с конкретной клинической ситуацией, тогда как алгоритм способен обработать массив данных почти мгновенно. Возникает двойная временная асимметрия: между человеком и машиной внутри системы принятия решения и между пациентом и организацией во внешнем взаимодействии.

Эта проблема усиливается тем, что высокая скорость алгоритмической обработки не обязательно означает высокую достоверность результата. Негативный эффект автоматизации при принятии клинических решений известен и описан сравнительно давно [16]. Применительно к медицине отмечается, что пользователи могут чрезмерно полагаться на рекомендации автоматизированных систем; при этом факторами усиления такого эффекта выступают, в частности, рабочая нагрузка, сложность задачи и временные ограничения [18]; [25]. В случае с генеративным ИИ эта проблема сохраняется. Систематический обзор 519 исследований медицинских применений БЯМ показал, что только около 5% работ использовали реальные данные пациентов, а оценки надежности, справедливости и предвзятости систем остаются недостаточными [15]. В другом систематическом обзоре 89 исследований использования БЯМ непосредственно в помощи пациентам среди ограничений систем отмечены некорректность, неполнота, небезопасность, предвзятость, непрозрачность данных и ограниченная воспроизводимость [14]. Обзор 140 публикаций показал ограниченную применимость универсальных БЯМ в клинической практике по причине [24]. Более того, существование алгоритмической системы не гарантирует равенства ее использования: цифровые медицинские технологии в целом неодинаково доступны различным социальным группам, а выгоды от них чаще получают более обеспеченные и грамотные в цифровой сфере пользователи [34].

Следовательно, мы можем отметить, что в сфере медицины и здравоохранения также возникает принципиальное различие между скоростью получения результата и скоростью получения обоснованного и проверенного решения. Чем быстрее система действует, тем выше потенциальная цена ошибки. Тем самым в здравоохранении асимметрия скорости может воздействовать одновременно на эффективность и на распределение возможностей. Организация, располагающая ИИ, получает возможность быстрее анализировать данные, направлять пациентов, формировать документацию и принимать типовые решения. Пациент получает новые инструменты самостоятельного поиска и интерпретации информации, но при этом может столкнуться с решениями, скорость которых превышает его возможности проверки и институциональной реакции.

Заключение

Мы приходим к выводу, что распространение искусственного интеллекта создает новый контур цифрового неравенства. Его невозможно описать только через наличие устройства, Интернет-доступа или цифровых навыков. Существенным становится различие в способности субъектов своевременно превратить информацию в решение, проверить его достоверность и остановить или изменить неблагоприятное автоматизированное действие. Именно в этой точке классическая информационная асимметрия соединяется с асимметрией скорости и формирует более сложную проблему — неравенство эффективной информированности и способности действовать на ее основе. В экономике генеративного искусственного интеллекта основная граница неравенства проходит уже не только между знающими и незнающими, а между теми, кто способен быстро превратить произведенную автоматически информацию в контролируемое действие, и теми, кто вынужден подчиняться результатам такого действия. Применительно к сфере здравоохранения такая асимметрия может оказывать влияние на доверие к системе и приверженность пациента к процессу лечения. При этом наблюдается тревожная тенденция, связанная с выбором в качестве целевого ориентира скорости протекания цифровых процессов, которые по своей природе не являются физиологичными для человеческой психики и не соответствуют естественным темпам когнитивной обработки информации. Подобная ориентация чревата формированием дополнительной нагрузки на медицинских специалистов и, как следствие, развитием у них профессионального выгорания, что приобретает особую остроту в силу того, что именно на них возложена ответственность за итоговое принятие клинически значимых решений.

Перспективы дальнейших исследований связываются нами с изучением институциональных особенностей применения БЯМ в медицине, с выявлением специфичных для сферы здравоохранения условий возникновения и проявления действий описанных барьеров (инфраструктурно-технологического, компетентностного, структурно-ресурсного и институционального). …а также – с выработкой способов преодоления упомянутых выше барьеров. Последнее представляется особенно значимым в контексте того, что любые асимметрии, возникающие в системе здравоохранения, следует рассматривать прежде всего как источники рисков для пациентов, которые в силу объективных причин — состояния здоровья, зависимости от медицинских решений и ограниченности доступа к релевантной информации — априори относятся к категории уязвимых субъектов.