Финансовые кризисы искусственного интеллекта

Быстрое внедрение искусственного интеллекта (ИИ) трансформирует финансовую индустрию. Его внедряют как частный, так и государственный сектор. Поскольку ИИ обрабатывает информацию гораздо быстрее людей, он может способствовать возникновению более частых и более интенсивных финансовых кризисов, чем те, которые мы видели до сих пор. Но он также может сделать противоположное и стабилизировать систему.

Для анализа финансовой стабильности ИИ можно рассматривать как «рационального максимизирующего агента». Это определение резонирует с методологическими подходами, принятыми большинством исследователей при анализе финансовой стабильности и макропруденциальной политики. Что отличает ИИ от чисто статистического моделирования, так это то, что он не только использует количественные данные для предоставления рекомендаций; он также применяет целенаправленное самообучение на качественных и количественных данных. Таким образом, он может давать советы и даже принимать решения.

Сложно оценить масштабы использования ИИ в сфере финансовых услуг. Financial Times приводит данные, что лишь 6% банков планируют масштабное внедрение ИИ, тогда как большинство выражает опасения по поводу его надежности, потери рабочих мест, регуляторных аспектов и инертности. Некоторые опросы подтверждают подобные данные, но другие – опровергают. Финансы – высококонкурентная отрасль. Когда финансовые стартапы и некоторые крупные банки демонстрируют значительное сокращение затрат и повышение эффективности за счет использования современных технологий и найма персонала, специализирующегося на ИИ, то более консервативные учреждения, вероятно, не имеют иного выбора, кроме как последовать примеру.

Быстрое внедрение ИИ может сделать предоставление финансовых услуг более эффективным, одновременно снижая затраты. Большинство из нас выиграет.

Но не все так позитивно. Широко распространены опасения по поводу влияния ИИ на рынок труда, производительность и т.п. Нас особенно беспокоит то, как ИИ влияет на потенциал системных финансовых кризисов – тех разрушительных событий, которые обходятся крупным экономикам в триллионы долларов и переворачивают общество. Этот вопрос был в центре внимания нашей недавней работы.

Корни финансовой нестабильности

Мы предполагаем, что ИИ не создаст новых фундаментальных причин кризисов, а усилит существующие. Это: чрезмерный левередж (кредитное плечо), который делает финансовые институты уязвимыми даже для небольших потрясений; стремление к самосохранению во время кризиса, которое заставляет участников рынка предпочитать наиболее ликвидные активы; непрозрачность системы, сложность и асимметричность информации, которые заставляют участников рынка не доверять друг другу во время стресса.

Эти три фундаментальные уязвимости стояли почти за каждым финансовым кризисом за последние 261 год, с момента первого в современном мире кризиса 1763 года.

Однако, хотя все кризисы обусловлены одними и теми же тремя фундаментальными факторами, предотвращать и сдерживать кризисы непросто, поскольку они существенно различаются. Это неудивительно. Эффективность финансового регулирования – это в первую очередь предотвращение кризисов. Следовательно, это практически аксиома, что кризисы случаются там, куда регуляторы не смотрят. А поскольку финансовая система сложна бесконечно, то существует множество областей, где может накапливаться риск.

Ключ к пониманию финансовых кризисов заключается в том, как финансовые учреждения оптимизируют свою деятельность: они стремятся максимизировать прибыль при приемлемом риске. Для понимания того, как это воплощается в операционной деятельности, полезен критерий Роя (британский экономист Эндрю Дональд Рой, автор критерия безопасности в инвестиционных решениях, обеспечивающего минимальную требуемую доходность для заданного уровня риска. – Прим. «Эконс»), который можно кратко сформулировать так: максимизация прибыли при условии небанкротства.

Это означает, что финансовые учреждения оптимизируют свою деятельность для получения прибыли большую часть времени, возможно, 999 дней из 1000. Однако в тот единственный день, когда великое потрясение наносит удар по системе и на горизонте маячит кризис, – выживание, а не прибыль, вот что их больше всего волнует: проблема «одного дня из тысячи».

Когда приоритетом финансовых институтов становится выживание, их поведение меняется быстро и радикально. Они копят ликвидность и выбирают самые надежные и ликвидные активы. Это приводит к набегам на банки, срочным распродажам, остановке кредитования и всем другим нежелательным действиям, которые связаны с кризисами. В таком поведении нет ничего предосудительного, но его нелегко регулировать.

Когда в дело вступает ИИ

Все эти факторы финансовой нестабильности хорошо понятны и вызывали беспокойство задолго до появления компьютеров. По мере того как технологии все больше внедрялись в финансовую систему, они повышали ее эффективность и приносили ей выгоду, но также и усиливали существующие каналы нестабильности. Мы ожидаем, что ИИ сделает то же самое.

Мы находим четыре канала, по которым экономика уязвима к рискам ИИ:

1. Канал дезинформации: возникает из-за того, что пользователи ИИ не осознают его ограничений, но становятся все более зависимыми от него.
2. Канал злонамеренного использования: возникает из-за того, что система изобилует обладающими значительными ресурсами экономическими агентами, которые хотят максимизировать свою прибыль и не слишком обеспокоены социальными последствиями своей деятельности.
3. Канал рассогласованности: возникает из-за трудностей, связанных с обеспечением того, чтобы ИИ следовал целям, поставленным его операторами-людьми.
4. Канал олигополистической структуры рынка: проистекает из бизнес-моделей компаний, которые разрабатывают и используют механизмы ИИ. Эти компании получают растущую отдачу от масштаба, что может препятствовать выходу на рынок новых игроков, повышать однородность и формировать монокультуру риска.

Как ИИ может дестабилизировать систему

Для эффективности ИИ нужны данные – даже больше, чем людям. Это не должно быть проблемой, поскольку система ежедневно генерирует терабайты данных, с которыми работает ИИ. Проблема в том, что почти все эти данные поступают из середины распределения результатов системы, а не из «хвостов». Кризисы всегда связаны с «хвостами» (маловероятные события, потрясения или экстремальные движения рынка, которые лежат за пределами нормальных распределений. Случаются редко, но приносят непропорционально большой ущерб; «черные лебеди» в популярной терминологии Нассима Талеба. – Прим. «Эконс»).

Есть две фундаментальные причины, по которым у нас мало данных по «хвостам».

Первая – это эндогенная реакция на контроль со стороны участников рынка; это относится к каналу дезинформации ИИ. Способ понять это – критика Лукаса (доказавшего, что вслед за изменениями в экономической политике люди меняют свое поведение, поэтому результаты одних и тех же мер, принятых в прошлом и в настоящем, могут быть разными. – Прим. «Эконс») и закон Гудхарта – «любая наблюдаемая статистическая закономерность будет иметь тенденцию разрушаться, как только на нее оказывается давление в целях контроля». Участники рынка не просто стоически принимают правила. Нет, они реагируют стратегически. Они никому заранее не говорят, как они планируют реагировать на правила и стресс. Они, вероятно, даже сами не знают. Следовательно, функции реакции участников рынка скрыты. А то, что скрыто, не находится в наборе данных.

Вторая причина, которая следует из канала злонамеренного использования, – это все стратегические взаимодополняемые факторы, лежащие в основе поведения участников рынка во время кризисов. Так, игроки чувствуют себя вынужденными изымать ликвидность, потому что то же самое делают их конкуренты. Между тем взаимодополняемость может привести к множественным равновесиям, в которых совершенно разные рыночные результаты могут быть итогом случайного стечения обстоятельств. Оба эти последствия стратегических взаимодополняемостей означают, что наблюдения прошлых кризисов не так уж и информативны для будущих. Это еще одна причина, по которой у нас не так много наблюдений из «хвостов».

В основе проблемы лежат две характеристики ИИ: он превосходно извлекает сложные паттерны из данных и быстро учится на окружающей среде, в которой работает. Современные механизмы ИИ наблюдают за тем, что делают конкуренты, и им не составит труда использовать эти наблюдения для улучшения своих собственных моделей того, как устроен мир. На практике это означает, что будущие системы ИИ в частных фирмах и государственных организациях обучаются и, следовательно, оптимизируются, чтобы влиять друг на друга.

Согласование стимулов ИИ со стимулами его владельца – сложная проблема; это канал рассогласованности. Ситуация может ухудшиться во время кризисов, когда скорость имеет решающее значение, и у ИИ может не быть времени на получение обратной связи от людей для точной настройки целей. Традиционный способ, который использует система для предотвращения разрушения равновесия, может больше не работать. Вечно существующая проблема несоответствия между индивидуально рациональным поведением и социально желательными результатами может усугубиться, если регуляторы больше не смогут координировать усилия по спасению и «выкручивать руки». ИИ мог уже ликвидировать свои позиции и тем самым запустить кризис, прежде чем его владелец успел снять трубку, чтобы ответить на звонок председателя ФРС.

ИИ, вероятно, усугубит и канал олигополистической структуры рынка, приводящий к финансовой нестабильности. По мере того как финансовые институты начинают смотреть на мир и реагировать на него все более схожим образом, их покупки и продажи становятся скоординированными, что приводит к пузырям и крахам. В более общем плане монокультура риска служит важной движущей силой подъемов и спадов в финансовой системе. Дизайн машинного обучения, входные данные и вычисления влияют на способность механизмов ИИ управлять рисками. Эти механизмы все больше контролируются по большому счету несколькими технологическими и информационными компаниями, которые продолжают сливаться, что приводит к образованию олигополистического рынка.

Основная проблема, связанная с такой концентрацией рынка, – вероятность того, что многие финансовые учреждения, в том числе в государственном секторе, получат свое видение мира от одного и того же поставщика. Это означает, что они будут одинаково видеть возможности и риски, включая то, как на них влияет текущий или гипотетический стресс. Это заставит их с большей вероятностью действовать стадно, покупая и продавая одни и те же активы, тем самым стимулируя проциклическое поведение и имея одни и те же слепые зоны.

«Хвостовые» риски ИИ

Столкнувшись с экзистенциальными угрозами для компании, ИИ оптимизирует решение для выживания. Но именно здесь сама скорость и эффективность ИИ работают против системы. Если другие финансовые институты делают то же самое, они координируют усилия по достижению кризисного равновесия. Итак, все институты влияют друг на друга, потому что все они принимают одно и то же решение; и все стараются отреагировать как можно быстрее, поскольку тот, кто первым избавится от рискованных активов, лучше всего сможет пережить шторм.

Следствие этого – возросшая неопределенность, приводящая к крайней волатильности рынка, а также к порочным петлям обратной связи – таким как срочные распродажи из-за изъятий ликвидности, вызывающие массовые набеги на банки, провоцирующие срочные распродажи. Благодаря ИИ стресс, на возникновение которого могли уйти дни или недели, теперь может возникнуть за минуты или часы.

Но механизмы ИИ могут поступать и наоборот. В конце концов, то, что ИИ может реагировать быстрее, не означает, что так и будет. Эмпирические данные свидетельствуют о том, что, хотя цены на активы могут упасть ниже фундаментальных значений во время кризиса, они часто быстро восстанавливаются. Это означает покупку возможностей. Если ИИ не так уж озабочен выживанием и механизмы ИИ в совокупности сойдутся в равновесии восстановления, то они поглотят шок и никакого кризиса не произойдет.

Если резюмировать все вышеизложенное, мы предполагаем, что ИИ будет снижать волатильность и раздувать «хвосты». Это могло бы сгладить краткосрочные колебания, но за счет усиления более экстремальных событий. Особое значение имеет то, насколько финансовые власти готовы к кризису ИИ. Мы собираемся обсудить это в следующей колонке.

Примечание авторов. Любые мнения и выводы, выраженные в этой колонке, принадлежат авторам и не обязательно отражают точку зрения Банка Канады.

Оригинал статьи опубликован на портале CEPR.org/VoxEU. Сокращенный перевод выполнен редакцией Econs.online.