Искусственный интеллект как черный ящик, велосипед мировой торговли и эффект принца Чарльза
Экономисты пытаются определить, как искусственный интеллект принимает решения. В отличие от традиционных моделей, модели на основе машинного обучения порой настолько сложны, что определить, как именно ими было принято то или иное решение, практически невозможно, отмечают экономисты Банка Англии в неофициальном блоге регулятора Bank Underground. Искусственный интеллект в финансовом секторе используется все активнее – например, при определении стоимости страховки или кредитоспособности заемщика. Поэтому звучат призывы проводить аудит таких программ, раскрывать принципы их работы, а в науке появилась новая отрасль, разрабатывающая алгоритмы, которые позволяют объяснить решения искусственного интеллекта. Некоторые из методов описаны в работе экономистов Банка Англии, исследовавших решения искусственного интеллекта о ставках 6 млн ипотечных кредитов, выданных в Великобритании. Программа, принимающая решение, в их работе предстает «черным ящиком», над которым проводится множество экспериментов. Они позволяют понять, в какие решения превращаются те или иные данные, и выделить закономерности: от частного случая до общих механизмов модели и ее вероятных реакций на новые группы данных. Например, конкретному клиенту банка может быть интересно узнать, почему процентная ставка по его закладной высока: это помогло бы определить, какие изменения необходимы, чтобы получить ставку ниже. Выявление принципов частного решения напоминает расспросы, как в хите Backstreet Boys, повторяющих просьбу «tell me why» («скажи мне почему»), проводят аналогию авторы. И как при расставании люди пытаются понять причину, перебирая варианты – «Дело в моей внешности? Или я что-то не то сказал?», – так и для выявления алгоритмов частного решения тестируются реакции «черного ящика» на различные характеристики заемщиков: например, в конкретном случае может оказаться, что цена дома была слишком высока. Но что касается общего механизма работы сложных моделей, особенно при вводе новых данных, то полное объяснение работы искусственного интеллекта остается сложным для понимания, предупреждают авторы: пока, как в том же хите Backstreet Boys, придется признать, что мы «не можем достучаться до его сердца».
Миллениалам и поколению Х может угрожать «эффект принца Чарльза». Соавтор одного из старейших экономических блогов, Marginal Revolution, экономист Алекс Табаррок обращает внимание на проблему межпоколенческого неравенства. Когда среднему представителю поколения «бумеров» в США было 35 (то есть в 1989 г.), на это поколение приходилось около 21% богатства страны. Средний возраст поколения Х достиг 35 лет в 2008 г., и на его представителей приходилось уже 8% богатства страны, в 2,6 раза меньше, чем у «бумеров» в том же возрасте. Миллениалам будет в среднем 35 лет в 2023 г., но уже сейчас на них приходится всего 3% богатства (это расчеты ФРС). Возможно, именно поэтому у многих представителей поколения Х и миллениалов есть запрос на более активное перераспределение и борьбу с неравенством, рассуждает Табаррок: они хотят избежать «эффекта принца Чарльза». Чарльз должен унаследовать престол от Елизаветы II, которой сейчас 93 года, 67 из которых она находится у власти, но самому Чарльзу уже 71. Он взойдет на престол уже в достаточно пожилом возрасте, хотя, не исключено, хотел бы это сделать в более молодые годы, проводит аналогию Табаррок: поколению Х и миллениалам хочется получить свою долю богатства, пока они молоды и полны сил.
Международная торговля похожа на езду на велосипеде – эта популярная теория, зародившаяся еще в 1970-е гг., гласит, что если постоянно не проводить раунды снижения тарифов и других торговых барьеров, то страны скатятся к протекционизму – так же как на велосипеде не получится удержать равновесие, стоя на месте. Не факт, что эта теория верна, рассуждает профессор Гарварда Джеффри Фрэнкель в посте для блога Econbrowser (краткая версия его эссе также опубликована на сайте Project Syndicate). Даже если бы странам мира удалось последние три года просто стоять на месте, не снижая торговые барьеры, то мировая торговля чувствовала бы себя намного лучше, чем сейчас. По итогам сентября она сократилась на 1,1% по сравнению с сентябрем прошлого года. И причина этого – хаос, созданный неумелыми велосипедистами, которые сталкиваются друг с другом, а не инерционное стремление к протекционизму, считает Фрэнкель. Даже если удастся отменить все ограничительные меры, введенные в ходе торговых войн, странам все равно надо вернуться к переговорам, призывает он. Долгое время считалось, что от «поверхностной интеграции», которая предполагает снижение тарифов вплоть до обнуления, пора переходить к «глубокой», то есть к унификации национального регулирования. Но теперь «глубокая интеграция» представляется чрезмерно амбициозной задачей и миру лучше вернуться к старомодному сокращению тарифных барьеров, заключает он.
Марк Цукерберг о технологическом прогрессе: основатель Facebook завершает серию публичных дискуссий о будущем технологий, которую он анонсировал в начале 2019 г., разговором о технологическом прогрессе. Его собеседниками стали экономист и соавтор блога Marginal Revolution Тайлер Коуэн, а также 31-летний миллиардер, основатель финтех-стартапа Stripe Патрик Коллисон. Коуэн недавно запустил проект Emergent Ventures – программу стипендий и грантов для исследователей прогресса как отдельного явления, которое, по мнению Коуэна, недостаточно изучено современной наукой. Но непонятно, как такая инициатива может реально помочь обществу получать больше выгод от технологического прогресса, считает Цукерберг, приводя в качестве лучшего примера свою семейную благотворительную программу по поддержке прикладных исследований, например медицинских. Коллисон заступается за академические исследования: изучение лучших практик для их дальнейшего распространения могло бы существенно помочь развитию технологий, причем речь может идти о рутинных вопросах – например, о переподготовке менеджеров, которые, как показывают рандомизированные исследования, способны существенно увеличивать производительность. Дискуссия доступна на видео, в подкасте и в расшифровке.
Как поменять точку зрения? Блог Freakonomics от авторов одноименного бестселлера вновь публикует записанный несколько лет назад подкаст об этой когнитивной и поведенческой проблеме. Публично поменять свои взгляды зачастую непросто: политики так могут лишиться голосов, а обычные люди – друзей. Эта проблема изучается и в поведенческой экономике: экономистам важно понимать, под воздействием каких факторов люди готовы поменять привычную им точку зрения, – например, это важно для исследований потребительских привычек или склонности к сбережениям. Не менее важный вопрос: как можно убедить людей поменять свою точку зрения? Профессор когнитивных и психологических наук Университета Брауна Стивен Сломан рассказывает об одном из самых простых способов – попросить человека объяснить, как именно устроено то или иное явление или технология, в понимании которых человек полностью уверен. В большинстве случаев этот вопрос вскрывает иллюзию глубины объяснения: психологи исследовали этот феномен, спрашивая людей, знают ли они принцип работы шариковой ручки, унитаза или застежки-молнии. Большинство ответивших утвердительно не смогли объяснить, как именно эти вещи работают. Сломан повторил аналогичный эксперимент, задавая вопросы об отношении людей к проблеме ношения оружия и изменения климата. Как только люди осознавали, что знают не так уж много, они становились более восприимчивы к аргументам другой стороны. О том, как и почему люди готовы менять свои взгляды, в этом звездном выпуске также говорят профессор Стэнфорда, биолог Роберт Сапольски, политолог Фрэнсис Фукуяма, экономисты Юлия Швец из Кембриджа и Мэтью Джексон из Стэнфорда.
