Развитие ИИ и условия взрывного роста

Если передовые модели искусственного интеллекта (ИИ) можно будет использовать для разработки моделей следующих версий, это может привести к «интеллектуальному взрыву». Ведущие разработчики ИИ – Anthropic и OpenAI – уже открыто заявили, что планируют использовать свои модели ИИ для разработки следующих поколений моделей, запустив процесс «рекурсивного самосовершенствования»: способные модели будут создавать еще более способные модели. Если такое изобилие интеллектуальных возможностей будет внедрено в экономику, оно может дать колоссальный толчок как технологическому прогрессу за пределами сферы ИИ, так и производству товаров и услуг в целом.

Сама по себе концепция «интеллектуального взрыва» не нова. В 1966 г. математик Ирвинг Джон Гуд писал: «Сверхинтеллектуальная машина могла бы проектировать еще более совершенные машины; тогда, несомненно, произошел бы «интеллектуальный взрыв», и человеческий интеллект остался бы далеко позади». Однако, несмотря на значительные экономические последствия этого процесса, экономисты не спешили всерьез рассматривать такую возможность. 

Нобелевский лауреат Филипп Агийон с коллегами описали простую экономическую модель для пересмотра утверждения Гуда. Предположим, что возможности машины растут со скоростью, зависящей от того, сколько возможностей она уже накопила, при этом отдача от масштаба от этого процесса определяется одним параметром. Если отдача убывающая, то каждое следующее увеличение возможностей дается труднее предыдущего и рост сходит на нет. Если же отдача возрастающая, то возможности стремятся к бесконечности за конечное время – происходит «интеллектуальный взрыв». 

На практике этот параметр может отражать действие нескольких противоборствующих сил. Если найти идеи становится все труднее, это приводит к убывающей отдаче. Однако достаточно мощная машина может проводить исследования, улучшающие ее возможности, и тем самым действовать в противоположном направлении, потенциально достаточно сильно, чтобы переломить баланс сил. Таким образом, произойдет ли взрыв, зависит от того, какая сила победит: сила убывающей отдачи или сила рекурсивного самосовершенствования.

В последние годы в области ИИ произошли значительные изменения, которые позволяют получить более полное представление об «интеллектуальном взрыве», чем простые вычисления Агийона с коллегами. В частности, «законы масштабирования» предполагают, что увеличение вычислительных мощностей, используемых для обучения моделей, приводит к предсказуемому улучшению возможностей ИИ. Экстраполируя эти закономерности, разработчики ИИ значительно увеличили инвестиции в чипы для ИИ, при этом с 2022 г. общий объем вычислительных мощностей удваивался каждые семь месяцев.

Это увеличение инвестиций происходило на фоне предсказуемого технологического прогресса возможностей этих чипов за последние 60 лет согласно «закону Мура», означая, что большую вычислительную мощность можно приобрести за меньшие деньги («закон Мура» – эмпирическое наблюдение основателя Intel Гордона Мура в 1960-х гг., что количество транзисторов на микросхеме удваивается каждые два года при сохранении или снижении их стоимости, то есть компьютеры становятся все мощнее и все дешевле. – Прим. «Эконс»). 

Прогресс в разработке алгоритмов также способствовал развитию возможностей ИИ. В результате объем вычислительных мощностей, необходимый для достижения определенного уровня производительности модели, снижался примерно на две трети ежегодно с 2012 г. 

Исходя из этих тенденций, экономические модели развития ИИ должны учитывать рост как вычислительных мощностей, так и программного обеспечения, а также исследовательские усилия и инвестиции, определяющие стоимость вычислительных мощностей и прогресс в разработке алгоритмов.

В недавней работе мы сформулировали концептуальную основу для понимания трансформационного потенциала ИИ в будущем, показав, как эта технология может создавать новые петли обратной связи в экономике.

Рекурсивная петля ИИ-прогресса

Представим, что ИИ достаточно мощен, чтобы выполнять 20% задач в каждом секторе экономики, которые раньше выполняли люди, включая исследования. Появление штата «ИИ-работников» может увеличить выпуск как напрямую – через выполнение работы, необходимой для производства товаров и услуг, так и косвенно – через поддержку исследований и разработок, что в конечном счете повысит производительность экономики. Кроме того, увеличение объема выпуска можно реинвестировать в увеличение вычислительных мощностей для работы и обучения ИИ-моделей. Это, в свою очередь, приведет к большему объему использования уже обученных моделей на практике, а также к созданию более совершенных моделей. Наконец, может возникнуть петля рекурсивного самосовершенствования, когда «ИИ-работники» помогают исследователям в области ИИ, а также ученым, работающим над проектированием более эффективного компьютерного оборудования.

Таким образом, прогресс ИИ может стимулировать дальнейший прогресс ИИ. Этот переход к экономике, где «ИИ-труд» может накапливаться за счет инвестиций, показан на рисунке ниже.

В схематичной модели слева на рисунке показан мир, где петли обратной связи существуют только между капиталом и выпуском: чем больше выпуск продукции, тем больше можно сберегать и направлять на увеличение объема производительного капитала, который, в свою очередь, может быть использован в выпуске продукции. Однако убывающая отдача от капитала означает, что эта экономическая система допускает только устойчивый сбалансированный рост, а не взрывной. 

В автоматизированной экономике – справа на рисунке, – напротив, петли обратной связи возникают во многих новых сферах благодаря ИИ, который позволяет заменять труд капиталом в некоторых задачах. Эта автоматизированная экономика демонстрирует взрывной рост при возрастающей отдаче, то есть когда каждый доллар, направленный на работу ИИ-моделей, в конечном счете приносит экономике больше одного доллара выпуска. В этой системе экономическая деятельность может включать производство товаров, оказание услуг, проведение, скажем, биомедицинских исследований или, конечно же, исследований по разработке более совершенных ИИ-моделей.

Среда взрывного роста

Возникает вопрос: при каких условиях в автоматизированной экономике возникает возрастающая отдача? Мы пытаемся ответить на этот вопрос в простой среде, которая интегрирует описанные петли обратной связи в макроэкономическую модель.

Мы показываем, что в этой среде для определения того, будет ли система развиваться взрывообразно, достаточно знать: 1) долю труда в экономике сегодня; 2) степень убывающей отдачи в технологических секторах, таких как разработка алгоритмов ИИ и компьютерного оборудования; 3) долю автоматизированных задач в каждом секторе экономики. Используя оценки отдачи от исследовательских усилий из работ коллег (1, 2), мы оцениваем условия для возрастающей отдачи. И приходим к нескольким выводам. 

Во-первых, если автоматизировать задачи во всех секторах экономики в равной степени, то доля задач, которые необходимо автоматизировать для достижения взрывного роста, составит всего 13%.

Во-вторых, исторически сложившаяся степень убывающей отдачи в секторе аппаратного обеспечения значительно ниже, чем в других секторах. В частности, автоматизация задачи в секторе исследований в области разработки аппаратного обеспечения примерно в десять раз сильнее влияет на вероятность возникновения взрывного роста, чем автоматизация задачи в производстве конечных товаров.

В-третьих, влияние автоматизации на рост имеет сильно нелинейный характер. Согласно модели, для удвоения сбалансированного темпа роста выпуска необходимо автоматизировать 8% задач. Это уже большая часть пути к порогу в 13%, необходимому для полноценного взрывного роста.

Хотя 13% автоматизации задач может показаться удивительно низкой долей, это число опирается на несколько важных упрощающих допущений. Вслед за Йосефом Зеира мы предполагаем, что результаты выполнения задач ИИ и людьми агрегируются по функции Кобба – Дугласа. Это исключает возможность того, что выпуск будет ограничен более медленным ростом в тех задачах, которые по-прежнему могут выполнять только люди (функция Кобба – Дугласа отражает, сколько продукта можно произвести, используя определенное количество труда и капитала, и что труд и капитал частично взаимозаменяемы – можно выпустить один и тот же объем продукции, используя много труда и мало капитала либо же, наоборот, мало труда и много капитала; тем самым в модели авторов исчезает проблема «узких мест», когда общий рост упирается в задачи, которые могут выполнять только люди и делают это медленно, и поэтому и порог взрывного роста такой низкий. – Прим. «Эконс»). 

Напротив, в экономике с такими узкими местами «человеческих» задач автоматизация порождала бы «эндогенное затухание»: большое количество ИИ-работников просто снижали бы эластичность выпуска по отношению к «ИИ-труду» (то есть прирост выпуска с каждым новым «ИИ-работником» становился бы все меньше. – Прим. «Эконс»), из-за чего рост, вызванный ИИ-технологиями, сходил бы на нет.

Мы считаем, что такие узкие места – важная особенность экономики ИИ. Однако мы также показываем, что достаточно быстрая автоматизация новых задач может компенсировать торможение, связанное с эндогенным затуханием, оставляя, таким образом, возможность для взрывного роста.

Кроме того, даже если динамика роста является взрывной, а сила обратных связей близка к необходимому порогу, может потребоваться много десятилетий, прежде чем выпуск устремится к бесконечности. Тем не менее в одном из вариантов расчетов, который абстрагируется от упомянутых выше узких мест, полная автоматизация разработки программного обеспечения вместе с автоматизацией небольшой доли задач в остальных секторах экономики могла бы привести к взрывному росту уже в течение шести лет.

Спустя шестьдесят лет после формулирования гипотезы Гуда идею об «интеллектуальном взрыве» больше нельзя считать научной фантастикой – теперь это вопрос параметров. Наш анализ показывает, что условия для взрывного роста менее жесткие, чем может показаться на первый взгляд: умеренный уровень автоматизации задач, особенно в исследовательских секторах, создающих более совершенные алгоритмы и чипы, способен перевести экономику в режим возрастающей отдачи. 

Важно уточнить, что речь идет именно о возможности. Узкие места, связанные с задачами, которые по-прежнему остаются за человеком, физические ограничения на производство вычислительных мощностей и скорость, с которой могут быть автоматизированы новые задачи, – все это будет определять, произойдет ли взрывная динамика и как быстро. Но механизмы уже достаточно конкретны, чтобы их можно было измерять: доля труда, отдача от исследовательских усилий и доля автоматизации – все эти показатели наблюдаемы. 

Экономисты исторически относились к взрывному росту как к курьезу на периферии теории роста. Но ситуация меняется: в недавнем заявлении, под которым первоначально подписались все четыре автора этой работы, более 200 экономистов и представителей технологической отрасли, включая более дюжины нобелевских лауреатов, призвали профессиональное сообщество и политиков «действовать уже сейчас, чтобы понять экономику трансформационного ИИ» и создавать институты, необходимые для управления этим процессом. Наши результаты подчеркивают, почему эта срочность оправданна: предпосылки для взрывного роста наблюдаемы и измеримы и, возможно, уже начинают действовать.

Оригинал статьи опубликован на портале CEPR.org/VoxEU. Перевод выполнен редакцией «Эконс».