Эволюция ИИ: сценарии развития до 2030 года

Бурное развитие технологий искусственного интеллекта (ИИ) в последние годы заставляет общество задумываться: каким образом ИИ будет влиять на различные сферы деятельности общества (например, на рынок труда, финансовый сектор) и по какому пути пойдет дальнейшее развитие ИИ. В недавней работе эксперты ОЭСР описали несколько вероятных сценариев развития ИИ к 2030 г., основываясь на обзоре существующей литературы, экспертных оценках, анализе текущих тенденций.

Учитывая, что прогресс ИИ в ближайшие несколько лет нельзя предсказать с уверенностью, степень вероятности реализации того или иного сценария эксперты не оценивали. Все рассматриваемые варианты представляют собой возможные, но пока одинаково неопределенные сценарии будущего ИИ.

Сценарий 1. «Прогресс останавливается»

В этом сценарии после 2025 г. быстрое развитие и улучшение систем ИИ практически сходит на нет, и возможности моделей почти не изменятся к 2030 г. Системы ИИ смогут обрабатывать текст, речь, изображения и видео для выполнения широкого спектра коротких, четко определенных задач, но, как правило, будут во многом полагаться на поддержку людей – через подробные подсказки, проверку и предоставление контекста.

При выполнении сложных задач системы ИИ по-прежнему будут испытывать трудности с поддержанием связного мышления, что ограничивает их способность действовать в качестве автономных агентов. ИИ все еще будет галлюцинировать, а его память будет ограничена. Также ИИ будет не хватать гибких и адаптивных социальных навыков, необходимых для интеграции в человеческую социальную среду. Прорывные инновации, способные предотвратить застой, не возникнут.

Такой сценарий может реализоваться, поскольку простое увеличение вычислительных мощностей и данных, используемых для обучения моделей ИИ, не обязательно приведет к расширению возможностей и способностей моделей. Кроме того, прогресс ИИ может застопориться, если инвестиции в эту сферу значительно сократятся, а его внедрение замедлится из-за опасений общества или законодательных ограничений. Возможна и альтернатива, при которой задержка прогресса ИИ из-за технических ограничений может совпадать с высокими инвестициями и широким общественным признанием.

• Историческая аналогия для этого сценария – развитие коммерческой авиации. Скорость пассажирских самолетов резко выросла с 1930 по 1960 г., с примерно 100 до почти 500 узлов, или с около 185 до 926 км в час, после чего стабилизировалась. Физические ограничения, связанные с преодолением звукового барьера, – увеличение аэродинамического сопротивления, что повышает расход топлива, шум и снижает грузоподъемность, – сделали более быстрые самолеты непрактичными для пассажирских перевозок (как знаменитый сверхзвуковой «Конкорд», от которого отказались в 2003 г.).

Один из потенциальных вариантов сценария «Прогресс останавливается» – сценарий «ИИ как узкоспециализированный инструмент», предполагающий, что системы ИИ могут эффективно решать некоторые задачи в определенной сфере, но не умеют обобщать результаты за пределами обучающих данных или объединять задачи для достижения целей более высокого уровня в течение более длительных периодов времени. Примерами таких узкоспециализированных инструментов ИИ выступают ИИ-ассистенты для программирования, системы поддержки медицинской диагностики или юридических процессов, ИИ-инструменты для проектирования и дизайна.

Второй возможный вариант сценария «Прогресс останавливается» – сценарий «Простые ИИ-агенты». Он предполагает, что прогресс в создании универсальных систем ИИ в значительной степени застопорится, но зато будут достигнуты успехи в создании агентов ИИ с продвинутыми метакогнитивными навыками и критическим мышлением, способных автономно выполнять простые компьютерные задачи от имени пользователей с приемлемым уровнем надежности, оценивать свою работу и отслеживать свой прогресс в выполнении задач. В то же время эти простые ИИ-агенты остаются ограниченными в своей способности проявлять креативность и генерировать нестандартные решения и испытывают трудности с решением социальных или реальных задач.

Сценарий 2. «Прогресс замедляется»

Этот сценарий предполагает, что прогресс в области ИИ идет, но очень малыми темпами, что приводит к замедлению роста возможностей ИИ. Несмотря на это, к 2030 г. системы ИИ будут значительно превосходить современные.

ИИ-модели будут значительно меньше галлюцинировать, смогут автономно и быстро выполнять задачи, на решение которых человеку потребовались бы часы или дни, а также смогут исправлять ошибки при выполнении более длительных или сложных задач. Системы ИИ будут обладать улучшенной памятью, смогут выделять ключевые факты, которые им необходимо «вспомнить», и эффективно использовать их при необходимости.

Однако ИИ останется относительно слабым в непрерывном обучении, то есть ему будет сложно осваивать новые навыки или подходы к решению проблем. Также ИИ-системы будут значительно отставать от человека в своей способности взаимодействовать с физическим миром и выполнять физические задачи в сложных и динамичных средах. Увеличение размера ИИ-моделей и обучение их рассуждениям продолжат обеспечивать прирост производительности, но с меньшей скоростью, чем надеялись разработчики.

Развитие ИИ может пойти по этому сценарию, если возникнут непредвиденные сложности с инвестициями, инфраструктурой, природными ресурсами, поставками данных и энергии, которые ограничат вычислительные мощности ИИ и возможности масштабирования. В то же время значительные средства, которые технологические компании вкладывают в строительство центров обработки данных для ИИ, свидетельствуют об ожиданиях, что дальнейшее масштабирование систем ИИ принесет отдачу.

• Аналогией для этого сценария служит история разработки антибиотиков: в этой области период 1940–1960-х гг. был «золотой эрой» открытий и вывода на рынок новых лекарств, но затем процесс замедлился. Легкодоступные возможности открытия новых антибиотиков были исчерпаны, одновременно с этим патогены стали накапливать устойчивость к существующим антибиотикам.

Один из вариантов сценария «Прогресс замедляется» – «Простые роботы»: он предполагает, что инновации в области ИИ и робототехники позволят системам ИИ достичь той гибкости и адаптивности в выполнении роботизированных задач, которую в настоящее время демонстрируют языковые модели в лингвистических задачах. В результате будут созданы сравнительно простые роботизированные ИИ-системы, способные выполнять многоступенчатые задачи в динамически изменяющейся среде (например, мобильные роботы или беспилотные аппараты).

Другой вариант сценария «Прогресс замедляется» – это «Социально ограниченный ИИ», который может лучше генерировать текстовые ответы на заданные ситуации, но по-прежнему испытывать трудности с усвоением социальных взаимодействий между людьми.

Сценарий 3. «Прогресс продолжается»

В этом сценарии прогресс в области ИИ будет продолжаться текущими темпами до 2030 г., и к этому времени системы ИИ будут значительно превосходить текущий уровень. Хотя ИИ будет по-прежнему во многом полагаться на помощь со стороны человека, ИИ-системы часто смогут действовать с высокой степенью автономности для достижения заданной цели и во многих сферах превосходить экспертов-людей.

Способность ИИ действовать самостоятельно будет подкрепляться значительно улучшенными способностями к обучению и запоминанию информации, что позволит создавать ИИ-системы, которые могут «учиться на ходу». Роботы, управляемые ИИ, смогут выполнять сложные задачи в динамично изменяющихся реальных условиях, за рамками заводов и складов, в том числе решать задачи, требующие взаимодействия с людьми. Также ИИ-системы будут обладать базовыми социальными навыками, необходимыми для интеграции в человеческую социальную среду.

Этот сценарий может реализоваться, если масштабирование вычислительных мощностей и баз данных ИИ-моделей будет продолжаться в соответствии с текущими тенденциями, а разработчики смогут преодолеть ограничения ИИ, в том числе в непрерывном обучении, креативности, социальном взаимодействии. Развитие ИИ по этому сценарию может пойти и в случае продолжения инвестиций в ИИ, сохранения высоких темпов его широкого распространения в обществе и целенаправленной поддержки ИИ со стороны политиков. Возможной альтернативой станет быстрый прогресс ИИ за счет технических прорывов, совпадающий с замедлением темпов его внедрения в обществе и снижением популярности ИИ.

• Аналогией для сценария «Прогресс продолжается» может служить закон Мура, описанный в 1965 г. и остающийся до сих пор в силе, согласно которому вычислительная мощность компьютерных чипов удваивается примерно каждые два года.

Один из возможных вариантов сценария «Прогресс продолжается» предполагает создание «Забывчивого ИИ». «Забывчивый ИИ» может превосходить современные ИИ-системы за счет улучшения метакогнитивных навыков и креативности. Но будет ограничен медленным прогрессом в области памяти и гибкого непрерывного обучения – из-за трудностей с использованием информации из огромных баз данных. Такие «забывчивые» ИИ-системы могут эффективно решать сложные задачи, но, как правило, терпят неудачу, если эти задачи требуют от них устойчивого усвоения информации, выходящей за рамки данных, включенных в обучающую выборку.

Еще один потенциальный вариант сценария «Прогресс продолжается» – ИИ, работающий только в цифровом формате и решающий только цифровые задачи, но обладающий крайне ограниченными физическими возможностями.

Сценарий 4. «Прогресс ускоряется»

В этом сценарии темпы развития ИИ с 2025 по 2030 г. будут более быстрыми, чем те, которые наблюдались с 2020 по 2025 г., и к 2030 г. системы ИИ достигнут человеческого уровня в большинстве или во всех когнитивных способностях. ИИ будет способен эффективно работать самостоятельно, анализируя и в случае изменения обстоятельств корректируя поставленные перед ним цели и при необходимости сотрудничая с людьми.

Почти все профессиональные задачи, которые люди выполняют в цифровой среде, ИИ-системы могут выполнять автономно и значительно быстрее, чем человек. Системы ИИ также успешно обучаются «на ходу» и постоянно совершенствуют навыки. Они креативны, легко интегрируются в человеческую социальную среду.

ИИ будет развиваться по этому сценарию в случае расширения возможностей ИИ за счет постоянного масштабирования, обучения рассуждениям и более широкого применения ИИ-ассистентов по программированию в разработке алгоритмов ИИ. В то же время темпы ИИ-прогресса могут быть ограничены доступностью энергии или вычислительных ресурсов для проведения экспериментов и обучения ИИ-моделей, а также отставанием ИИ в креативности от людей.

• Аналогией для этого сценария может служить технология секвенирования ДНК, которая в последние 50 лет очень быстро развивалась, благодаря чему затраты на нее резко сократились.

Одним из вариантов сценария «Прогресс ускоряется» становится создание общего искусственного интеллекта (artificial general intelligence, AGI), который может не уступать человеку и даже превосходить его возможности, поскольку способен не только оперировать информацией, но и в той или иной степени понимать ее смысл.

Еще один вариант сценария «Прогресс ускоряется» – «Сверхинтеллект», при котором системы ИИ достигают уровней возможностей человека и продолжают развиваться дальше. В этом случае возможности ИИ превзойдут человеческие, и он будет способен выполнять интеллектуальные задачи, на которые способны люди, быстрее и с большей точностью либо сможет решать интеллектуальные задачи, качественно отличающиеся от тех, которые в настоящее время могут выполнять люди.