«Каким смартфоном пользовался Пушкин»

Технологии, основанные на искусственном интеллекте, способны увеличить мировой ВВП на 14%, или $15,7 трлн, к 2030 г., подсчитала компания PwC: $9,9 трлн из них – за счет более высоких темпов роста производительности, остальное – за счет повышения конечного потребления. По расчетам McKinsey Global Institute (MGI), благодаря искусственному интеллекту глобальная экономика в ближайшие полтора десятилетия ежегодно могла бы расти в среднем на 1,2% быстрее (это более трети нынешних темпов роста). Таким образом, его эффект сопоставим с такими прорывными технологиями прошлого, как паровой двигатель, промышленные роботы и информационные технологии, пишут аналитики MGI. Но чем шире будет распространяться искусственный интеллект, тем острее встанут этические вопросы, связанные с его использованием. Microsoft – первая и пока единственная крупная технологическая компания, в которой появилась должность вице-президента по правам человека.

Econs публикует выдержки из лекции Стива Крауна, вице-президента и заместителя главного юриста Microsoft, которую он прочел в Высшей школе экономики:

• Искусственный интеллект зародился еще в 1956 г., когда ученые из Университета Дартмута, специализирующиеся на компьютерных технологиях, решили провести летние каникулы, обсуждая проблемы искусственного интеллекта, хотя тогда у них еще не было необходимых технологий. Миру предстояло пережить немало существенных изменений, благодаря которым мы сегодня можем всерьез говорить об искусственном интеллекте, и они произошли довольно быстро. Прежде всего, это взрывной рост big data. Если бы всего три года назад собрали вместе все данные, которые хранят крупнейшие технологические компании мира, они могли бы покрыть каждое слово, каждый слог, произнесенный на земле за всю историю человечества. Но с тех пор объем больших данных удваивается каждые 18 месяцев.

• Нейросети дают невероятные возможности выявлять шаблоны и определять (с заранее известным доверительным интервалом), к примеру, что на изображении: кошка или собака, человек или обезьяна, мужчина или женщина. Но вы никогда не получите стопроцентно точного ответа, речь всегда будет идти о вероятностях.

• Искусственный интеллект может казаться невероятно могущественным, но он еще и невероятно глуп. Если вы в любой поисковой системе (от Bing до Google или «Яндекса») попробуете задать запрос «каким мобильным телефоном пользовался Пушкин», вы получите массу информации о мобильных телефонах, о Пушкине, но не получите простого ответа: «Погодите, а разве при Пушкине уже были мобильные телефоны?» Машины могут решать задачи, которые мы им даем, но они не способны задействовать наш жизненный опыт.

• Вот насколько узок искусственный интеллект: он выделяет шаблоны, затем с определенными доверительными интервалами рассчитывает вероятности, чтобы дать ответ, который попросили найти люди. Поэтому лучше называть это не искусственным интеллектом, а вычислительным интеллектом: он вычисляет вероятности, а не думает в полном смысле этого слова. Это ближе всего к мышлению, но он не размышляет и не принимает решений, а лишь дает ответ с той или иной вероятностью.

• Частный, но очень важный способ применения искусственного интеллекта – распознавание лиц и других изображений. Эта технология может дать людям невероятные возможности. Например, человек, потерявший зрение, при помощи специальных очков с камерой и приложения для смартфона, которое озвучивает поступающую информацию, теперь может в режиме реального времени узнавать, что происходит вокруг, какие эмоции (судя по выражению лиц) испытывают люди, с которыми он разговаривает, или какие блюда есть в меню ресторана.

• Но в то же время распознавание лиц несет существенные риски. Посмотрите на систему социального скоринга в Китае. Если вы заходили на сайты, которые власти страны считают неправильными, или, например, перешли дорогу в неположенном месте, вы получите меньше баллов и не сможете купить билеты на самолет или на поезд. Разве мы хотим, чтобы искусственный интеллект использовался таким образом?

• И государства, и компании, внедряющие технологии на основе искусственного интеллекта, способны предусмотреть этические границы. Например, у Microsoft есть этический кодекс, который должен предотвращать использование искусственного интеллекта с нарушением прав человека. Этот кодекс основывается на Всеобщей декларации прав человека и исходит из принципов человеческого достоинства и недискриминации. Недавно Microsoft инвестировала в израильский стартап, который занимается распознаванием лиц, но выяснилось, что технология этой компании используется для тайной слежки за палестинцами. Контракт с компанией предполагал соблюдение этических норм, и сейчас Microsoft готова отозвать инвестиции, если нарушения не будут устранены.

• Даже если в программе не заложено ничего дискриминационного, искусственный интеллект может ущемлять права человека, поскольку использует данные, в которых объективно содержится искаженная информация. Например, искусственный интеллект считает профессию доктора мужской, поскольку долгое время она была закрыта для женщин. Представим себе, что мы существенно усовершенствовали технологии, шагнули на 20 лет вперед и спросили у искусственного интеллекта, что делать с проблемой ожирения, а он, проанализировав данные о здоровье и продолжительности жизни людей с разным индексом массы тела, к примеру, ответит: «Убейте всех, чей вес втрое превышает идеальный». Искусственный интеллект не способен рассуждать как мы, социальные существа. Не испытывайте завышенных ожиданий по поводу программирования этических решений: мы можем двигаться в этом направлении, но мы еще слишком многого не знаем.

• Один из основополагающих принципов Microsoft сформулирован так: «Если ваша технология меняет мир, то вы несете ответственность за тот мир, который вы помогли создать». Мы должны признать, что у нас нет всех ответов и даже нет всех необходимых вопросов, но нам придется искать их вместе с властями и обществом.