Государственный фонд фондов
Институт развития Российской Федерации

Media Review

Андрей Устюжанин: нужно научить алгоритм решать задачи «медленного мозга»

Искусственный интеллект претендует на звание главной технологии XXI века. Сегодня ИИ уже успешно применяется во многих областях — но до сих пор не может справиться с задачами, которые под силу мозгу ребенка. Какие барьеры стоят перед глобальным прорывом в сфере ИИ, чем опасно цифровое неравенство и зачем может понадобиться космический Яндекс-навигатор? Разобраться в этих вопросах корреспондент РИА Новости Олег Никишенков попросил заведующего лабораторией методов анализа больших данных НИУ ВШЭ Андрея Устюжанина:

 — По словам организаторов, фокусом следующих конкурсов Up Great могут стать «искусственный интеллект» и «космические технологии». То, что эти темы поставлены рядом, — совпадение?

 — Россия обладает пакетом технологий, который позволяет самостоятельно производить и запускать в космос аппараты, а также поддерживать их работу на орбите. Поэтому как направление, позволяющее усилить уже достаточно хорошо развитую сферу, сочетание космоса и ИИ оправдано. Какие барьеры существуют на стыке этих технологий? Поясню на конкретных примерах.

Один из проектов лаборатории, над которым мы работаем совместно с ФГУП ЦНИИМаш, «Российскими космическими системами» и Школой анализа данных Яндекса, — расчет траекторий автоматического уклонения спутников от столкновений с космическим мусором. Этих объектов на орбите скоро будет так много, что новые спутники придется оборудовать двигателями и системой навигации. Не исключено, что будет востребован космический Яндекс-навигатор, который разрулит трафик на «орбитальных дорогах».

Текущий подход к управлению спутниками подразумевает, как правило, изменение параметров орбиты вручную. Но такой способ невозможно масштабировать. Мы предложили один из подходов из семейства ИИ. Он называется «обучение с подкреплением». С помощью симулятора машинный интеллект изучает все возможные варианты движения спутника на орбите Земли. Для этого в симулятор закладываются такие критерии, как расход топлива для маневров, возможные отклонения от заданной орбиты, ориентация спутника в пространстве и гравитационные эффекты. Нужно задать алгоритму рамки, в которых он сам будет подбирать оптимальные варианты управления спутником.

Главный барьер этой технологии состоит в том, что человек способен интуитивно быстро определить, как лучше поступить в той или иной ситуации. Алгоритм так не может. Ему нужно знать, какое решение является однозначно хорошим, а «что такое плохо», как в известном стихотворении Маяковского. И без перевода с человеческих понятий на вычислимые, воспринимаемые ИИ, подбор и настройка алгоритма невозможна. Поэтому развитие технологии симуляторов различных процессов становится одной из магистральных линий развития искусственного интеллекта. Важно научиться создавать описания для алгоритмов симулятора на формальном языке, исключающем неоднозначность толкования.

Еще одна задача для ИИ связана с распознаванием образов при создании снимков Земли с орбиты. Один из примеров технологического барьера: нужно максимально точно понять процент облачности в момент съемки. Требуется алгоритм, который сможет проанализировать изображение и не отправлять на Землю снимки, где объект закрыт облаком до такой степени, что его невозможно проанализировать. Это позволит сэкономить трафик информации от спутников, значительно повысив их эффективность. А в перспективе анализ климатических данных при помощи ИИ можно будет плотно интегрировать с другими сферами деятельности. Не просто вести картографическое наблюдение, а осуществлять полную интеграцию с социальными, климатическими и политическими процессами, объединять данные с орбиты в единую картину процессов, которые происходят на нашей планете.

 — Развитие информационных технологий происходит быстро, но эволюционно. Большие шаги вперед делаются с определенной периодичностью, установленной, например, законом Мура. Но если так, то почему мы говорим, что есть возможность преодолеть барьер в этой области? Видимо, все-таки есть передовой край, граница, за которую можно «прорваться»?

 — Для понимания передового края в развитии ИИ нужно сначала определить, какие ограничения существуют для всей когорты этих технологий. Сегодня ИИ не способен добиться решения ряда задач без большого объема доступных ему данных. Нужны также вычислительные ресурсы, мощные компьютеры. И только потом, собственно, сами алгоритмы, которые позволяют оперировать данными. Китай, кстати, выбрал для себя именно такой приоритет в развитии ИИ: накопление как можно большего объема данных для повышения точности алгоритмов.

В то же время мы видим, что человеческий мозг эффективно решает задачи и без большого количества данных об объекте. Например, обучение ребенка ситуативным паттернам поведения работает совсем по другим механизмам. Ему достаточно посмотреть на игрушку один раз, чтобы потом всегда распознавать ее. Даже если из ящика торчит только часть игрушки, ребенок все равно поймет, что это именно она. Пока эти механизмы работы нашего мозга недостаточно поняты. Кейс с ребенком и игрушкой — тот случай, когда мы можем отметить безусловное преимущество мозга человека. Поясню на простом примере. Когда мы обучаем алгоритмы распознавать кошек, мы загружаем одинаковые изображения этого животного. У них схожий размер и освещение, никаких дополнительных объектов на этих изображениях нет. А в реальности алгоритм может столкнуться с изображениями совсем другого вида. Освещение, например, может быть ночным. А кошки могут смотреть в профиль. По нашим человеческим меркам они все еще будут похожими на кошек. Но по меркам алгоритма они могут иметь характеристики совсем других предметов. И вот мы подошли к пониманию барьера. Нужно создавать алгоритмы, которые способны работать не только с изображениями, идентичными тем, что они видели при обучении. Решение такой задачи может стать заметным технологическим прорывом.

Следующий вызов: человек обладает здравым смыслом. При этом, что такое здравый смысл точно — довольно сложно определить. Соответственно, нет понимания того, как определить задачу common sense и для искусственного интеллекта. Есть разные теории, определяющие устройство психики. Например, Даниэль Канеман, американский психолог, основоположник теории «поведенческой экономики», говорит, что есть два типа работы мозга. Первый тип — быстрый, полурефлекторный. Он решает задачи, не выводя их на уровень понимания. И есть, как выразился Канеман, «медленный мозг». Он все время как бы пытается оправдать решения, принятые быстрой частью интеллекта, анализирует их. Технологический вызов состоит в том, чтобы научить алгоритм, задавая ему минимум априорных знаний, решать такого рода задачу, свойственную «медленному мозгу».

 — Какие риски может нести в себе развитие искусственного интеллекта? Существует множество различных мнений на это счет. Какая, на ваш взгляд, угроза наиболее существенна?

 — Для начала давайте рассмотрим угрозы, которые существуют в массовом сознании. На мой взгляд, от антиутопических картин вроде «Матрицы» или «Терминатора» нужно перейти к более реальным угрозам. И главная из них — стремительный рост неравенства. Прежде всего, неравенства между странами. Сейчас этот фактор является гораздо более реальной угрозой, чем суперкомпьютер «Скайнет». Наличие или отсутствие у страны таких технологий, как искусственный интеллект, становится одним из принципиальных факторов усиления этого неравенства. Государства, которые смогут увеличить в разы эффективность своей экономики и обеспечивать рост ВВП, будут отрываться все дальше и дальше.

А если представить, что уровень технологий позволит продлить жизнь человека до 120 лет и обезопасить от преждевременной смерти? И что дальнейшее развитие технологий приведет нас к цифровому бессмертию? Представьте, что таким возможностями будут обладать лишь избранные страны или люди. Они будут стремиться к тому, чтобы доминировать в мире и политически.

 — Будет ли у человечества потребность в супер-вычислительных мощностях? Где они будут востребованы лет через 10–15, когда ИИ будет решать большинство задач лучше человека? Чем же тогда будет заниматься человек?

 — По некоторым оценкам, все компьютерные ресурсы планеты уже сравнялись с вычислительными ресурсами человечества. И те, и другие растут. Но ресурс машин растет быстрее.

По поводу потребностей в супер-вычислительных мощностях: приведу пример из физики. В Большом адронном коллайдере ЦЕРНа, с которым сотрудничает наша лаборатория, построили огромную вычислительную сеть, которая занимается симуляциями столкновения частиц в коллайдере. Симуляторы использовать гораздо дешевле, чем строить настоящие «железки».

Однако симулятор человеческого мозга пока не вмещается ни в какой суперкомпьютер. Сначала создать бы симулятор мозга простых млекопитающих или земноводных. Построение такой модели поможет нам сообщить что-то новое, что мы не можем померить в натурных экспериментах. Здесь интересен опыт конкурса Animal AI-Olympics. Его цель — создать алгоритмы, которые решат простые задачи лучше животных. Например, как пронести в дверной проем палку, которая шире этого проема. Собака понимает, что палку нужно просто развернуть боком. Сможет ли до этого самостоятельно додуматься искусственный интеллект?

Еще одно важное направление, где востребованы супер-мощности, — цифровые двойники. Например, они находят применение в авиационной отрасли: создается цифровой двойник детали самолета, испытывающей сильные перегрузки. Симулируются все процессы и факторы, которые оказывают воздействие на деталь в процессе эксплуатации авиалайнера. Данные, полученные от цифрового двойника, позволяют определить степень износа детали, понять, когда пришло время ее заменить. Такие эксперименты становятся все более востребованными в разных отраслях промышленности. А вычислительные ресурсы, которые необходимы для их проведения, огромны.

Отвечая на вторую часть вопроса о роли и месте человека, я бы рассматривал homo sapiens не как безликий «кирпичик социума», а как создателя, который имеет огромный потенциал для творчества. Люди не созданы для того, чтобы выполнять автоматизированную работу. Нужно смотреть на людей чуть шире — они являются источником загадок и вдохновения.


Место проведения: