Media Review

Будущее беспилотников: мифы и этический выбор

26.12.2019
Источник: VC.ru
Проект: Технологические конкурсы НТИ

Заезды беспилотных автомобилей. Технологический конкурс «Зимний город»
Артем Ганжа, Платформа НТИ

Миф 1. Tesla — это беспилотник

Проблема многих современных разработок — особенно таких раскрученных, как автомобили Tesla, — состоит в том, что отличить хайп от реальности зачастую способны только специалисты. Попросите неспециалиста назвать компанию-производителя беспилотников, и вам скорее всего ответят: «Tesla». Но, строго говоря, автомобили Tesla совсем не беспилотники, поскольку соответствуют второму уровню автоматизации. Сегодня в мире нет ни одного настоящего беспилотника — автомобиля пятого уровня автоматизации, которому для вождения не нужен человек. Совсем.

Платформа НТИ

Миф 2. За рулем беспилотника не надо сидеть человеку

Момент, когда человеку не надо будет находиться в салоне автомобиля с высоким уровнем автоматизации, в том числе грузового, наступит нескоро. К примеру, даже в кабине поезда метро, который с технической точки зрения довольно давно считается беспилотными, все равно остается человек, его задача — следить за безопасностью и контролировать процесс. Одна из компаний — мировых лидеров в сфере беспилотников опубликовала релиз, согласно которому в среднем их операторы во время движения по городу вмешиваются в работу беспилотника один раз в три минуты. Это очень много. И нет ни одного примера, когда оператор не вмешивается в работу ИИ автомобиля хотя бы на 1%. Поэтому без оператора массово беспилотники в ближайшее десятилетие не поедут.

Миф 3. В России беспилотниками занимается только Яндекс

В нашей стране есть как минимум пять компаний, которые на серьезном уровне занимаются беспилотниками и технологиями для автономного транспорта. Они работают в разных сегментах и практически не конкурируют друг с другом. Это легковые и грузовые беспилотники, компьютерное зрение, сельскохозяйственная и тяжелая техника. Самые крупные игроки — Яндекс и КамАЗ. В последнее время активно развивается компания StarLine (Санкт-Петербург), именно ее беспилотник — единственный, добравшийся до финиша на технологическом конкурсе «Зимний город». Машина преодолела 50 км в условиях русской зимы менее чем за три часа. Помимо компании из Санкт-Петербурга, в конкурсе участвовали еще четыре команды: две — из Москвы (МАДИ и BaseTracK) и по одной — из Таганрога (Авто-РТК) и Нижнего Новгорода (НГТУ). Все они претендовали на пятый уровень автоматизации своих беспилотников. Сегодня на рынке беспилотников стартап пока еще может стать если не единорогом, то точно компанией с миллиардной капитализацией, если сумеет найти свою нишу.

Миф 4. Беспилотники не заменят обычные автомобили

Водители смогут выбирать между полностью автономными и обычными машинами. Вполне вероятно, что с развитием инфраструктуры и массовым внедрением беспилотников водителям запретят выезжать на дороги общего пользования. Причина — люди будут ставить под угрозу безопасность дорожного движения. В итоге с обычными автомобилями произойдет то же, что в начале XX века произошло с лошадьми. Вождение превратится в хобби и будет разрешено только на автодромах. Автолюбителям придется выезжать на специально отведенные для этого площадки, как сегодня любителям лошадей — на ипподромы.

Миф 5. Вот-вот создадут крутую технологию, и мы все поедем на беспилотниках

Кажется, совсем скоро человечество создаст ту самую технологию, которая навсегда изменит нашу жизнь. Беспилотники массово выйдут на дороги, таксисты станут никому не нужны, аварий на дорогах не будет, и пробок тоже. Это весьма распространенные представления, родившиеся во многом благодаря компаниям из Кремниевой долины. Но не все так просто. Придется преодолеть технологические барьеры: беспилотный автомобиль — это сложная инфраструктурная история. Чтобы он полноценно поехал, необходимо, например, модернизировать дорожную сеть, чтобы беспилотные автомобили могли передвигаться в полностью автономном режиме в районах городов с более интенсивным трафиком, поэтапно приближаясь к решению самой сложной задачи — работе в полностью автономном режиме в час пик в крупных мегаполисах. Предстоит также решить правовые вопросы, вопросы ответственности и собственности. И, наконец, неразрешимые на сегодняшний день этические вопросы.

Новая этика, или человек vs беспилотник

Развитие технологий ставит человечество перед пока что неразрешимыми этическими вопросами и правовыми вопросами.

Кто понесет ответственность в ДТП с беспилотником: компания-производитель, компания-разработчик ПО или владелец?

Если же ответственность будет распределяться между ними, как установить правильную пропорцию?

Существующие нормы предполагают гражданско-правовую ответственность владельца автомобиля, поскольку автомобиль является источником повышенной опасности, если только не удастся доказать умысел (по сути, прямую вину) другого лица в наступлении ДТП, рассказывает советник практики интеллектуальной собственности и информационных технологий в «Томашевская и партнеры» Роман Янковский.

Роман Янковский, советник практики интеллектуальной собственности и информационных технологий в «Томашевская и партнёры»:

«Впоследствии водитель сможет предъявить иск к производителю, однако тот будет отвечать только в силу очевидных дефектов. Владелец же софта не отвечает практически никак, ограждая себя отказом от ответственности в лицензионном договоре. Эти правила применяются и к частично автономным, и к полностью автономным транспортным средствам».

В качестве одного из вариантов решения проблемы предлагается страхование ответственности беспилотного транспорта, или введение посредника в отношения между владельцем и беспилотным автомобилем: например, создание специального фонда, пополняемого с продаж беспилотников. Есть также варианты установки в машины специальных устройств для фиксации действий водителя и определения пропорций распределения выплат в рамках возмещения ущерба.

Уголовно-правовая ответственность действует несколько иначе.

«Здесь в случае причинения вреда полностью автономным беспилотником его владелец, очевидно, не будет виновен в произошедшем. В таком случае вина будет определяться в соответствии с правилами разработки и эксплуатации беспилотников: если эти правила не были нарушены, смерть будет признана несчастным случаем и ответственность не наступит, если были виновным будет признан нарушитель. Весь вопрос в том, как будут сформулированы правила», — отметил Янковский.

Компании также могут участвовать в возмещении ущерба, даже если формально их беспилотники не виновны в ДТП, считает советник руководителя рабочей группы рынка НТИ Автонет Евгений Белянко.

Евгений Белянко, советник руководителя рабочей группы рынка НТИ Автонет:

«В случае, если пешеход будет переходить дорогу в неположенном месте, а транспортное средство с высокой степенью автоматизации не успеет вовремя затормозить, даже соблюдая скоростной режим, тем самым причинив вред пешеходу, то ответственность будет нести виновник ДТП. Однако, учитывая моральные и этические нормы вопроса, компания-разработчик вправе выделить компенсацию и пойти на определенные уступки, даже если она ни в чем не виновата. Это лишь улучшит ее имидж в обществе».

В случае же, если транспортное средство является частично автономным, то на водителя уже будет распространяться вина в наступивших последствиях. Например, если частично автономный автомобиль собьет пешехода, переходившего дорогу по правилам.

«Теоретически при очевидной программной ошибке возможно привлечь к ответственности разработчиков, но пока таких прецедентов не было», — пояснил Янковский.

Муки выбора. Что делать, если жертв не избежать?

Какое решение будет правильным, если в аварии погибнут люди? Кого должен спасать беспилотник? Водителя или пешехода? Или любой ценой минимизировать количество жертв? От того, как эти вопросы будут решаться на уровне государств, компаний-автопроизводителей и от реакции общества на неизбежные аварии, зависит, насколько быстро и массово беспилотники появятся на дорогах общего пользования.

«Законодатель должен обязать производителей «программировать» в беспилотном транспорте этические законы, как решать моральные дилеммы: сбить одного человека, но нарушить правила дорожного движения или сбить 5 человек, но ехать по правилам и заданному маршруту; в случае, если избежать столкновения невозможно: сбить взрослого человека или ребенка», — считает Елена Ирискина.

Елена Ирискина, директор по правовым вопросам компании «Элекард Девайсез», эксперт по вопросами искусственного интеллекта и права (Томский государственный университет):

«Полагаем, что в уголовном кодексе появится новый состав преступления «Причинение смерти вследствие использования робота», поскольку беспилотный автомобиль является частным случаем автономных роботов».

Перед дилеммой встают и автопроизводители, которые помимо этических вопросов должны решать конкретные бизнес-задачи. Купите ли вы беспилотный автомобиль, который в случае чего пожертвует вами и спасет пешехода? Пойдете ли вы через дорогу с беспилотниками, которые в случае опасности будут спасать не вас?

Сергей Назаренко, главный конструктор инновационных автомобилей, КамАЗ:

«Готово ли общество к возможным авариям с человеческими жертвами по вине роботов? Очень спорный вопрос. Люди будут гибнуть и под колесами беспилотных автомобилей — как решить проблему психологической и социальной готовности, еще никто в мире не знает».

Некоторые компании «зашивают» в мозги автомобиля безусловное сохранение жизни водителю. Mercedes-Benz программирует свои беспилотные автомобили таким образом, чтобы они в любой ситуации защищали бы тех, кто технически находится внутри автомобиля, а не снаружи. Жизнь пассажира важнее, даже если на кону стоят несколько жизней других участников движения.

Пока найти этически неопровержимый ответ на вопросы, связанные с ответственностью, не удалось никому. Поэтому в практической плоскости они решаются на уровне автопроизводителей. Каждым — по-своему.

Когда же беспилотники массово выйдут на дорогу? Мнения экспертов

Сергей Назаренко, главный конструктор инновационных автомобилей, КамАЗ:

«Думаю, что этот порог будет преодолен к 2027-2030 году. Технически автопроизводители будут готовы к массовому выпуску беспилотных автомобилей. Технически, конструктивно, с точки зрения алгоритмов, распознавания, дублирования систем — все эти вопросы будут производителями решены. Будут ли к этому моменту решены все остальные вопросы? Готово ли будет общество к внедрению беспилотных автомобилей — неизвестно».

Борис Иванов, руководитель проекта «Беспилотный автомобиль StarLine»:

«Через 5–7 лет, если мы говорим о дорогах общего пользования. Сегодня беспилотники способны уверенно работать в достаточно хорошо предсказуемых условиях, которыми не являются мегаполисы. Требуется доработка алгоритмов предсказания поведения других участников дорожного движения, создание цифровых моделей дорог, многостороннее и глубокое тестирование».

Артем Фокин, директор по развитию бизнеса беспилотных автомобилей, Яндекс:

«По мере развития технологии беспилотные автомобили смогут передвигаться в полностью автономном режиме в районах городов с более интенсивным трафиком, поэтапно приближаясь к решению самой сложной задачи — работе в полностью автономном режиме в час пик в крупных мегаполисах. По нашим расчетам, эта задача будет решена в течение ближайших 3–5 лет. Внедрение беспилотных технологий в повседневную жизнь — постепенный процесс, который требует развития не только технологий, но и регулирования».

Юрий Молодых, директор по развитию технологических конкурсов Up Great РВК:

«Пройдет очень долгий период, прежде чем беспилотники будут внедрены либо в ограниченных зонах, либо с дополнительным водителем. Постепенно это будет происходить. Думаю, что полный цикл внедрения, когда у нас есть автомобиль, который проходит все испытания на полигоне, и момент, когда по улице едет сто автомобилей и за рулем только одного из них сидит человек, — это десятки лет».


Место проведения: