Государственный фонд фондов
Институт развития Российской Федерации

Media Review

Машинам готовят ГОСТ

Россия подключилась к созданию международных стандартов в области искусственного интеллекта (ИИ). При участии отечественных специалистов на первом этапе будут разработаны проекты трех стандартов. Договоренности об этом были достигнуты на заседании международного подкомитета по стандартизации в Калифорнии.

Стандарты повысят доверие к системам, использующим искусственный разум. Фото: depositphotos.com

Важно, что наша страна стала участником процесса на самом начальном этапе.

«Это необходимо для того, чтобы в международных документах нормативно-технического регулирования были учтены позиция России и интересы наших разработчиков. А нам затем было бы проще внедрить международные стандарты», — пояснил возглавлявший российскую делегацию председатель национального технического комитета по стандартизации №194 «Киберфизические системы», руководитель программ РВК Никита Уткин.

Необходимость разработки стандартов специалисты объясняют стремительным развитием технологии ИИ и расширением ее применения.

«Большое значение приобретает вопрос доверия к системам ИИ, основанного на подтверждении гарантированных функциональных возможностей таких систем и их безопасности для окружающих», — отмечает председатель подкомитета по стандартизации ПК142 «Искусственный интеллект» Сергей Гарбук.

В качестве примера он приводит медицинскую диагностику, где внедрение ИИ имеет хорошие перспективы.

Пользователь должен четко понимать, квалификации какого врача соответствуют диагнозы, которые формируются на основе ИИ: выпускника медвуза или профессора мирового уровня? Без такого подтверждения качества врач не сможет полностью доверять системе. Ему придется перепроверять все результаты автоматизированной диагностики вручную. Это будет сдерживать внедрение интеллектуальных систем в области здравоохранения и не позволит полностью задействовать их ресурсы в диагностике заболеваний.

Другой пример — беспилотные автомобили, например, такси, предназначенные для использования в городских условиях среди других участников дорожного движения, включая автомобили, управляемые людьми, и пешеходов. Подобные беспилотные автомобили могут быть допущены к эксплуатации только после того, как будет подтверждено, что они абсолютно безопасны, говорит Гарбук. Как и в примере с медициной, пользователь беспилотного автомобиля должен быть уверен, что во всех вероятных дорожных ситуациях беспилотник обеспечит уровень безопасности, по крайней мере не хуже, чем опытный водитель с многолетним стажем вождения. До тех пор, пока механизм подтверждения такого соответствия функциональных возможностей не будет создан, беспилотные автомобили будут применяться исключительно для перевозки грузов (не пассажиров) и на безлюдных трассах.

Есть и другие примеры особо ответственного применения искусственного интеллекта, например, беспилотные пассажирские самолеты, железнодорожный транспорт, строительная техника, системы управления технологическими процессами на опасных производствах, некорректная работа которых может нанести вред жизни или здоровью людей, привести к серьезному экономическому или экологическому ущербу.

Стандарты — документы, в которых будут зафиксированы единые для всех правила оценки функциональных возможностей и проверки безопасности систем ИИ. После появления стандартов обеспечение доверия к системам ИИ станет возможным на основе их сертификации, уточняет Гарбук.

Никита Уткин, в свою очередь, добавляет, что в связи с активным развитием и внедрением технологии на рынке, как у заказчиков, так и у разработчиков появляется необходимость общаться на одном языке и использовать единые подходы. Именно поэтому требуются инженерные и технологические правила игры, то есть правила и требования, которые позволят корректно внедрять технологию в жизнь и обеспечить ее удобство и применимость по многим факторам.

С появлением стандартов, будут, во-первых, исключены типовые ошибки и недопонимание между заказчиками и разработчиками. Во-вторых, появится возможность проводить корректные испытания различных систем, использующих ИИ. В-третьих, повысится доверие к системам с ИИ и решениям, которые системы будут принимать. В перспективе именно на основе этих стандартов будут создаваться целые экосистемы решений, продуктов и сервисов, использующих ИИ, резюмирует Уткин.

На системной основе работа по созданию стандартов ИИ началась в 2017 году. Появление первых, основополагающих документов ожидается к концу 2019 года. В этих стандартах будет зафиксировано понятие «искусственный интеллект», до сих пор, к слову сказать, не формализованное, поясняет Сергей Гарбук.

Потом начнется разработка прикладных стандартов, устанавливающих требования к системам ИИ при решении конкретных задач, а также технологических стандартов, в которых будет аккумулироваться универсальный технологический опыт создания систем ИИ. Например, форматы представления и методы сжатия данных в интеллектуальных системах, способы представления искусственных нейронных сетей, говорит Гарбук.

Наша страна принимает активное участие в этих работах. В частности, Росстандартом начата разработка нормативных документов, устанавливающих требования к системам распознавания лиц, голоса, дешифрирования аэрокосмических изображений, а также к некоторым другим системам интеллектуальной обработки данных, в числе которых средства автоматизированного выявления водителей с агрессивной манерой вождения. Появление первых редакций этих стандартов ожидается к концу 2018 года.


Место проведения: