Нестандартное приложение: ИИ из РФ впервые получил сертификат качества ISO
Искусственный интеллект из России впервые получил международный сертификат качества ISO. До сих пор его выдавали только компаниям из недружественных стран. Первым в РФ стал «Яндекс», рассказали «Известиям» на рынке ИИ. Этот сертификат показывает, что разработки искусственного интеллекта ведутся этично, данные пользователей не утекают, ведется мониторинг ошибок и аномалий в работе ИИ, объясняют эксперты. Они не исключают, что такая сертификация заинтересует и других участников рынка.
Что означает сертификат качества разработки ИИ
Российская компания впервые получила сертификат соответствия международному стандарту ISO, задающему требования к качеству разработки и безопасности искусственного интеллекта. Об этом «Известиям» рассказали в «Яндексе».
В представительстве TÜV AUSTRIA Standards & Compliance подтвердили эту информацию. Там отметили, что компания прошла независимый аудит и сертификацию по международному стандарту ISO/IEC 42001 «Информационные технологии — Искусственный интеллект — Система менеджмента».
ISO/IEC 42001 — это международный стандарт для систем менеджмента в организациях, которые разрабатывают или используют решения на основе искусственного интеллекта. Он оценивает не сами ИИ-продукты, а подход к их созданию и внедрению: насколько прозрачно и безопасно действует компания, насколько эффективны ее процессы. Стандарт, в частности, описывает то, как обеспечивается безопасность данных пользователей, как ведется мониторинг ошибок и аномалий в работе ИИ, уровень контроля качества и этичности ответов языковой модели, учитывают ли разработчики этические и социальные риски, связанные с развитием искусственного интеллекта и многое другое.
Опрошенные «Известиями» участники рынка отмечают, что по стандарту, введенному в 2023 году, до сих пор сертифицировались единичные компании и сервисы, и все они из недружественных стран. Среди них — Microsoft, Google Cloud, Amazon Web Services, Samsung SDS. В TÜV AUSTRIA Standards & Compliance сказали, что в мире выдано не больше 50 подобных международных сертификатов.
«Яндекс» начал выстраивать процессы, которые обеспечивали бы этичность и безопасность ИИ, задолго до публичного анонса генеративной нейросети YandexGPT, рассказала руководитель службы комплаенса и обучения информационной безопасности компании Анна Зинчук. Организация выступает за ответственное применение ИИ и готова делиться своим опытом с другими российскими компаниями, отметила она.
«Известия» направили запросы в Минцифры,«Сбер», активно развивающий технологии на базе искусственного интеллекта, а также в крупнейшие IT- и телеком-компании.
Что дает сертификация ИИ конечному пользователю
Международный стандарт устанавливает концепцию и четкие рамки для ответственного управления технологиями ИИ, рассказали «Известиям» в TÜV AUSTRIA Standards & Compliance. Сертификат подтверждает приверженность компании безопасности и надежности своих ИИ-решений. Он оформляется в случае положительных результатов независимого аудита, который должен подтвердить, что организация принимает все резонные меры управления, соответствующие лучшим мировым практикам, для того чтобы управлять рисками и возможностями, отметили там.
Отношение участников рынка к сертификации ИИ по ISO неоднозначно, некоторые считают ее лишь имиджевым элементом и не видят практической необходимости в ней.
— На данный момент мы не прошли сертификацию ISO/IEC 42001, но активно работаем над рядом внутренних инициатив, которые соответствуют ее ключевым аспектам. У нас есть специальная карта (AI implementation risk heat map), которая позволяет систематизировать и минимизировать риски на всех этапах внедрения ИИ, — сообщил «Известиям» директор по цифровым технологиям «Ростелекома» Роман Хазеев.
Впрочем, эксперты считают, что в перспективе интерес к сертификации проявят всё больше участников российского digital-рынка.
— Подобные сертификаты важны, например, с точки зрения инвесторов: они дают дополнительную гарантию того, что с ИИ не произойдет нечто такое, что обвалит капитализацию. Также соблюдение международных стандартов интересно возможным партнерам и заказчикам, в частности из дружественных стран. Наконец, немаловажно это и для простых пользователей, которые сейчас зачастую настороженно относятся к продуктам с ИИ, не будучи уверенными в их безопасности, — считает гендиректор TelecomDaily Денис Кусков.
В искусственном интеллекте информационная безопасность выражена не в привычном формате — она касается этичности его поведения, отметил гендиректор группы компаний «ST IT», эксперт рынка TechNet НТИ Антон Аверьянов.
— Большие языковые модели содержат много данных, на которых они были обучены. И если в них была какая-то неэтичная или незаконная информация, то пользователь может ее получить, — добавил он.
Директор по цифровизации Русской школы управления Татьяна Мосендз, в свою очередь, напомнила, что уже существуют и отечественные стандарты для ИИ. В январе 2025 года в России был введен национальный стандарт, текст которого идентичен ISO/IEC 42001. ГОСТ распространяется на все организации, разрабатывающие или использующие системы ИИ, и определяет схожие принципы управления, этики и ответственности.
— Появление сертификата подобного уровня мотивирует компании системно выстраивать технологические и производственные процессы, выявляет зоны риска и развития, — считает она.
Для конечных пользователей сертификация по ISO/IEC 42001 означает повышение доверия, безопасности и качества взаимодействия с ИИ-продуктами, считает ведущий специалист в области ИИ «Университета 2035» Ярослав Селиверстов.
— В первую очередь это подтверждает, что данные пользователей защищаются на уровне международных требований. Автоматический мониторинг ошибок и аномалий снижает риск получения вредоносных или некорректных ответов. Системы обратной связи позволяют оперативно исправлять поведенческие ошибки ИИ и учитывать реальные отзывы пользователей, принципы этики, закрепленные в компании, обеспечивают то, что ИИ не выдает оскорбительных, дискриминирующих или дезинформирующих ответов, — добавил он.
По его словам, это особенно важно при использовании ИИ в образовательных, медицинских, правовых и рекламных продуктах. Для семей с детьми это также снижает вероятность случайного доступа к неэтичному контенту, резюмировал эксперт.
