ИСП РАН может заняться сертификацией технологий искусственного интеллекта в РФ

Институт системного программирования им. В.П. Иванникова РАН (ИСП РАН) может стать ведущим участником проекта единой системы сертификационного аудита для русскоязычных моделей искусственного интеллекта (ИИ). Об этом сообщил источник «Известий» на IT-рынке.

Предполагается, что новая независимая система будет оценивать соответствие нейросетей техническим и нормативно-этическим стандартам. Аудит планируют проводить на всех этапах жизненного цикла продукта: от разработки до эксплуатации. В первую очередь требования коснутся разработчиков решений для государственного сектора и объектов критической информационной инфраструктуры (КИИ).

Особое внимание при сертификации уделят критериям доверенности и надежности искусственного интеллекта. Специалисты будут проверять модели на наличие уязвимостей, устойчивость к атакам и отсутствие манипулятивных алгоритмов. Также в фокусе внимания окажется работа ИИ в высокорисковых сферах, таких как медицина и финансы. Одной из ключевых задач станет оценка суверенности отечественных разработок.

По словам источника, выбор ИСП РАН в качестве ведущего участника проекта обусловлен технической экспертизой организации. На базе института уже функционирует Исследовательский центр доверенного искусственного интеллекта (ИЦДИИ), специалисты которого разрабатывают методики верификации ИИ-технологий. Создание полноценной платформы для сертификации станет логическим продолжением текущей деятельности центра.

Все важные новости — в канале «Известия» в мессенджере МАХ