Эксперт оценила возможность передачи важных решений ИИ
Эксперты считают, что в будущем системы искусственного интеллекта смогут участвовать в принятии коллективных решений, затрагивающих интересы миллионов людей. Однако для этого потребуется сохранить за человеком ключевую роль в определении правил работы таких систем и контроле их решений, рассказала «Известиям» доцент и академический руководитель магистратуры «Искусственный интеллект» факультета компьютерных наук НИУ ВШЭ Елена Кантонистова.
По словам специалиста, ИИ способен эффективно работать в сферах, где существуют четкие критерии оценки и формализуемые цели. В таких случаях алгоритмы могут анализировать большие объемы данных и помогать выбирать оптимальные решения.
При этом исследователь подчеркивает, что важнейшим условием остается наличие заранее определенных правил и прозрачных алгоритмов принятия решений.
«Модели не должны придумывать правила в процессе работы. Они должны действовать в рамках четко определенных принципов, ограничений и приоритетов, заданных человеком. Это особенно важно в системах, которые затрагивают интересы большого числа людей», — отметила Кантонистова.
Как пояснила эксперт, полностью формализовать сложные социальные, политические или этические вопросы пока невозможно. Поэтому в подобных областях участие человека должно оставаться обязательным.
Одновременно с развитием технологий необходимо создавать механизмы контроля и регулирования использования ИИ. Как отмечает эксперт, сегодня одним из главных вопросов становится распределение ответственности за решения, принятые с участием алгоритмов.
«Необходимо заранее определить, кто отвечает за последствия решений, принятых с использованием искусственного интеллекта: разработчик модели, компания, внедрившая систему, или оператор, который ее использует. Без четко закрепленной юридической ответственности даже самые совершенные ИИ-системы будут оставаться источником повышенных рисков», — подчеркнула Кантонистова.
По словам эксперта, помимо правового регулирования важны и технические механизмы контроля. К ним относятся прозрачность работы алгоритмов, возможность объяснить логику принятия решений, аудит систем, логирование их действий, а также строгие ограничения на полномочия моделей.
Подробнее о том, как искусственный интеллект может изменить систему управления и какие риски сопровождают его внедрение, — в материале «Известий».
