В РФ запретят с помощью ИИ манипулировать поведением человека

Разработчики систем искусственного интеллекта (ИИ) будут обязаны сообщать их пользователям о недопустимости использования нейросетей для манипулирования поведением и эксплуатации уязвимостей человека. Это следует из законопроекта об искусственном интеллекте, который разработан Минцифры и сейчас проходит межведомственное согласование. «Известия» ознакомились с документом.

Цифра явки: созданные ИИ изображения людей предлагают запретить в предвыборной агитации

Как подобные ограничения могут повлиять на работу политических партий

Под эксплуатацией уязвимостей в законе понимается использования тех или иных состояний человека (возрастных, социально-экономических, психологических и других) для «целенаправленного воздействия на поведение, принятия решений или несанкционированного доступа к информации».

«Запрет распространяется прежде всего на операторов и разработчиков систем ИИ — то есть, на организации и компании, которые внедряют такие системы в сервисы, приложения или продукты. По сути, «объяснить» это роботу можно так: система ИИ не должна проектироваться или использоваться таким образом, чтобы сознательно подталкивать человека к решениям, которые он бы не принял без скрытого давления или манипуляции», — полагает ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов.

По словам эксперта, ИИ способен влиять на поведение человека через анализ данных о нем и персонализацию контента — например, подбирая сообщения, рекомендации или интерфейсы, которые повышают вероятность нужного действия. Такие технологии могут использоваться в рекламе, политических коммуникациях, рекомендательных системах или чат-ботах для усиления доверия, срочности или эмоциональной реакции, утверждает Селиверстов.

Подробнее читайте в эксклюзивном материале «Известий»:

Говорит ИИ приказывает: онлайн-сервисам запретит манипулировать людьми с помощью нейросетей