Эксперт рассказал об угрозах при использовании ИИ и способах защиты от них
В настоящее время 70% российских компаний внедрили ИИ-решения. Однако стремительное развитие нейросети несет не только преимущества, но и серьезные риски. О том, какие угрозы ИИ представляет и как от них защититься, рассказал 29 июня в беседе с «Известиями» заместитель генерального директора IVA Technologies Максим Смирнов.
«Когда нейросети только начали развиваться, общество было охвачено страхами и предостережениями. Множество людей полагало, что искусственный интеллект станет угрозой для рабочих мест, вытесняя людей из различных профессий. Этот страх был оправдан: автоматизация и новые технологии действительно способны изменять рынок труда», — сообщил эксперт.
Он уточнил, что среди основных рисков выделяются утечки персональных данных и мошенничество с дипфейками. В России за первые два месяца текущего года произошло 19 крупных утечек данных, затронувших 24 млн человек. Чтобы защитить свои данные, рекомендуется избегать их размещения в открытых источниках и использовать шифрование. Для корпоративного сегмента предпочтительнее устанавливать ИИ в закрытом контуре компании.
Смирнов обратил внимание на то, что мошенничество с дипфейками также становится серьезной проблемой: эксперты прогнозируют, что к 2025 году каждый второй россиянин столкнется с подобными атаками. В настоящее время каждая пятая российская компания пострадала от использования поддельных аудио- и видеозаписей. Чтобы избежать обмана, важно перепроверять источники информации и минимизировать размещение личных данных в публичном доступе.
Кроме того, современные нейросетевые модели не имеют автономного сознания и действуют на основе обучающих данных, что может приводить к предвзятости. Например, алгоритм Amazon для подбора кадров дискриминировал женщин из-за доминирования мужчин в обучающих данных.
По словам эксперта, для снижения таких проблем необходимо несколько шагов. Во-первых, компании должны быть прозрачными и публиковать информацию о принципах работы ИИ. Во-вторых, данные должны тщательно проверяться на наличие предвзятости. Третьим важным аспектом является государственное регулирование ИИ.
«Для повышения доверия к ИИ-технологиям критически важно создавать и использовать отечественные решения. Зависимость от иностранных платформ в ключевых отраслях может обернуться стратегическим риском», — заключил собеседник.
25 июня сообщалось, что ИИ стремительно входит в профессиональную жизнь россиян: почти половина опрошенных (48%) уже применяют ИИ-инструменты в работе. Большинство граждан (81%) видят в искусственном интеллекте новые карьерные возможности. Чаще всего технологии применяют для подготовки текстов. Наиболее востребован ИИ в дизайне, маркетинге и IT.
