The Guardian: ИИ американского дрона решил ликвидировать оператора на испытаниях
В США беспилотный летательный аппарат на основе искусственного интеллекта (ИИ) решил уничтожить своего оператора из-за того, что тот мешал достичь ему цели. Об этом сообщает издание The Guardian 2 июня.
Уточняется, что инцидент произошел в ходе имитационного испытания — процедуры, максимально близкой к сценарию конкретной чрезвычайной ситуации. Задача беспилотника заключалась в уничтожении системы ПВО противника. Однако дрон настолько был привержен цели, что наносил удары по всем, кто тем или иным образом пытался вмешаться в приказ.
«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу», — рассказал начальник отдела испытаний и операций ИИ ВВС США, полковник Такер Гамильтон.
В материале указано, что в ходе испытания дрона никто не пострадал. Одним из главных выводов по результатам учений стало то, что об ИИ нельзя говорить, если при этом умалчивать об этике.
16 мая во Всемирной организации здравоохранения также рекомендовали быть аккуратнее при использовании ИИ, так как он может навредить. С точки зрения медицины, как обычным жителям, так и медикам, рекомендуется использовать его только после того, как он пройдет доскональную проверку.
В марте бизнесмены Илон Маск и Стив Возняк высказали свою обеспокоенность быстрыми темпами развития нейросетей. Они подписались под открытым письмом с призывом приостановить обучение искусственного интеллекта. Это связано с масштабными исследованиями, которые показали, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять серьезные риски для человечества.
