Искусственный интеллект американского дрона решил ликвидировать оператора во время испытаний

Начальник отдела испытаний и операций ИИ ВВС США, полковник Такер Гамильтон заявил, что в ходе имитационных испытаний беспилотник, управляемый искусственным интеллектом (ИИ), атаковал оператора, чтобы тот не мешал его усилиям по выполнению своей задачи. Об этом в пятницу, 2 июня, сообщила газета The Guardian.

СМИ приводит описание Гамильтоном имитационного испытания, в котором дрону с искусственным интеллектом рекомендовалось уничтожить системы ПВО противника, и он атаковывал любого, кто вмешивался в этот приказ.

«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу», — приводятся в публикации слова Гамильтона.

Однако позднее в этот же день в распространенном Королевским авиационным обществом комментарии Гамильтон признался, что «оговорился» во время презентации. Гамильтон сказал, что история была «мысленным экспериментом», который исходил не от военных и не основывался на каких-либо реальных испытаниях.

Пустили в дело: как российские компании используют нейросети

Эксперты рассказали, сможет ли ИИ заменить айтишников и дизайнеров

Вместе с этим он настаивает на том, что хоть это и гипотетический пример, однако он иллюстрирует «реальные проблемы, связанные с возможностями искусственного интеллекта».

Ранее, 31 мая, стало известно, что чиновникам ЕС запретили делиться информацией с искусственным интеллектом. Чиновникам рекомендовали критически оценивать полученные ответы на наличие возможных ошибок и учитывать возможное нарушение авторских прав при воспроизведении полученной информации.

Кроме того, 16 мая, во Всемирной организации здравоохранения заявляли, что люди должны проявлять осторожность при использовании ИИ, в частности, чат-ботов на его базе, так как все риски при использовании такой системы не изучены. Уточняется, что ИИ в области медицины популярен не только среди обычных людей, но и среди медиков.

В марте бизнесмены Илон Маск и Стив Возняк высказали свою обеспокоенность быстрыми темпами развития нейросетей. Они подписались под открытым письмом с призывом приостановить обучение искусственного интеллекта. Это связано с масштабными исследованиями, которые показали, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять серьезные риски для человечества.