Ученые рассказали об уязвимости ИИ при поиске внеземной жизни
Искусственный интеллект (ИИ) подвержен серьезным ошибкам и ложным выводам при идентификации признаков внеземной жизни. Исследователи из Университета штата Мичиган экспериментально доказали, что современные алгоритмы машинного обучения можно обмануть в 100% случаев. Об этом 7 июля сообщил журнал Popular Science.
Компьютерный инженер Анкит Гупта и его коллега Кристоф Адами провели эксперимент с использованием программы Avida, которая симулирует эволюционные процессы. Ученые обучили нейросеть на десятках тысяч таких цифровых организмов, чтобы она могла отличать самовоспроизводящиеся цепочки от остальных.
Несмотря на высокую точность на этапе обучения, алгоритм перестал справляться, когда столкнулся с новыми примерами. Всего 150 незначительных изменений в программном коде организмов привели к тому, что ИИ начал массово принимать ложные сигналы за признаки жизни.
Кристоф Адами
У ИИ есть ахиллесова пята. Он может увидеть закономерность и совершенно неверно ее классифицировать. Это очень серьезная уязвимость.
По мнению авторов исследования, проблема выходит за рамки космических миссий. Ложные срабатывания могут затронуть системы распознавания лиц, беспилотные автомобили и медицинские сканеры. Ученые подчеркивают, что результаты работы не являются приговором для технологий, но напоминают о необходимости контроля со стороны человека.
В связи с полученными результатами эксперимента Адами указал на необходимость независимого способа проверки работы алгоритма. При этом он подчеркнул, что в этом цикле обязательно должен участвовать человек.
Агентство Bloomberg 1 февраля сообщило о планах компании SpaceX запустить 1 млн спутников для обучения ИИ. Согласно публикации, в запросе изложен вопрос о размещении в космосе центров обработки данных для выполнения сложных вычислительных задач в области ИИ.
