Ученые предупредили о риске гибели человечества из-за развития ИИ
Появление и развитие искусственного интеллекта (ИИ) может грозить человечеству катастрофой. На это указал британский ученый Стюарт Рассел в комментарии газете The Times, опубликованном 13 мая.
По словам ученого, бесконтрольные разработки в области ИИ привели к такому прогрессу, которого исследователи даже не ожидали. При этом человечество, по мнению Рассела, допустило ошибку в самом начале разработок, четко не решив, для чего именно нужен этот интеллект.
Ученый указал также на вероятность того, что в будущем ИИ может начать оказывать сопротивление попыткам человека им управлять. Поэтому, по мнению Рассела, если контролировать процесс развития ИИ не получается, то разработки в этой области необходимо прекратить.
«Ставки уже не могут быть выше. Если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании», — подчеркнул ученый.
Он предположил, что в ближайшие десять лет появится универсальный ИИ, которому под силу будет решить любую подвластную человеку задачу, при этом может создаться реальная угроза самому существованию человечества. Так, к примеру, при решении проблем, связанных с изменением климата, ИИ вполне может счесть, что наилучшим выходом будет избавление планеты от людей.
Об опасности ИИ специалисты в разных сферах высказывались уже неоднократно.
Ранее, в апреле, генеральный директор Telecom Daily Денис Кусков в разговоре с «Известиями» отметил, что нейросети могут стать опасными для человечества, на данный момент никто по-настоящему не знает, на что они способны.
В том же месяце глава Google Сундар Пичаи отметил, что внедрение ИИ в повседневную жизнь в разы увеличит масштабы дезинформации. По его мнению, быстрое развитие ИИ спровоцирует рост фейковой информации. Он добавил, что обществу необходимо адаптироваться к технологиям.
В конце марта американский банк Goldman Sachs выпустил отчет, согласно которому около 300 млн человек по всему миру может остаться без работы из-за внедрения технологий искусственного интеллекта.
В том же месяце бизнесмены Илон Маск и Стив Возняк высказали свою обеспокоенность быстрыми темпами развития нейросетей. Они подписались под открытым письмом с призывом приостановить обучение искусственного интеллекта (ИИ). Это связано с масштабными исследованиями, которые показали, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять серьезные риски для человечества.
