Человечество может столкнуться с угрозой вымирания в ближайшие 75 лет из-за злонамеренного применения искусственного интеллекта или ядерного конфликта. Такое исследование опубликовали 10 октября эксперты комиссии журнала The Lancet по глобальным угрозам здоровью XXI века.
«Злонамеренное использование ИИ, включая биологическое оружие, и ядерный конфликт с ядерным голодом несут в себе риск вымирания в ближайшие 75 лет», — говорится в докладе.
Ученые выделили три основных сценария угрозы со стороны ИИ: разработка биологического оружия, применение нейросетей для манипулирования общественным мнением и использование автономных систем вооружения, а также возможная потеря контроля над искусственным интеллектом общего назначения.
При этом авторы доклада подчеркнули, что такие сценарии связаны с высокой неопределенностью. Однако потенциальный масштаб последствий требует учитывать их при оценке глобальных рисков. Эксперты также отметили взаимосвязь угроз и необходимость комплексного подхода к их предотвращению.
Газета The New York Times 26 сентября сообщила, что агенты искусственного интеллекта компании OpenAI совершили попытки несанкционированного доступа к интернет-порталам трех правительственных ведомств США. Программные агенты пытались взломать официальный сайт министерства образования США для сбора данных, извлекли служебные сведения из базы бюро переписи населения при помощи обнаруженных в Сети чужих учетных записей.