Новая память для ИИ позволит создать непрерывно обучающиеся нейросети
Ученые Московского физико-технического института представили инновационную концепцию для решения одной из главных проблем искусственного интеллекта — феномена так называемой «деменции» нейросетей, при которой системы ИИ теряют ранее полученные знания при освоении новых задач.
Специалисты разработали уникальную архитектуру памяти, взяв за основу принципы функционирования человеческого мозга. Сейчас технология реализована в виде цифровой модели, а параллельно ведется работа над нейроморфным процессором, который позволят физически внедрить эти идеи в аппаратные решения.
«Возможно, мы нашли ответ на одну из главных загадок мозга: как он умудряется учиться новому, не стирая при этом старые «файлы». Всё дело в постоянной перестройке нейронных связей — ревайринге. Именно он превращает хрупкую кратковременную память в прочные долговременные воспоминания», — заявил ведущий научный сотрудник лаборатории нейробиоморфных технологий МФТИ Сергей Лобов.
По словам специалистов, как биологическая, так и искусственная нейросети формируют во время обучения своеобразные «следы памяти», которые напоминают тропинки в лесу. Если траектории изменяются слишком часто, старые маршруты постепенно исчезают, и соответствующие знания стираются. В случае искусственных нейросетей этот процесс называют «катастрофическим забыванием»: при освоении новой информации предыдущие данные стираются из памяти алгоритма из-за постоянной коррекции параметров сети.
Чтобы преодолеть подобный эффект, исследователи МФТИ адаптировали механизм ревайринга — перестройки нейронных связей — именно так, как он реализован у человека. Такой подход позволяет вместе с традиционными методами обучения обеспечивать нейросеть способностью одновременно сохранять как старую, так и новую информацию. Это минимизирует риски катастрофического забывания и обеспечивает возможность непрерывного обучения искусственного интеллекта на протяжение всего его существования.
Подробнее читайте в эксклюзивном материале «Известий»:
Памятная data: ученые нашли способ побороть «деменцию» у ИИ