Электронный каталог

Статья

Шатравин, В.
Применение вычислительных сред для ускорения рекуррентных нейронных сетей / Шатравин В., Шашев Д.В. // Цифровая экономика (электронная версия). – 2023. – №1. – С.27-35. - 613366. – На рус. яз.

Один из основных факторов, ограничивающих применение современных алгоритмов машинного обучения в технических системах, - несовершенство используемого аппаратного обеспечения. Проблема, особенно остро стоящая для крупных нейронных сетей в маломощных и автономных системах, имеющих жесткие ограничения к массе и энергопотреблению. Большинство предлагаемых на сегодняшний день аппаратных ускорителей нейронных сетей либо имеют высокое энергопотребление и массу, либо поддерживают лишь очень ограниченное множество алгоритмов. Решение этой проблемы - в применении перестраиваемых аппаратных ускорителей, поддерживающих динамическую настройку на реализацию требуемых алгоритмов. Один из способов построения таких ускорителей - решения на основе концепции перестраиваемых вычислительных сред (ПВС). Реализация рекуррентных архитектур нейронных сетей, представленная на примере сети Хопфилда и сети долгой краткосрочной памяти (LSTM) на ускорителях, построенных на основе ПВС. Формулы оценки быстродействия разработанных моделей на основе результатов симуляций на FPGA. Полученные оценки, показавшие высокое быстродействие предложенных моделей в сравнении с существующими аналогами при значительно большей занимаемой на полупроводнике площади. Согласно оценкам, расчёт одного шага LSTM сети с 25 скрытыми нейронами занимает 223 нс. Вывод о большом потенциале применения перестраиваемых сред для реализации рекуррентных сетей и необходимости дальнейших оптимизаций предложенных моделей.


Ключевые слова = ЭНЕРГОПОТРЕБЛЕНИЕ
Ключевые слова = ЭВМ
Ключевые слова = ИНФОРМАЦИОННО-КОММУНИКАЦИОННЫЕ ТЕХНОЛОГИИ. КОМПЬЮТЕРНЫЙ МИР
Ключевые слова = РОССИЯ
Ключевые слова = ФАКТОРНЫЙ АНАЛИЗ
Ключевые слова = ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Ключевые слова = АЛГОРИТМ
Ключевые слова = ЦИФРОВЫЕ ТЕХНОЛОГИИ
Ключевые слова = ЭЛЕКТРОНИКА
Ключевые слова = КОМПЬЮТЕРНАЯ СИСТЕМА
Ключевые слова = ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА
Ключевые слова = АВТОНОМНОСТЬ
Ключевые слова = МАТЕРИАЛОВЕДЕНИЕ
Ключевые слова = НЕЙРОННАЯ СЕТЬ
Ключевые слова = МАШИННОЕ ОБУЧЕНИЕ
Ключевые слова = АВТОМАТИЗАЦИЯ
Ключевые слова = ИНФОРМАЦИОННАЯ ТЕХНОЛОГИЯ
Ключевые слова = МАТЕРИАЛ
Ключевые слова = ПОЛУПРОВОДНИК
Ключевые слова = АППАРАТНЫЕ СРЕДСТВА
Ключевые слова = Статьи из периодических изданий. 2024 год.