Репортаж от Wedoany，SK Hynix совместно с TetraMem и Университетом Южной Калифорнии разработала SoC на мемристорах (memristor) с вычислениями в памяти для повышения энергоэффективности нейронных сетей в периферийных AI-устройствах. Данный чип ориентирован на лёгкие модели и использует встроенный RISC-V-процессор для планирования задач.
Мемристор (memristor) — это энергонезависимое устройство, сопротивление которого может изменяться и сохраняться в зависимости от протекавшего тока или приложенного напряжения, что позволяет одновременно реализовывать хранение и вычисления. В AI-чипах мемристоры часто используются для формирования перекрёстных массивов, непосредственно хранящих веса нейронных сетей, что подходит для низкопотребляющего вывода, периферийных вычислений и новых архитектур с объединёнными вычислениями и памятью. Вычисления в памяти выполняют часть операций непосредственно внутри массива памяти, избегая многократной пересылки данных между процессором и памятью, что снижает задержки и энергопотребление; такие решения часто применяются в матричном умножении нейронных сетей, свёрточном выводе и ускорителях периферийного AI.
Данный SoC интегрирует 10 нейропроцессорных блоков (NPU), теоретическая максимальная общая производительность составляет около 2,54 TOPS. Один из NPU специально выполняет задачи глубинной свёртки, а остальные девять отвечают за поточечную свёртку и плотные операции. Специализированный NPU для глубинной свёртки использует 8 зигзагообразных перекрёстных массивов размером 252×28 и сохраняет схемы ЦАП и АЦП. Девять стандартных NPU оснащены каждый одним перекрёстным массивом мемристоров размером 256×256, 256 8-битными ЦАП, 256 8-битными АЦП и сопутствующими управляющими схемами.
Поскольку эффективная точность программирования отдельного мемристора (memristor) лишь немного превышает 2 бита, в конструкции используется компенсационная техника с двойными массивами, повышающая эффективную точность весов примерно до 4 бит. Измеренная сквозная точность вывода составляет 80,36%, что соответствует 4-битной программной модели. По производительности пиковая пропускная способность одного NPU составляет 0,254 TOPS, энергоэффективность достигает 21,3 TOPS/Вт на частоте 100 МГц и 11,9 TOPS/Вт на частоте 400 МГц.
