Репортаж от Wedoany，Literal Labs представила альтернативный метод логического инференса и обнаружения аномалий для периферийного ИИ, который может работать на стандартных микроконтроллерах без необходимости в специализированном оборудовании для ускорения ИИ, таком как GPU или NPU. Компания заявляет, что по сравнению с традиционными методами этот подход позволяет увеличить скорость инференса до 50 раз, одновременно снижая энергопотребление примерно в 50 раз.
В основе этой технологии лежат исследования советского математика Михаила Цетлина, проведённые в 1960-х годах. Это направление было почти забыто после того, как нейронные сети стали мейнстримом в ИИ, но было возрождено благодаря работе профессора Уле-Кристоффера Гранмо (Ole-Christoffer Granmo) из Университета Агдера (University of Agder) и профессора Алекса Яковлева (Alex Yakovlev) из Университета Ньюкасла (Newcastle University), которые развили концепцию автоматов Цетлина (Tsetlin Machines), впервые представленную в 2019 году. Компания Literal Labs была основана как спин-офф Университета Ньюкасла в 2023 году.
Традиционные нейронные сети полагаются на большое количество числовых весов и матричных умножений, что предъявляет высокие требования к оборудованию. Логические сети Literal Labs (LBN) построены на логических отношениях и правилах, не зависят от большого объёма взвешенных числовых операций и, следовательно, более эффективны с вычислительной точки зрения. Платформа ModelMill, предлагаемая компанией, автоматизирует процесс обучения моделей: пользователю достаточно предоставить данные, а платформа подготавливает, классифицирует и обучает сотни моделей-кандидатов, в итоге выдавая готовый для развёртывания код на C/C++. Это не требует проприетарной среды выполнения или изменений в оборудовании и позволяет напрямую интегрироваться в существующие платформы на базе микроконтроллеров, CPU или серверов.
Производительность этой технологии была подтверждена в бенчмарке MLPerf Inference: Tiny. Этот тест, разработанный MLCommons, является одним из отраслевых стандартных фреймворков для оценки производительности инференса ИИ на устройствах с ограниченными ресурсами. В задаче обнаружения аномалий на наборе данных ToyADMOS метод Literal Labs на платформе микроконтроллера на базе Cortex-M7 продемонстрировал задержку инференса примерно в 54 раза ниже и энергопотребление примерно в 52 раза ниже по сравнению с лучшими опубликованными результатами, при значительно меньших требованиях к памяти и точности, всё ещё превышающей базовые требования. Компания отмечает, что такие результаты обычно достижимы только на более мощных ИИ-платформах.
Основное применение технологии сосредоточено на временных рядах и табличных данных, что подходит для промышленных датчиков, мониторинга оборудования, предиктивного обслуживания, коммунальной инфраструктуры, экологического мониторинга, водных систем и энергетических сетей. Например, можно заранее прогнозировать отказы инверторов на крупных солнечных электростанциях или контролировать состояние канализационных сетей для предотвращения экологических инцидентов. Для миллиардов уже развёрнутых устройств, таких как интеллектуальные счётчики, это открывает путь к получению возможностей ИИ путём удалённой загрузки без замены оборудования, предлагая новый подход к модернизации существующей инфраструктуры.
Генеральный директор Literal Labs Ноэль Хёрли (Noel Hurley) сообщил, что компания изучила аппаратную реализацию своей технологии и намекнул на возможность повышения производительности на один или даже два порядка.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
