Японская компания TIER IV присоединилась к программе разработки периферийных ИИ-полупроводников, открывая исходный код чипа для автономного вождения

Репортаж от Wedoany，Японская компания TIER IV, разработчик открытого программного обеспечения для автономного вождения, присоединилась к «Программе разработки полупроводников нового поколения для периферийного ИИ», возглавляемой Японским агентством науки и технологий (JST), и продвигает разработку программно-определяемой системы на кристалле (SoC) для автономного вождения уровня L4. В рамках этой программы исследовательская группа под руководством профессора Ёсихиро Кавахары (Yoshihiro Kawahara) из Высшей школы инженерии Токийского университета (Graduate School of Engineering, The University of Tokyo) будет вести исследования в области проектирования чипов для физического ИИ, ориентированных на использование в конкретных сценариях и функциональную дифференциацию. Компания TIER IV, в свою очередь, отвечает за разработку логической схемы ИИ-чипа, предназначенного для эффективной обработки логического вывода сквозного (E2E) ИИ автономного вождения; соответствующие проектные активы и инструментарий планируется выпустить в виде открытого исходного кода.

Технологии высокопроизводительных вычислений, включая графические процессоры (GPU), сыграли ключевую роль в стремительном развитии ИИ. Однако автономное вождение уровня L4 требует непрерывной работы моделей ИИ в условиях реального мира и в реальном времени, что помимо существующих высокопроизводительных вычислительных технологий требует новых методов проектирования, решающих проблемы энергоэффективности, а также адаптивности, прозрачности и верифицируемости.

Компания TIER IV самостоятельно спроектирует ИИ-чип, поддерживающий открытое программное обеспечение для автономного вождения Autoware, и оценит его эффективность как компонента SoC. Помимо логической схемы чипа, компилятор и связанный с ним инструментарий также будут открыты, что позволит создать открытую экосистему, в которой производители полупроводников смогут использовать эту платформенную технологию для ускорения коммерциализации SoC для автономного вождения уровня L4.

Современный ИИ автономного вождения всё чаще опирается на масштабные модели Transformer, которые интегрированно обрабатывают сенсорные данные, такие как изображения с камер и данные облаков точек, охватывая этапы от восприятия до планирования движения. Данная программа будет сосредоточена на логическом выводе Transformer и разработке специализированной архитектуры, упрощающей сложные механизмы управления, необходимые для универсальных вычислений. Данные, необходимые для выполнения модели ИИ, будут эффективно предварительно загружаться и повторно использоваться внутри чипа, что снизит энергопотребление, связанное с передачей во внешнюю память и управлением вычислениями. Архитектура также будет включать специализированные вычислительные схемы для операций, часто используемых в Transformer, включая умножение матриц и механизмы внимания. Компания TIER IV заявляет, что целью оптимизации является не только пиковая производительность чипа, но и производительность на ватт всей системы автономного вождения, включая Autoware. Конструкция должна поддерживать гибкое развертывание в различных сценариях применения — от встраиваемых устройств мощностью в несколько ватт до бортовых электронных блоков управления автомобиля мощностью в десятки ватт.

В ответ на проблемы адаптации архитектуры, вызванные быстрой эволюцией технологий ИИ автономного вождения, компания TIER IV внедрит набор тензорных операторов (TOSA) в качестве стандартизированного промежуточного представления между моделями ИИ и ИИ-чипами. Операции моделей ИИ, разработанных в таких фреймворках, как PyTorch, будут преобразовываться в универсальное представление TOSA, которое затем после оптимизации и генерации кода будет выполняться на ИИ-чипе, обеспечивая тем самым слабую связанность между ИИ-фреймворком и аппаратным обеспечением. Таким образом, изменения в архитектуре модели или методах вычислений могут быть в основном адаптированы за счет обновления программных компонентов, таких как компилятор и среда выполнения, без необходимости перепроектирования всего чипа. Это подход к проектированию программно-определяемой SoC, позволяющий непрерывно оптимизировать производительность и энергоэффективность с помощью программного обеспечения.

В таких критически важных для безопасности приложениях, как автономное вождение уровня L4, помимо понимания самой модели ИИ, необходимо также понимать внутреннюю архитектуру и процессы обработки вычислительной системы, на которой она работает. Компания TIER IV откроет исходный код логической схемы ИИ-чипа для автономного вождения, компилятора и связанного инструментария, что позволит производителям полупроводников и разработчикам проверять внутреннюю архитектуру чипа и поведение программного обеспечения, а также модифицировать, расширять и повторно использовать их в соответствии с собственными требованиями к платформе транспортного средства, моделям ИИ, производительности и энергопотреблению. Этот подход распространяет философию открытого исходного кода Autoware с программного уровня на проектирование чипов и связанный инструментарий, с целью создания коллаборативной экосистемы, не зависящей от конкретных полупроводниковых продуктов или закрытых сред разработки.

Процесс выполнения модели ИИ на чипе включает ряд преобразований, таких как конвертация формата модели, оптимизация вычислений, квантование и округление. Эти преобразования, повышая производительность и энергоэффективность, могут также вносить числовые расхождения, влияющие на конечный результат вычислений. Основываясь на TOSA и его спецификациях операторов, компания TIER IV построит процесс компиляции и преобразования и внедрит методы формальной верификации для математического доказательства числовой согласованности до и после преобразования для выбранных преобразований и операций, а также соответствия заданным допускам на погрешность. Этот подход позволяет отслеживать преобразования, которым подвергается модель ИИ перед выполнением на чипе, и проверять корректность процесса обработки, обеспечивая более надежную среду выполнения для ИИ автономного вождения.

Основатель и генеральный директор TIER IV Синпэй Като (Shinpei Kato) отметил, что прогресс ИИ стал возможен благодаря мощным вычислительным платформам, включая GPU, и по мере продвижения к более широкому развертыванию автономного вождения уровня L4 эти платформы необходимо дополнять вычислительными архитектурами, спроектированными с учетом требований реального мира и реального времени. Он считает, что в критически важных для безопасности средах способность понимать, как модель ИИ преобразуется для выполнения, и проверять корректность обработки будет становиться всё более важной; распространение философии открытого исходного кода с программного обеспечения на проектирование ИИ-чипов и связанный инструментарий позволит автопроизводителям, производителям полупроводников и разработчикам продолжать развивать собственные системы на этой основе, создавая масштабируемый, адаптируемый и надежный вычислительный фундамент для автономного вождения уровня L4.

Профессор Кавахара отметил, что энергопотребление GPU долгое время было основным узким местом для развертывания устройств с батарейным питанием в таких приложениях физического ИИ, как робототехника и автономное вождение. Данный проект направлен на преодоление этого ограничения за счет функционально дифференцированного проектирования чипов, исходящего из конкретных случаев использования. Он ожидает, что TIER IV разработает чип, отвечающий за принятие решений высокого уровня, то есть за поведенческий слой высокого уровня, обрабатывающий мыслительные процессы, необходимые для сквозного физического ИИ и автономного вождения. Являясь движущей силой открытого программного обеспечения Autoware, компания TIER IV демократизирует проектирование от требований приложения до аппаратного обеспечения, позволяя исследователям приложений формировать полупроводники, соответствующие их потребностям. При поддержке открытой экосистемы эта программа может заложить основу для постоянного создания японскими стартапами полупроводников с высокой добавленной стоимостью.

TIER IV — компания, специализирующаяся на глубоких технологических инновациях в области автономного вождения, использующая открытое программное обеспечение Autoware в качестве ядра и предоставляющая полный набор платформ и услуг — от разработки программного обеспечения и закупки транспортных средств до операционной поддержки, а также совместно с глобальными партнерами через экосистему Autoware продвигающая применение открытого программного обеспечения в области интеллектуальных транспортных средств.