Репортаж от Wedoany，Компания Suanmiao Technology объявила, что её чип 3D TokenPU A4E, предназначенный для вывода больших моделей, был запущен в производство 15 июня. Чип основан на отечественной цепочке поставок и использует 3D-гибридную стековую архитектуру, направленную на обеспечение автономных и контролируемых вычислительных мощностей для индустрии больших моделей. Согласно прогнозу Deloitte, более 80% будущего спроса на вычислительные мощности будет сосредоточено на стороне вывода.
Вывод больших моделей долгое время страдал от частой пересылки данных между памятью и процессором, что приводило к затратам энергии до 80% и расходам до 70%. Архитектура 3D TokenPU, представленная Suanmiao Technology, вертикально укладывает 8 слоев кристаллов памяти на вычислительный логический кристалл, используя технологию сквозных кремниевых переходов (TSV) и контактных выступов (bump) для обеспечения микронного уровня межсоединений, сокращая традиционное миллиметровое расстояние передачи на два порядка и обеспечивая пропускную способность памяти 16 ТБ/с. Чип внедряет концепцию программно-аппаратной координации Tile-Native, используя Tile в качестве базовой единицы для перемещения, хранения и вычисления данных, реализуя режим однократного перемещения и многократного использования. Аппаратное обеспечение изначально поддерживает планирование данных на уровне Tile и динамическое переключение множественной точности, а программное обеспечение создает стек инструментов компиляции, совместимый с открытыми экосистемами, такими как LLVM и Triton.
Доктор Ван Фуцюань, основатель и генеральный директор Suanmiao Technology, заявил, что 3D TokenPU специально разработан для обработки токенов больших моделей и позволяет повысить плотность вычислений и энергоэффективность, не полагаясь исключительно на уменьшение техпроцесса.
Suanmiao Technology создала отечественную цепочку поставок, охватывающую проектирование чипов, базовое IP, производство и корпусирование. Чип A4E основан на собственной архитектуре RISC-V, собственном IP и собственном программном обеспечении, разработан в сотрудничестве с отечественными партнерами по цепочке поставок с использованием зрелых отечественных технологических процессов. Ключевые члены команды участвовали в проектах высокопроизводительных чипов с объединенной памятью и вычислениями, осуществив массовое производство тысяч пластин с 3D-гибридным стеком. Доля исследователей и разработчиков в компании превышает 80%, а ключевые сотрудники имеют опыт работы в таких учреждениях, как Китайская академия наук, Университет Цинхуа и Пекинский университет.
3D TokenPU ориентирован на ведущих производителей больших моделей. Компания уже почти год ведет углубленные исследования и разработки с клиентами, на этапе определения чипа ориентируясь на потребности сценариев вывода и завершив оптимизацию архитектуры и базовых алгоритмов. Компания получила несколько раундов финансирования от государственных инвестиционных платформ, рыночных фондов и промышленного капитала, включая таких инвесторов, как China Development Bank Capital, Beijing Shunxi, Source Code Capital, Shixi Capital, Lenovo Capital, Xianghe Capital и других.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
