Репортаж от Wedoany，Французский AI-стартап ZML, поддерживаемый лауреатом премии Тьюринга Яном ЛеКуном (Yann LeCun), выпустил программное обеспечение под названием ZML/LLMD, которое позволяет запускать различные открытые большие языковые модели на разных чипах, включая NVIDIA, AMD, Google TPU, Apple Metal и Intel Arc, с целью разрушить доминирование NVIDIA на рынке AI-чипов. Основатель ZML Стив Морен (Steeve Morin) заявил TechCrunch, что это ПО, работающее как сервер вывода LLM, нацелено на предоставление предприятиям и облачным провайдерам возможности выбора гибридных чипов, включая более дешёвые или энергоэффективные, что позволит снизить затраты на AI и стимулировать масштабное развёртывание.
Морен занимает нейтральную позицию по отношению к NVIDIA, признавая хорошие отношения ZML с компанией и отмечая, что последняя готовится к растущему спросу на вывод, который называют «золотой лихорадкой вывода». ZML/LLMD не является продуктом с открытым исходным кодом, но выпускается бесплатно для изучения моделей использования. Морен планирует сначала оценить рынок, а затем выбрать наиболее эффективный способ получения дохода. Ранее Морен занимал должность вице-президента по инженерии в Zenly, которая была приобретена Snapchat за девятизначную сумму в долларах в 2017 году. Благодаря этому опыту он привлёк 20 миллионов долларов от нескольких венчурных компаний, включая Harry Stebbings’ 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel’s Kima Ventures, Kindred Capital, LocalGlobe и Puzzle Ventures. В список акционеров также входят основатели других стартапов, такие как основатель Dagger и Docker Соломон Хайкс (Solomon Hykes), а также Клеман Деланг (Clément Delangue) и Жюльен Шомон (Julien Chaumond) из Hugging Face.
Команда стартапа, базирующегося в Париже, насчитывает 20 человек, и Морен объясняет быстрые действия именно компактным составом. Морен подчёркивает, что европейские AI-стартапы могут успешно развиваться на местном уровне, и особо упоминает новых производителей AI-чипов, таких как Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud и VSORA. Он считает, что сотрудничество ZML с этими компаниями может привести к созданию «того, чего никогда не было в мире». В области вывода ZML сталкивается с конкурентами, такими как Baseten с оценкой в 13 миллиардов долларов, Inferact, основанный создателями открытого проекта vLLM, и RadixArk — коммерческая компания, стоящая за SGLang. Морен заявляет, что амбиции ZML охватывают более широкий спектр и уже достигли уровня «совместного проектирования чипов».
В настоящее время сроки выпуска платного продукта ZML/LLMD и последующее внедрение остаются неопределёнными, но благодаря поддержке инвесторов и базе команды ZML имеет потенциал изменить конкурентную структуру индустрии AI-чипов.
