Репортаж от Wedoany，Компания PrismML успешно портировала большую языковую модель Qwen 3.6 с 27 миллиардами параметров, разработанную Alibaba, на iPhone 17 Pro. Согласно сообщению IT-новостного сервиса The Information, данная модель способна выполнять сложные ответы в чатах, задачи рассуждения и полностью автономное кодирование в качестве агента. Со следующего вторника модель станет доступна для публичного использования.

PrismML является дочерней компанией Калифорнийского технологического института (California Institute of Technology, Caltech), а руководитель компании Баба Хассиби одновременно занимает должность профессора электротехники в этом институте. Компания утверждает, что сжала Qwen 3.6 с помощью «математических трюков», превзойдя обычные методы квантизации. По заявлению, эта технология устраняет типичную потерю качества, позволяя сжать Qwen 3.6 с 54 ГБ до 4 ГБ. Соответствующие патенты принадлежат Калифорнийскому технологическому институту.

PrismML прогнозирует, что в течение примерно трех лет до 95% требуемых вычислительных мощностей для ИИ будут выполняться локально на смартфонах, ноутбуках и даже бытовых приборах. Руководитель компании Баба Хассиби считает, что к тому времени лишь 5% высококлассных потребностей будут обрабатываться в облаке, и заявляет: «Я верю, что это то направление, которое люди видят». Для обучения центры обработки данных останутся необходимыми в обозримом будущем. Примечательно, что Apple ранее внедрила технологию для AFM Core Advanced, решающую проблему оперативной памяти для больших моделей с 20 миллиардами параметров с помощью флэш-памяти, загружая только действительно необходимые части. В настоящее время Apple ищет компании в области ИИ, которые можно приобрести. По данным The Information, Apple уже провела предварительные переговоры об использовании этой технологии.