Репортаж от Wedoany，Компания GUNNIR провела тестирование производительности графического процессора Intel Arc Pro B70 при работе с моделью DeepSeek R1. Результаты показали, что в сценариях с высокой степенью параллелизма пропускная способность токенов данной видеокарты превышает показатели NVIDIA RTX 5090D и RTX 4090D.
В тестировании использовалась конфигурация из четырёх параллельно подключённых видеокарт. Сравнивались модели Intel Arc Pro B70 32 ГБ, NVIDIA RTX 5090D 32 ГБ и RTX 4090D 24 ГБ. Тестируемой моделью была DeepSeek R1-Distill Qwen 32B FP16 с фиксированной длиной входных/выходных данных в 128 токенов, диапазон параллелизма составлял от 1 до 512. Ключевым показателем оценки являлась пропускная способность в токен/с, используемая для измерения эффективности вывода при работе с большими языковыми моделями.
При уровне параллелизма ниже 32 первое место занимала RTX 5090D, второе — RTX 4090D, а Arc Pro B70 показывала результаты, сопоставимые с RTX 4090D. При увеличении параллелизма до 32 и 64 Arc Pro B70 догнала и превзошла RTX 4090D. При параллелизме 128 пропускная способность токенов Arc Pro B70 была на 8,6% выше, чем у RTX 5090D, и на 34,2% выше, чем у RTX 4090D. При увеличении параллелизма до 256 преимущество Arc Pro B70 ещё больше возросло: на 7,5% выше RTX 5090D и на 48,7% выше RTX 4090D. Аналогичное преимущество в производительности наблюдалось и при параллелизме 512.
В ходе данного тестирования максимальная пропускная способность токенов графического процессора Intel Arc Pro B70 достигла 2320,76 токена в секунду.
