Компания Nvidia занимает лидирующие позиции на рынке ускорителей для ИИ, и очередные тесты наглядно показывают всю мощь её продукции. Новый стоечный модуль Blackwell Ultra GB300 сравнили с GB200 в рабочих нагрузках DeepSeek с длительным контекстом, и новое решение оказалось на голову выше.
Организация Large Model Systems Organization (LMSYS) протестировала GB300 NVL72 на вывод в условиях длительного контекста, под который как раз Nvidia оптимизировала новое решение, и результаты говорят сами за себя.
Как можно видеть, прирост составляет 33-53%, что очень немало, учитывая, что архитектура осталась той же. Более того, скорость обработки запросов вообще выросла в 1,87 раза. Правда, учитывая, что GB300 только начинают распространяться на рынке, неясно, как там обстоят дела с совокупной стоимостью владения.