NVIDIA Blackwell prezentuje się w nowych testach InferenceMAX, oferując wysoką wydajność i efektywność
InferenceMax v1 to pierwszy niezależny test mierzący całkowity koszt obliczeniowy w różnych modelach i rzeczywistych scenariuszach. Optymalizacja oprogramowania NVIDIA B200 pozwala uzyskać dwa centy za milion tokenów w gpt-oss, zapewniając 5-krotnie niższy koszt na token w zaledwie 2 miesiące. Najlepsza przepustowość i interaktywność: NVIDIA B200 wyznacza trendy, oferując 60 000 tokenów na sekundę na GPU i 1000 tokenów na sekundę na użytkownika w gpt-oss z najnowszym stosem NVIDIA TensorRT-LLM.