PLEN– English Sprawdź swój sprzęt

Wybierz kartę. Zobacz różnicę.

Karta graficzna
Model

GeForce RTX 3090 Qwen3.8-27B UD-Q4_K_XL · 17,6 GB

Typowa aplikacja 42,9 t/s
Najlepsze flagi 75,3 t/s
Nasz silnik 93,3 t/s

Warunki: spec_sweep przez serwer, ten sam skrypt po obu stronach: czat, 6 promptów × 3 seedy, T=1, świeży serwer, mediana; kolejność ABBA, średnia z dwóch przebiegów najlepsze flagi i nasz silnik: kontekst 200k (-c 204800), KV q4_0, MTP n=4, -fa on; nasz dodatkowo słownik draftu 64k, lookup W16, GPU verify; A0: samo -m (-fit: kontekst 90k, KV f16); karta 335 W. spec_sweep przez serwer, ten sam skrypt po obu stronach: czat, 6 promptów × 3 seedy, T=1, świeży serwer, mediana; kolejność ABBA, średnia z dwóch przebiegów najlepsze flagi i nasz silnik: kontekst 200k (-c 204800), KV q4_0, MTP n=4, -fa on; nasz dodatkowo słownik draftu 64k, lookup W16, GPU verify; A0: samo -m (-fit: kontekst 90k, KV f16); karta 335 W. /; :59

2,2×

nasz silnik wobec: Typowa aplikacja

Odpowiedź na 500 słów · wyliczone z t/s

Typowa aplikacja31,4s Nasz silnik14,4s

gotowe

16,9 s szybciej

Ten sam skrypt, inne zadania: czat zachłanny (T=0) 42,3 → 76,7 → 103,4 t/s; edycja kodu 42,0 → 109,5 → 348,9 t/s; kopiowanie 41,8 → 108,4 → 343,8 t/s; generowanie po 32k kontekstu 39,1 → 64,0 → 79,9 t/s. Uczciwie: nasz silnik z kontekstem 200k nie zmieścił promptu ~55,6k tokenów w 24 GB; na kartach NVIDIA 24 GB ustawiamy kontekst ≤ 131 072 (szczyt 22,2 GB przy 60k).

Ta sama odpowiedź, zmierzone tempo

GeForce RTX 3090, Qwen3.8-27B UD-Q4_K_XL: Typowa aplikacja 42,9 tokenu na sekundę, Nasz silnik 93,3 tokenu na sekundę.

Długości: czas odpowiedzi na 500 słów (≈ 1345 tokenów) jest wyliczony z tempa. Wyścig to przykładowa odpowiedź na 45 słów (≈ 121 tokenów) w tym samym tempie. Samo tempo zmierzono w warunkach podanych pod paskami.

Zobacz wszystko o swojej karcie