W kolejce pomiarów
NVIDIA GeForce RTX 4070
12 GB · Ada sm_89
Tej karty jeszcze nie zmierzyliśmy.
Jest w kolejce. Do tego czasu pokazujemy specyfikację i szacunek z naszego wzoru, jasno podpisany.
Szacunek, nie pomiar
≈38–46t/s
przed, szacunek · Gemma 4 12B UD-Q4_K_XL · po: wkrótce
0 80 t/s
- Pamięć
- 12GB
- Przepustowość
- 504GB/s
- spec. producenta
- Architektura
- Ada sm_89
Szacunek, nie pomiar
Co się mieści
Wzór η · przepustowość / bajty na token dla zwykłego llama.cpp. Po pomiarze w tym miejscu pojawią się prawdziwe liczby.
Wzór η · przepustowość / bajty na token dla zwykłego llama.cpp. Po pomiarze w tym miejscu pojawią się prawdziwe liczby.app/landing/src/lib/estimator.ts: decodeRange (η·BW/B, raport 04 §2.2.4), memoryNeed (raport 04 §2.2.4)app/landing/src/lib/data/gpus.jsonapp/landing/src/lib/data/models.json- Gemma 4 12B UD-Q4_K_XL12 GB
potrzebna pamięć, szacunek ≈ 82–85 % pamięci karty
przed, szacunek ≈ 38–46 t/s
po wkrótce