Meta: Llama 3.1 70B Instruct

Dostawca: meta-llama. Otwarte wagi

Cena wejścia
$0,40
za 1M tokenów
Cena wyjścia
$0,40
za 1M tokenów
Okno kontekstu
131K
tokenów
Jakość
1 261
#287 w LMArena
Rozmiar
71B
parametrów
Pobrania
86 tys.
na Hugging Face, ostatnie 30 dni

Czy pójdzie lokalnie?

Szacunek dla wersji Q4_K_M z kontekstem 8K. Swoją kartę i ustawienia wybierzesz w kalkulatorze.

  • NVIDIA GeForce RTX 40608 GBPójdzie, ale wolno1,0–1,4 tokenów/s
  • NVIDIA GeForce RTX 306012 GBPójdzie, ale wolno1,1–1,5 tokenów/s
  • NVIDIA GeForce RTX 4060 Ti 16 GB16 GBPójdzie, ale wolno1,2–1,6 tokenów/s
  • NVIDIA GeForce RTX 409024 GBPójdzie, ale wolno1,7–2,4 tokenów/s
  • NVIDIA GeForce RTX 509032 GBPójdzie, ale wolno2,8–3,9 tokenów/s
  • Apple M1 Pro 32 GB32 GBNie pójdzie—
Sprawdź mój komputer

Ceny: OpenRouter, odświeżone 8 paź 2026. Jakość: LMArena (CC BY 4.0), tabela z 2 paź 2026. Strona modelu na Hugging Face