Meta: Llama 3.1 8B Instruct

Anbieter: meta-llama. Offene Gewichte

Eingabepreis
$0,05
pro 1 Mio. Tokens
Ausgabepreis
$0,08
pro 1 Mio. Tokens
Kontextfenster
131K
Tokens
Qualität
1.186
#324 auf LMArena
Größe
8,0B
Parameter
Downloads
6,2 Mio.
auf Hugging Face, letzte 30 Tage

Läuft es lokal?

Schätzung für die Q4_K_M-Version mit 8K Kontext. Eigene Karte und Einstellungen wählst du im Rechner.

  • NVIDIA GeForce RTX 40608 GBLäuft33–47 Tokens/s
  • NVIDIA GeForce RTX 306012 GBLäuft44–62 Tokens/s
  • NVIDIA GeForce RTX 4060 Ti 16 GB16 GBLäuft35–50 Tokens/s
  • NVIDIA GeForce RTX 409024 GBLäuft123–175 Tokens/s
  • NVIDIA GeForce RTX 509032 GBLäuft219–310 Tokens/s
  • Apple M1 Pro 32 GB32 GBLäuft24–35 Tokens/s
Meinen Rechner prüfen

Preise: OpenRouter, aktualisiert am 8. Okt. 2026. Qualität: LMArena (CC BY 4.0), Rangliste vom 2. Okt. 2026. Modellseite auf Hugging Face