Llama 3.3 70B Instruct

meta/llama-3.3-70b-instruct

text input · text output · konteks 131,072 · output maks 16,384 · uptime 100.00% · TTFT 1419 ms

alatskemaZDRtanpa pelatihan
Biaya efektif per 1rb permintaan

biaya = p_in·(input − cached) + p_cache_read·cached + p_out·output + p_req; token tercache adalah prefiks yang sudah disimpan endpoint sticky (part2b §9.3), sehingga harga daftar termurah tidak selalu menghasilkan permintaan termurah.

PenyediaWilayah · kuantisasiKonteks / output maksInput / MOutput / MBaca / tulis cachePer 1rb permintaanUptime 30 hrTTFT p50 / p95Throughput24 jam terakhirFidelitasDataKemampuanStatus
AWS Bedrockus · none131,072 / 16,384$0.720$0.720- / -$1.800---tidak ada lalu lintas- tanpa pelatihan 30 hrbawaan modelaktif
DeepInfraus · fp8131,072 / 16,384$0.253$0.440- / -$0.726---tidak ada lalu lintas-ZDR tanpa pelatihan 7 berbedaaktif
ai.mlglobal · unknown131,072 / 16,384$0.105$0.336- / -$0.378100.00%1419 / 1419 ms4.6 tok/stidak ada lalu lintas- tanpa pelatihan 30 hr12 berbedaaktif

Mulai cepat

curl https://api.ai.ml/v1/chat/completions \
  -H "Authorization: Bearer $AIML_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta/llama-3.3-70b-instruct","messages":[{"role":"user","content":"Say hello"}]}'
Dapatkan kunci di konsol

Log perubahan

  • new_model endpoint ep_aiml_llama-3.3-70b-instruct_global (meta-llama/llama-3.3-70b-instruct) added as active; price input 0.105 output 0.336 USD/M 5/10/2026