Llama 3.3 70B Instruct

meta/llama-3.3-70b-instruct

đầu vào text · đầu ra text · ngữ cảnh 131,072 · đầu ra tối đa 16,384 · hoạt động 100.00% · TTFT 1419 ms

công cụschemaZDRkhông huấn luyện
Chi phí thực tế mỗi 1 nghìn yêu cầu

chi phí = p_in·(input − cached) + p_cache_read·cached + p_out·output + p_req; token được lưu đệm là phần tiền tố mà endpoint cố định đã giữ sẵn (part2b §9.3), vì vậy giá niêm yết rẻ nhất không phải lúc nào cũng cho yêu cầu rẻ nhất.

Nhà cung cấpKhu vực · lượng tử hóaNgữ cảnh / đầu ra tối đaĐầu vào / MĐầu ra / MĐọc / ghi bộ nhớ đệmMỗi 1 nghìn yêu cầuHoạt động 30 ngàyTTFT p50 / p95Thông lượng24 giờ quaĐộ trung thựcDữ liệuKhả năngTrạng thái
AWS Bedrockus · none131,072 / 16,384$0.720$0.720- / -$1.800---không có lưu lượng- không huấn luyện 30 ngàymặc định của mô hìnhđang hoạt động
DeepInfraus · fp8131,072 / 16,384$0.253$0.440- / -$0.726---không có lưu lượng-ZDR không huấn luyện 7 khác biệtđang hoạt động
ai.mlglobal · unknown131,072 / 16,384$0.105$0.336- / -$0.378100.00%1419 / 1419 ms4.6 tok/skhông có lưu lượng- không huấn luyện 30 ngày12 khác biệtđang hoạt động

Bắt đầu nhanh

curl https://api.ai.ml/v1/chat/completions \
  -H "Authorization: Bearer $AIML_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta/llama-3.3-70b-instruct","messages":[{"role":"user","content":"Say hello"}]}'
Lấy khóa trong bảng điều khiển

Nhật ký thay đổi

  • new_model endpoint ep_aiml_llama-3.3-70b-instruct_global (meta-llama/llama-3.3-70b-instruct) added as active; price input 0.105 output 0.336 USD/M 5/10/2026