Hermes 3 405B Instruct

nousresearch/hermes-3-llama-3.1-405b

อินพุต text · เอาต์พุต text · บริบท 131,072 · เอาต์พุตสูงสุด 16,384

สคีมาไม่ใช้ฝึก
ต้นทุนจริงต่อ 1 พันคำขอ

ต้นทุน = p_in·(input − cached) + p_cache_read·cached + p_out·output + p_req; โทเค็นที่แคชคือส่วนนำหน้าที่ปลายทางแบบ sticky เก็บไว้แล้ว (part2b §9.3) ราคาตั้งที่ถูกที่สุดจึงไม่ได้ทำให้คำขอถูกที่สุดเสมอไป

ผู้ให้บริการภูมิภาค · ควอนไทซ์บริบท / เอาต์พุตสูงสุดอินพุต / Mเอาต์พุต / Mอ่าน / เขียนแคชต่อ 1 พันคำขอเวลาทำงาน 30 วันTTFT p50 / p95ปริมาณงาน24 ชม. ที่ผ่านมาความเที่ยงตรงข้อมูลความสามารถสถานะ
ai.mlglobal · unknown131,072 / 16,384$1.050$1.050- / -$2.625---ไม่มีทราฟฟิก- ไม่ใช้ฝึก 30 วันค่าเริ่มต้นของโมเดลใช้งานอยู่

เริ่มต้นอย่างรวดเร็ว

curl https://api.ai.ml/v1/chat/completions \
  -H "Authorization: Bearer $AIML_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"nousresearch/hermes-3-llama-3.1-405b","messages":[{"role":"user","content":"Say hello"}]}'
รับคีย์ในคอนโซล

บันทึกการเปลี่ยนแปลง

  • new_model model nousresearch/hermes-3-llama-3.1-405b added (active); endpoint ep_aiml_hermes-3-llama-3.1-405b_global (nousresearch/hermes-3-llama-3.1-405b) added as active; price input 1.050 output 1.050 USD/M 5/10/2569