เอนด์พอยต์เดียวสำหรับทุกโมเดล พร้อมการกำหนดเส้นทางและ failover ในตัว

ai.ml คือเกตเวย์ LLM ใช้ SDK ของ OpenAI, Anthropic หรือ Gemini ที่คุณใช้อยู่แล้ว เปลี่ยน base URL แล้วทุกคำขอจะถูกแปลง กำหนดเส้นทางไปยังโฮสต์ที่ดีที่สุด สตรีมกลับมา และวัดการใช้งานละเอียดถึงระดับโทเค็น

เริ่มต้นใช้งานดูวิธีการทำงาน
  • ห้ารูปแบบ wire คีย์เดียว
  • การสตรีม เครื่องมือ และ structured output
  • Failover ข้ามโฮสต์และคลาวด์
from openai import OpenAI client = OpenAI(-   base_url="https://api.openai.com/v1",+   base_url="https://api.ai.ml/v1",    api_key=KEY,)client.chat.completions.create(    model="deepseek/deepseek-v4.1-flash", ...)
deepseek/deepseek-v4.1-flash
  • โฮสต์ประเทศอินพุต / 1Mโทเค็นแรกสถานะ
  • DeepSeekCN$0.30n/aหมดเวลา
  • ai.mlGLOBAL$0.321.10 sให้บริการแล้ว

สิ่งที่การตอบกลับบอกคุณ

ให้บริการโดย
ai.ml, GLOBAL
จำนวนครั้งที่ลอง
2
โทเค็นแรก
1.10 s

ตัวอย่าง failover: โฮสต์แรกหมดเวลา คำขอจึงย้ายไปยังโฮสต์ถัดไป คุณได้คำตอบเดียวและจ่ายครั้งเดียว

โมเดลจากOpenAIAnthropicGoogleDeepSeekZ.aiMoonshotxAIXiaomiTencentMeta LlamaQwenMiniMax

พูดภาษา API เดียวกับที่โค้ดของคุณใช้อยู่แล้ว

รับเข้าห้ารูปแบบ wire และแต่ละรูปแบบส่งกลับในรูปแบบเดิม ไม่ว่าผู้ให้บริการรายใดจะให้บริการ เลือกรูปแบบเพื่อดูว่าอยู่ที่ใดและรองรับอะไรบ้าง

ใช้แทน OpenAI SDK และทุกอย่างที่สร้างบนนั้นได้ทันที

client = OpenAI(base_url="https://api.ai.ml/v1", api_key=KEY)
  • การสตรีม พร้อมข้อมูลการใช้งานใน chunk สุดท้าย
  • Function tool และการเรียกใช้เครื่องมือแบบขนาน
  • โหมด JSON และเอาต์พุตตาม JSON Schema
  • รูปภาพ เสียง และไฟล์เป็นอินพุต

สิ่งที่เกิดขึ้นกับคำขอ ตามลำดับ

มีหกขั้นตอนระหว่าง SDK ของคุณกับโมเดล คลิกขั้นตอนหนึ่ง หรือเล่นทั้งเส้นทาง เพื่อดูว่าแต่ละขั้นตอนตรวจสอบอะไรและบันทึกอะไรไว้

4. กำหนดเส้นทาง

โฮสต์ที่ให้บริการคำขอไม่ได้จะถูกกรองออกตามฟีเจอร์ ประเทศ และกฎข้อมูล ที่เหลือจัดอันดับตามนโยบายของคุณ: ราคา ความเร็ว หรือเวลาทำงาน

# trace
5 hosts, 3 eligible   ranked by price

ดูทุกโฮสต์ก่อนส่งคำขอ

แต่ละโมเดลแสดงรายการโฮสต์ที่ให้บริการ พร้อมราคา ความเร็วที่วัดได้ และเวลาทำงาน 30 วัน เรียงลำดับ จำกัดทราฟฟิกไว้ในประเทศเดียว หรือคลิกแถวเพื่อปักหมุดโฮสต์เดียว นี่คือโฮสต์ของ deepseek/deepseek-v4.1-flash

โฮสต์ประเทศอินพุต / เอาต์พุต ต่อ 1Mโทเค็นแรกเวลาทำงาน 30 วัน
DeepSeekจีน$0.30 / $1.20n/an/a
ai.mlทั่วโลก$0.32 / $1.261.10 s100.00%

คำขอของคุณไปยังโฮสต์ที่ถูกที่สุด

หากโฮสต์นั้นล้มเหลวหรือช้าลง โฮสต์ถัดไปในรายการจะรับคำขอแทน คุณถูกเรียกเก็บเงินครั้งเดียว

# เพิ่มลงในเนื้อหาคำขอ
"route": {
  "sort": "price"
}

ตัวเลขจริงจากแค็ตตาล็อก วัดในช่วง 30 วันที่ผ่านมา

ดูโมเดลทั้งหมด

นโยบายในรูปแบบไฟล์

เขียนกฎการกำหนดเส้นทางครั้งเดียว แล้วผูกกับทั้งองค์กร โปรเจกต์ หรือคีย์เดียว กฎจะถูกตรวจสอบชนิดข้อมูลก่อนบันทึก

ทดสอบโฮสต์ใหม่แบบ canary

ส่งทราฟฟิกส่วนน้อยไปยังโฮสต์ใหม่ สัดส่วนจะถูกลดลงโดยอัตโนมัติเมื่ออัตราข้อผิดพลาดหรือคุณภาพคำตอบลดลง

ทดสอบเงากับโมเดลที่สอง

ส่งคำขอจริงซ้ำไปยังโมเดลอื่นในเบื้องหลัง แล้วเปรียบเทียบค่าใช้จ่าย ความเร็ว และเหตุผลที่หยุด ผู้ใช้ของคุณไม่เห็นสิ่งนี้

ทดลองก่อนใช้งานจริง

รันเราเตอร์จริงกับคำขอในอดีตหรือคำขอที่คุณอธิบาย แล้วดูว่าจะเลือกโฮสต์ใดและเพราะเหตุใดโฮสต์อื่นจึงไม่ถูกเลือก

ฟีเจอร์ทำงานเหมือนกันทุกโฮสต์ หรือคุณจะได้รับแจ้ง

แต่ละโฮสต์รองรับสิ่งต่างๆ ไม่เหมือนกัน เกตเวย์รู้จักทุกโฮสต์ เติมส่วนที่ขาดเมื่อทำได้อย่างปลอดภัย และปฏิเสธพร้อมข้อผิดพลาดที่ชัดเจนเมื่อทำไม่ได้ วางเมาส์หรือแตะที่เซลล์

โมเดลเครื่องมือStructured outputVisionการให้เหตุผลแคชพรอมต์
openai/gpt-6-lunaรองรับรองรับรองรับรองรับรองรับ
anthropic/claude-sonnet-5.5รองรับรองรับรองรับรองรับรองรับ
openai/gpt-6.1-solรองรับรองรับรองรับรองรับรองรับ
anthropic/claude-opus-5.5รองรับรองรับรองรับรองรับรองรับ
google/gemini-3.8-flashรองรับรองรับรองรับรองรับรองรับ
deepseek/deepseek-v4.1-flashรองรับรองรับรองรับรองรับรองรับ

จากแค็ตตาล็อกแบบเรียลไทม์ หน้าของแต่ละโมเดลแสดงทุกโฮสต์และสิ่งที่รองรับ

ทุกการตอบกลับอธิบายตัวเองได้

คุณไม่ต้องเดาว่าผู้ให้บริการรายใดตอบ ลองไปกี่ครั้ง หรือมีค่าใช้จ่ายเท่าไร คำตอบอยู่ในการตอบกลับ และมีบันทึกเดียวกันในบันทึกคำขอตราบเท่าที่คุณเก็บบันทึกไว้

ทุกโฮสต์ที่ได้รับการพิจารณาและสิ่งที่เกิดขึ้นในแต่ละโฮสต์

HTTP/1.1 200 OK
x-aiml-request-id: 01K7QW3M9T2ZB4
x-aiml-provider: bedrock
x-aiml-region: us
x-aiml-attempts: 2
x-aiml-cost-micro: 2676
x-aiml-route-trace: anthropic:timeout,bedrock:ok

ขีดจำกัดที่ใช้ได้จริง ต่อคีย์และต่อโปรเจกต์

แต่ละคีย์มีขีดจำกัดอัตรา รายการโมเดลที่อนุญาต origin ของเบราว์เซอร์ที่อนุญาต วันหมดอายุ และงบประมาณค่าใช้จ่ายของตัวเอง เมื่องบประมาณหมด คำขอถัดไปจะถูกปฏิเสธพร้อมข้อผิดพลาดที่ชัดเจน และ webhook จะแจ้งทีมของคุณ ลองดู: เริ่มเอเจนต์ที่ติดอยู่ในลูป

$0.00ใช้ไปวันนี้
0คำขอที่ให้บริการ
0คำขอที่ถูกปฏิเสธ
กำลังรอคำขอแรก

คุณกำหนดว่าจะเก็บอะไรและรันที่ไหน

กฎข้อมูลกำหนดต่อคีย์และเข้มงวดขึ้นได้เท่านั้นในระดับที่ต่ำลง สลับสวิตช์เพื่อดูว่าคีย์ที่มีกฎเหล่านั้นทำงานอย่างไร

เก็บบันทึกคำขอจัดเก็บแบบเข้ารหัส 7 ถึง 365 วัน ตามที่คุณเลือก
ซ่อนข้อมูลส่วนบุคคลในบันทึกอีเมล หมายเลขโทรศัพท์ และหมายเลขบัตรจะถูกปกปิดก่อนจัดเก็บ
ไม่เก็บข้อมูลเลย (ZDR)เฉพาะโฮสต์ที่ไม่เก็บข้อมูลใดๆ เท่านั้นที่ให้บริการคำขอได้
ไม่ใช้ข้อมูลของคุณฝึกโมเดลข้ามโฮสต์ที่ข้อกำหนดอนุญาตให้ฝึกโมเดลด้วยทราฟฟิก API
อินเดียเท่านั้นคำขอให้บริการโดยโฮสต์ในอินเดีย หรือถูกปฏิเสธ

ด้วยกฎเหล่านี้ คีย์นี้จะ

  • เก็บบันทึกคำขอแบบเข้ารหัส โดยปกปิดข้อมูลส่วนบุคคล
  • ไม่ส่งคำขอไปยังโฮสต์ที่อาจนำไปฝึกโมเดล
  • รันบนโฮสต์ที่ดีที่สุดในภูมิภาคใดก็ได้

ข้อตกลงการประมวลผลข้อมูลที่ลงนามแล้วและการลบข้อมูลตามคำขอเป็นส่วนหนึ่งของทุกบัญชี

เครื่องมือเขียนโค้ดของคุณ ชี้มาที่นี่ด้วยคำสั่งเดียว

คำสั่ง setup จะตรวจสอบคีย์และโมเดลของคุณก่อน เปลี่ยนเฉพาะการตั้งค่าที่ตนดูแล และเก็บข้อมูลสำรองไว้ เพื่อให้อีกหนึ่งคำสั่งคืนค่าทุกอย่างกลับได้

$ npx @aiml/cli setup claude-code
ok  key accepted
ok  model available
ok  backup saved
ok  wrote ~/.claude/settings.json

npx @aiml/cli restore

มีให้พร้อมในตัว

สิ่งที่ทีมต้องการหลังการเชื่อมต่อครั้งแรกมีอยู่แล้ว

แคชการตอบกลับ

เปิดใช้สำหรับคีย์ แล้วคำขอที่เหมือนกันทุกประการจะได้รับคำตอบจากแคชโดยไม่มีค่าใช้จ่าย รวมถึงการสตรีม

Embedding และ rerank

เส้นทางเดียวสำหรับโมเดล embedding แบบ OpenAI, Cohere, Voyage และ Jina พร้อมแบ่งชุดข้อมูลขนาดใหญ่ให้อัตโนมัติ

คีย์ผู้ให้บริการของคุณเอง

นำคีย์ที่คุณมีอยู่แล้วมาใช้ คำขอจะผ่านคีย์เหล่านั้น และคุณยังได้บันทึก ขีดจำกัด และการกำหนดเส้นทางครบถ้วน

อัปโหลดไฟล์

อัปโหลดรูปภาพ PDF หรือไฟล์เสียงครั้งเดียว แล้วอ้างอิงจากคำขอใดก็ได้ บนผู้ให้บริการรายใดก็ได้

SDK และลูปเอเจนต์

ไลบรารี TypeScript, Python และ Go พร้อมลูปเรียกใช้เครื่องมือที่หยุดเมื่อถึงวงเงินที่คุณกำหนด

เซิร์ฟเวอร์ MCP

ให้เอดิเตอร์หรือเอเจนต์ของคุณอ่านข้อมูลโมเดล การใช้งาน และคำขอ รวมถึงสร้างคีย์ ผ่านเครื่องมือมาตรฐาน

การประเมินด้วยพรอมต์ของคุณ

ให้คะแนนโมเดลและโฮสต์ด้วยชุดทดสอบของคุณเอง แล้วให้ผลลัพธ์ช่วยกำหนดเส้นทาง

Webhook และ single sign-on

อีเวนต์ที่ลงลายเซ็นพร้อมการลองใหม่ การเข้าสู่ระบบด้วย SAML หรือ OIDC และการจัดเตรียมผู้ใช้จากไดเรกทอรีของคุณ

เติมเงินล่วงหน้า จ่ายต่อโทเค็น เติมเงินเป็นรูปีด้วย UPI บัตร หรือ net banking หรือเป็นดอลลาร์ด้วยบัตร ไม่มีการสมัครสมาชิก บริษัทในอินเดียได้รับใบแจ้งหนี้ GST ทุกครั้งที่เติมเงิน

ดูราคา

ai.ml คืออะไร

บริการสำหรับนักพัฒนาและบริษัทที่สร้างผลงานด้วยโมเดล AI

ai.ml คือเกตเวย์ API สำหรับโมเดลภาษาขนาดใหญ่ แอปพลิเคชันของคุณส่งคำขอไปยังที่อยู่เดียว ในรูปแบบของ SDK ของ OpenAI, Anthropic หรือ Gemini แล้ว ai.ml จะส่งต่อแต่ละคำขอไปยังผู้ให้บริการโมเดล ส่งคำตอบกลับ และบันทึกค่าใช้จ่าย คุณจัดการคีย์ งบประมาณ การใช้งาน และการเรียกเก็บเงินได้ในคอนโซล

หากต้องการใช้งาน ให้สร้างบัญชีด้วยอีเมลและรหัสผ่าน หรือเข้าสู่ระบบด้วย Google จากการเข้าสู่ระบบด้วย Google เราได้รับเพียงชื่อ อีเมล และรูปโปรไฟล์ของคุณ และใช้เพื่อสร้างบัญชีและจดจำคุณเมื่อเข้าสู่ระบบครั้งถัดไปเท่านั้น เราไม่อ่านข้อมูลอื่นใดในบัญชี Google ของคุณ

วิธีที่เราจัดการข้อมูลส่วนบุคคลระบุไว้ใน นโยบายความเป็นส่วนตัว และ ข้อกำหนดในการให้บริการ

คำถามที่พบบ่อย

มีคำถามอื่น ถามมาในคำขอสิทธิ์เข้าใช้ แล้วจะมีเจ้าหน้าที่ตอบกลับ

จะเข้าใช้งานได้อย่างไร

สร้างบัญชีด้วยอีเมลของคุณ ยืนยันจากอีเมลที่เราส่งไป แล้วตั้งค่าองค์กรของคุณ

การสตรีมทำงานตามที่ SDK ของฉันคาดหวังไหม

ใช่ อีเวนต์จะส่งกลับในรูปแบบที่ SDK ของคุณส่งมา ตามลำดับที่คาดหวัง ไม่ว่าผู้ให้บริการรายใดจะสร้างขึ้น การเรียกใช้เครื่องมือและการให้เหตุผลก็สตรีมได้เช่นกัน

มีค่าใช้จ่ายเท่าไร

คุณจ่ายต่อโทเค็นตามราคาที่แสดงสำหรับแต่ละโฮสต์ในหน้าโมเดล ไม่มีการสมัครสมาชิกรายเดือน

ฉันต้องเขียนโค้ดใหม่ไหม

ไม่ต้อง ใช้ SDK ของ OpenAI, Anthropic หรือ Gemini ที่คุณใช้อยู่ตอนนี้ แล้วเปลี่ยน base URL และคีย์ การสตรีม เครื่องมือ และ structured output ทำงานแบบเดิม

จะเกิดอะไรขึ้นเมื่อผู้ให้บริการล่ม

คำขอจะย้ายไปยังโฮสต์ถัดไปที่ให้บริการโมเดลเดียวกัน คุณจ่ายเฉพาะคำตอบที่ได้รับ และไม่เสียค่าใช้จ่ายสำหรับความพยายามที่ล้มเหลว

เกตเวย์เพิ่มเวลาแฝงเท่าไร

เกตเวย์เพิ่มโอเวอร์เฮดคงที่เล็กน้อยต่อคำขอ และรายงานไว้ในทุกการตอบกลับ แยกจากเวลาของผู้ให้บริการเอง คุณจึงตรวจสอบได้ด้วยตัวเอง

ข้อมูลของฉันถูกประมวลผลที่ไหน

คุณเป็นผู้เลือก คีย์สามารถจำกัดให้ใช้เฉพาะโฮสต์ในภูมิภาคเดียว และคำขอที่ให้บริการที่นั่นไม่ได้จะถูกปฏิเสธ

เข้าร่วมเบต้า

เราเปิดรับทีละไม่กี่ทีม เพื่อให้ทุกบัญชีได้รับความช่วยเหลือจริงในการเชื่อมต่อครั้งแรก

วิธีการทำงานสร้างบัญชีด้วยอีเมลของคุณ ยืนยันจากอีเมลที่เราส่งไป แล้วตั้งค่าองค์กรของคุณ
เริ่มต้นใช้งานอ่านเอกสาร