独立的 AI 网关

一个 API。
连接多种模型。
持续可靠运行。

通过一个兼容 OpenAI 的接口接入。AIDMX 根据价格、速度、隐私和可用性选择合适的供应商。

API兼容 OpenAI 接口
BYOK使用自有供应商密钥
SSE流式响应
接入您熟悉的工具
OpenAI SDKPythonTypeScriptcURL
查看接入指南
模型云

专注模型能力。
轻松接入使用。

切换模型,无需重写应用。使用稳定模型 ID、最新版本别名,或交给自动路由选择。

浏览全部模型 ↗
重新设计模型路由

让每个模型
都更可靠。

在一个入口,管理服务可用性、性能与数据策略。

了解路由机制
01

自动切换可用供应商

通过供应商和模型自动回退,应对限流、服务故障与区域中断,保持产品在线。

路由示例
请求
OpenAI 82ms
Anthropic 61ms
Google 104ms
02

持续学习,优化性能

按价格、延迟、吞吐量、隐私或指定供应商顺序进行路由,利用每次响应持续更新端点健康信息。

吞吐量示例84.2 tok/s
03

你的数据,由你决定。

要求零数据保留、排除用于训练的端点、让敏感请求留在本地,并查看每次路由决策。

策略示例
✓
零数据保留策略覆盖 4 个端点
已开启
⌁
禁止训练已排除采集数据的端点
已开启
◎
统一模型目录以已发布目录中的供应商为准
编辑
更少配置,更快构建

保留现有 SDK。
从一个 URL 开始。

几分钟接入第一个模型。保留现有 SDK,只需更改一个 URL。

  1. 01
    创建 API 密钥

    在工作区管理模型访问权限。

  2. 02
    配置 AIDMX 接口地址

    使用兼容 OpenAI 的接口地址。

  3. 03
    选择模型,发起请求

    选择可用模型,或使用自动路由。

查看快速入门
quickstart.pyPython
from openai import OpenAI

client = OpenAI(
    base_url="https://stg-api.modelmix.tech/api/v1",
    api_key="mmk-...",
)

response = client.chat.completions.create(
    model="modelmix/auto",
    messages=[{"role": "user", "content": "Hello"}],
    extra_body={"provider": {"sort": "latency"}},
)
自动模型路由 ModelMix Auto
从下一次请求开始

为应用提供可靠支持。

几分钟接入第一个模型。保留现有 SDK,只需更改一个 URL。