从发送请求到完整回答结束的耗时，受模型生成速度和回答长度共同影响
AI Test · 免费在线工具
AI 中转站模型测速工具
批量测试 OpenAI 兼容接口中的多个模型，对比总响应时间、首字延迟、Token 输出速度、接口状态和实际回答内容
无需安装
支持流式响应
1 至 20 并发
本页不存储
接口配置
接口地址可填写域名、包含 /v1 的地址或完整兼容路径，Key 不会写入本地存储
选择模型
未获取
填写配置后获取模型列表
测试任务
已选 0 个0 / 0完成数量
0成功数量
0失败数量
—最小延迟
—最大延迟
—平均延迟
0总 Token
—当前最快回复模型
模型响应速度测试结果
| # | 模型 | 状态 | 响应时间 | 首字延迟 | 输出速度 | HTTP | Token 消耗 | 输出或错误 |
|---|---|---|---|---|---|---|---|---|
暂无测试结果 | ||||||||
测速指标说明
从发送请求到收到首个有效内容的时间，更接近用户等待模型开始回答的感受
首个内容返回后每秒生成的 Token 数，仅在接口返回 Token 用量时计算
展示输入、输出、推理及总 Token 数，便于辅助评估单次请求成本
如何测试 AI 中转站模型速度
AI Test 面向提供 OpenAI 兼容接口的 AI 中转站和 API 服务，可一次读取中转站支持的模型，并使用相同提示词进行批量对比
适用场景
适合比较不同 AI 中转站、OpenAI 兼容接口和大语言模型的响应速度，也可用于检查接口可用性、模型权限及流式输出是否正常
GPT中转站与Codex中转站测速
GPT中转站和 Codex中转站通常提供 OpenAI 兼容接口，可使用相同提示词批量测试多个模型，对比接口延迟、输出速度、HTTP 状态和 Token 消耗
使用步骤
- 填写中转站接口地址、API Key 和请求超时时间
- 获取模型列表，搜索并选择需要测试的模型
- 设置统一提示词和并发数，开始批量测速
- 对比首字延迟、总耗时、输出速度和回答质量
测试结果说明
网络距离、中转站负载、模型负载、回答长度和并发数都会影响结果，建议固定提示词并重复测试，结合多次结果判断稳定性
中转站测速与中转站掺水判断
中转站测速可以发现延迟异常、输出速度波动和模型回答差异，但这些指标不能单独证明中转站掺水，还需要结合模型能力测试、响应字段和多次对照结果判断
AI 中转站测速常见问题
AI Test 支持哪些接口
支持提供 /v1/models 和 /v1/chat/completions 路径的 OpenAI 兼容接口，可读取模型列表并批量发送相同提示词进行测速
AI Test 会保存 API Key 吗
不会，API Key 仅在当前浏览器页面内用于发起请求，不会写入 Cookie 或本地存储
为什么接口请求可能失败
常见原因包括接口地址错误、API Key 无效、模型权限不足、请求超时，或服务端未正确配置 CORS
AI 模型测速结果怎么看
交互体验优先看首字延迟，完整任务耗时看总响应时间，持续生成能力可参考 Token 输出速度
中转站测速能判断中转站掺水吗
中转站测速可以发现延迟异常、输出速度波动和模型回答差异，但这些指标不能单独证明中转站掺水，还需要结合模型能力测试、响应字段和多次对照结果判断