正在验证访问权限…
材科源图 · 算力指挥枢纽AI INFRASTRUCTURE · H200 CLUSTER
等待登录

模型评测

检查引擎…

模型接口

压测配置

服务性能
性能压测参数 每请求独立 salt;服务与网关需支持。
逗号分隔,单档并发 1–64;最多 8 档。
SLO 阈值与模型参数

压测结果

等待开始配置后发起第一轮测试
吞吐峰值(tok/s)—
已完成请求—
失败请求—

完成一个并发档位后,这里会显示吞吐量对比。

各并发档位的测量结果
并发成功 / 失败输出 tok/s请求 / 秒TTFT P50 / P95
ms
TPOT P95
ms
总延迟 P95
ms
SLO 达标
请求 / 秒
暂无测量结果
指标说明

TTFT 是首个非空生成片段的延迟(含思考);TPOT =(总延迟 − TTFT)/(输出 token − 1)。吞吐量取自服务 usage,不使用流式片段数代替 token。预热不计入测量,相同提示词可能命中前缀缓存。