
1
aicodingsh OP PRO |
2
xclrr 8 days ago
|
3
aicodingsh OP PRO @xclrr #2 没有问题 你理解的 input 是包含 cache 的, 平台的是在转发层 去除后的
|
4
xclrr 3 days ago
@aicodingsh 那你的意思是 input 是新增 token ?
|
5
aicodingsh OP PRO @xclrr #4
OAI 对 input 的定义是「 input + cache 」,而 A 社的统计方式里,input 和 cache 是分开计算的。 转发层这边已经统一做了兼容处理,因此在 OAI 场景下,当前显示的 input 实际是“去除 cache 后”的 input 。 |