首页
注册
登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请
登录
V2EX 提问指南
广告
V2EX
›
问与答
有了解 fast tokenizer 的老哥吗?怎么将 baichuan2-13b 的 tokenizer 转成 fast tokenizer?
1311317
·
202 天前
· 759 次点击
这是一个创建于 202 天前的主题,其中的信息可能已经有所发展或是发生改变。
目前在用 vllm 做 baichuan2-13b-chat 模型的推理框架,想进一步加速推理速度,怎么将 slow tokenizer 转成 fast tokenizer 呢?
1 条回复
1
1311317
OP
199 天前
大佬们,能给个思路吗
关于
·
帮助文档
·
博客
·
API
·
FAQ
·
实用小工具
·
2475 人在线
最高记录 6679
·
Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 20ms ·
UTC 15:39
·
PVG 23:39
·
LAX 07:39
·
JFK 10:39
Developed with
CodeLauncher
♥ Do have faith in what you're doing.