对话类产品。
生产环境过去一直在用豆包,但是豆包 ttft 越来越大已经没法用了,所以想换 qwen 。
而且豆包还有概率出现脱靶问题和工具调用幻觉问题
结果 qwen3.7 plus 输出总是半截就中断,概率非常大没法用。
换成 3.8 max ,先是专属 endpoint 输出内容缺少 role ,这事我就排查了很久。
然后换成 dashscope 域继续用想着没事了,结果发现模型带图时输出质量严重下滑,区分不出注释内容和对话内容的角色概念。
搞得我现在一个没得用。做角色扮演对话还有什么好的选择吗
生产环境过去一直在用豆包,但是豆包 ttft 越来越大已经没法用了,所以想换 qwen 。
而且豆包还有概率出现脱靶问题和工具调用幻觉问题
结果 qwen3.7 plus 输出总是半截就中断,概率非常大没法用。
换成 3.8 max ,先是专属 endpoint 输出内容缺少 role ,这事我就排查了很久。
然后换成 dashscope 域继续用想着没事了,结果发现模型带图时输出质量严重下滑,区分不出注释内容和对话内容的角色概念。
搞得我现在一个没得用。做角色扮演对话还有什么好的选择吗