• 请不要在回答技术问题时复制粘贴 AI 生成的内容
Liu6
V2EX  ›  程序员

各位 AI 大佬, 目前有流式输入的 llm 吗? 有支持这个功能吗?

  •  
  •   Liu6 · 9h 33m ago · 562 views
    3 replies    2026-06-05 18:17:24 +08:00
    KisekiRemi
        1
    KisekiRemi  
       7h 34m ago
    流式输入?输出流式最主要的是用户侧的使用体验。参考了 AVG 游戏里的文本显示形式。至于输入...你在输入的状态下就是流式的嘛
    SoulFlame
        2
    SoulFlame  
       7h 26m ago
    我能想到的产品就是火山引擎的 豆包实时语音对话 2.0 ,我之前接入语音合成接触过一点。
    他的语音输入、输出是流式的,输出也可以转成文字直接输出。但这个产品可能不是完全适合你用
    jixiwen2013
        3
    jixiwen2013  
       7h 23m ago
    @SoulFlame 流式音频输入是 ASR 的常规操作,但是 llm 什么场景下会需要流式输入我没太想明白,你说的那个应该也是为了流式 ASR 而已
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1196 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 17:40 · PVG 01:40 · LAX 10:40 · JFK 13:40
    ♥ Do have faith in what you're doing.