V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
YanSeven
V2EX  ›  程序员

简单梳理一下 llm 开发的变和不变?这个对吗。

  •  
  •   YanSeven · 4 小时 29 分钟前 · 144 次点击
    1. 大模型就是 CPU/GPU ,所有的一切都是围绕着 llm 的“智能”来的,所以 llm 大模型的架构、训练、推理的研发和优化是人上人,是软件工程新时代的核中核,一旦 llm 的智能停滞,一切都消散,属于金饭碗。

    2. 只要 llm 仍然是基于自然语言的,自然语言就是 0-1 比特流,是和 llm 交互的唯一入口,上下文窗口就相当于内存。内存和上下文窗口自然会不断发展和增长,但是任务和需求也会同步增长,上下文窗口大小和任务大小的矛盾将一直存在。所以,研究上下文工程的是银饭碗,包括压缩,检索,子代理编排等。

    3. llm 垂域应用,在有了智能和窗口管理,就可以面向各个垂直领域做改造适配来,这部分和业务以及领域知识强相关,垂域应用想要解决痛点,易于使用而不是流于 PPT 和 demo 还是不容易的,是真正落地的地方。属于铜饭碗。

    4. 工具,就算是多模态的大模型也不能直接吐出生成所有模态的数据来作为结果,那就真是造物主了,llm 仍然需要工具来做具体的事情,所以针对各种需求的旧工具改造,新工具创造仍然是持续的需求,但是鉴于工具由传统代码构建,而金饭碗和银饭碗的工作一定程度上已经可以批量生产工具来了,所以单纯的生产各种组件和工具会是一种流水线上的廉价”铁饭碗“。
    privater
        1
    privater  
       42 分钟前
    这类问题,丢在这里就是对遍地 chatbot 的不尊重...
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   849 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 19:59 · PVG 03:59 · LAX 12:59 · JFK 15:59
    ♥ Do have faith in what you're doing.