V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
xiaoshu
V2EX  ›  程序员

[了解原理是用好工具的前提] AI 也一样,六张图讲透优势和局限

  •  
  •   xiaoshu · 1 天前 · 1378 次点击

    六张图融入我全部 AI 学习笔记和理解,分享给大家

    https://mp.weixin.qq.com/s/criAfII6UdkhHNG8ect7CA

    14 条回复    2025-12-08 20:00:34 +08:00
    wenzhoou
        1
    wenzhoou  
       1 天前
    有些片面。前一代 AI 可能是这样的。
    但是现在的 AI 已经越来越成熟了,我们的认知也需要跟着提高。
    比如说让 AI 计算 17x28 他不会,但是他也会自己调用工具来计算,这就很厉害了。
    作为一个工具,还是要看你怎么用。
    如果仅仅把 AI 看成是成语接龙游戏,那么人类的智能,其实也是成语接龙游戏。
    你看小孩子,你跟他说"锄禾日当~"他就会说"午"
    iOCZS
        2
    iOCZS  
       1 天前
    因果关系有问题:AI 给每个词安排一个位置,意思相近的词,坐标就相近。
    我觉得嵌入是 AI 的基础,将各种材料通过嵌入表示成了向量。
    siweipancc
        3
    siweipancc  
       1 天前 via iPhone
    我喜欢跨领域问东西,然后看 ai 会不会胡说八道
    xiaoshu
        4
    xiaoshu  
    OP
       23 小时 26 分钟前 via iPhone   ❤️ 2
    @wenzhoou tool use 是很厉害的扩展,但基础没变。
    比如,我测试过最新的 gpt5.1 ,解一个华容道死局,会胡乱说,但是如果让其通过写代码解题,就能立即确定无解。

    代码的确定性弥补了模型的不确定性,
    但没有改变模型不确定的本质
    xiaoshu
        5
    xiaoshu  
    OP
       23 小时 20 分钟前 via iPhone
    十年前我在 V 站找到实习,入行程序员,一直很喜欢这里。

    我会陆续把自己在腾讯内网的文章与课程同步到这里,对 AI 学习、应用开发和最佳实践,也可以关注我新开的公众号。

    很高兴回答大家的问题。
    katwalk
        6
    katwalk  
       20 小时 38 分钟前
    了解大语言模型( LLM )底层「基于概率预测下一个 Token 」的逻辑,老实说,对我而言更像是一种社交谈资,对实际提升使用水平基本没有帮助。真正让我 AI 使用技能得到提升的,不是 AI 理论,而是每一次对话、实践中积累一点点的实操经验的累积。这就好比普通人学游泳,并不需要弄懂流体力学。
    xiaoshu
        7
    xiaoshu  
    OP
       12 小时 15 分钟前 via iPhone
    @katwalk 专业运动员需要。
    就好比普通人跑步并不需要带一身传感器,但是职业运动员会。

    知道原理,会让你理解局限,比如什么时候更容易幻觉,包括积累经验
    katwalk
        8
    katwalk  
       9 小时 46 分钟前
    @xiaoshu #7 你说的有道理,普通人了解一下也无妨。特别是你把图做的这么简洁易懂的情况下。
    sk217
        9
    sk217  
       7 小时 45 分钟前
    @katwalk #6 你积累的这些经验,下个版本,训练参数一改,就又没什么用了,都是拿语料+输出 在算一个期望值,这个期望值并不能覆盖所有的地方
    encounter2017
        10
    encounter2017  
       4 小时 21 分钟前
    @katwalk 原理还是有用的,你知道 token, 知道词表,那你就可以通过手动替换词表做一些很 hack 的事情,可以为中文定制一个更高效的子词词表,让相同的内容用更少的 Token 表示
    katwalk
        11
    katwalk  
       4 小时 1 分钟前
    @encounter2017 我们日常和 LLM 对话的时候如何应用,能举个例子吗?
    katwalk
        12
    katwalk  
       4 小时 1 分钟前
    @sk217 不至于完全没用。
    Yuunie
        13
    Yuunie  
       1 小时 33 分钟前
    这些问题很久之前我都问过 AI 了,它确实是这么和我说的。
    都有 AI 了,它怎么运作的问它不就行了。
    Yuunie
        14
    Yuunie  
       1 小时 32 分钟前
    @katwalk 问 AI 应该怎么问它能得到更准确的答案就好了
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   2954 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 13:32 · PVG 21:32 · LAX 05:32 · JFK 08:32
    ♥ Do have faith in what you're doing.