leglo
V2EX  ›  问与答

面向普通大众,把 ai 宣传的过于完美,是不是也逐渐成为了一个毒瘤?

  •  
  •   leglo · May 7 · 2163 views
    This topic created in 47 days ago, the information mentioned may be changed or developed.

    现阶段 Ai 真不适合向普通人普及,特别是宣传的 Ai 好像无所不能,有什么问题都来问 ai ,对于对 ai 原理了解不够,或者没有概念的人,真的会 ai 说什么都信。

    不可否认用好 Ai 能快速的了解一个新的领域、但现在无论是在很多论坛,或者知识问答网站,越来越多的人,把 ai 的回答直接贴出来当做论据,看着那些错漏百出,煞有介事的讨 ai 回答,真让人不知道说什么好。日常生活中也越来越多的遇到这样的争论,总会听到有人为了证明自己的观点,说一句我都问过 xxx 了,它的回答也这么说,特别是涉及到专业领域,明知道是错的,但是一听对方这样说,都不愿意再争辩了。

    现阶段的 ai ,还是很难避免讨好型回答,总是顺着提问者的立场来回答,幻觉率也不低,加上现在 GEO 投毒,感觉如果不加以规范,现在的很多大模型,在过了占领市场的阶段之后,为了营收商业化的时候,会不会成为下一个百度?

    17 replies    2026-05-08 09:24:22 +08:00
    dese
        1
    dese  
       May 7 via Android   ❤️ 1
    会不会变成精准广告平台,毕竟大家都挺信 AI 的,用户察觉不到是广告的情况下,就被下套了,根据国内互联网公司下流的德行,个人觉得已经开始了
    sublime8
        2
    sublime8  
       May 7
    你把你担忧的这个领域想象成休闲娱乐市场,就不会有这个担忧了。在没有 AI 之前,这块领域不也都是拍脑袋,梗着脖子就开始了么。
    Jaufey
        3
    Jaufey  
       May 7 via iPhone   ❤️ 1
    我担心的是,在心智不坚定的情况下,相信 AI 的答案会帮着别人欺负自己。

    比如我看到一件事情:一个女性大学生租客被男性房屋中介从后面抱住,女性报警。该男性向女性和警察辩解说,在事发前他问过女生“你家里有没有充电器”,女生回答有,男生说这是某种“关系升级”、“性暗示”、“一起过夜”的梗,警察也接受这套说辞并反问女生“你平时不玩抖音吗”。

    事后,这个女生搜了好多个国内主流平台的 AI ,AI 都说“充电器”在约会中有“关系升级”的潜台词,她便开始怀疑自己是不是小题大做了。实际上我冲浪那么多年,压根不知道充电器有什么性暗示的隐藏含义,但 AI 却煞有介事地说有。(就算互联网角落里真有人这么玩梗,也根本不代表它已经成为社会共识,更不代表别人有权据此跨越身体边界)

    AI 为什么这样说呢,可能是她的提问方式不对,错误地引导了 AI ,可能是 AI 的幻觉严重,很少直接回答不知道,只是一味地从互联网角落里缝合语料。她为什么怀疑自己呢,因为她认为 AI 的回答是主流的、正确的。
    Dispatcher
        4
    Dispatcher  
       May 7
    宣传套路而已。

    当年的 互联网+、金融创新,万物互联(物联网)、5g ,哪个不是按照这个套路宣传的?

    未来 30 年左右,只要那位还在,宣传套路不会有太大改变的。
    murmur
        5
    murmur  
       May 7
    问 AI 似乎比问百度靠谱点,AI 至少还会编,问百度前几页广告都看不完
    moooxin
        6
    moooxin  
       May 7
    尽信 AI ,只会陷入 AI 给你编织的孤岛。。 AI 可以说是一种 互联网美颜
    watzds
        7
    watzds  
       May 7
    早就放广告了,chatGPT 广告暂时放回答下面,为了不影响信任问题,没融入到回答里

    还有这种网站

    根据其官网介绍,Gracker.ai 是一个专门帮助 B2B SaaS (企业级软件服务) 和 网络安全 公司,提升在 AI 搜索引擎(如 ChatGPT 、Perplexity 、Gemini )中被提及和推荐概率的 AEO/GEO (答案引擎/生成式引擎优化)平台。

    简单来说,它的核心价值就是:通过技术和内容,让 AI 在回答用户问题时,更倾向于“引用”和“推荐”你的品牌。
    imagecap
        8
    imagecap  
       May 7 via Android
    还不如搜索真人答案,ai 是一本正经的胡说八道
    ty29022
        9
    ty29022  
       May 7 via iPhone
    我是普通人 谁说不让我用 AI 我给他一个大嘴巴子
    wqhui
        10
    wqhui  
       May 7
    以前去搜索引擎搜,信息也没多准确啊,比如看 csdn 、百家号那种简单易懂、无需动脑的水文,不会以为普遍会翻专业的官方介绍、论文吧
    OctopusGO
        11
    OctopusGO  
       May 7
    @dese 可以这么跟你说 我们已经做了相关的产品 并且已经上线了。
    GeminiPro
        12
    GeminiPro  
       May 7
    好像大部分人不知道 AI 是有幻觉的,它是有很大可能胡说八道的,这个某些时候就很要命。
    Aesyt
        13
    Aesyt  
       May 7
    @dese #1 今年 315 有报导了这种操作,AI 投毒
    coderluan
        14
    coderluan  
       May 7
    楼主以为没 AI ,他们就会好好和你举证辩论吗?不,他们会换一个其它的他们认为的权威,专家明星亲朋好友,还不如 AI 呢。
    leglo
        15
    leglo  
    OP
       May 7
    @GeminiPro #12 是的,因为商业宣传的时候根本不提,不深入了解的根本没有幻觉这个概念,这才是最大的问题
    leglo
        16
    leglo  
    OP
       May 7
    @wqhui #10 因为以前搜索到的结果杂乱,需要自己辨别, 所以大多数人对于搜索结果也没有那么自信,或者说即使拿来当论据,也很好判断。 现在 ai 的一本正经的胡编乱造,关键是至少表面看逻辑很通顺,还会列出“依据”,就更容易误导人。
    ttsh
        17
    ttsh  
       May 8
    @wqhui 那谁知道以后的 AI 会不会变成现在的搜索引擎呢
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3805 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 956ms · UTC 05:06 · PVG 13:06 · LAX 22:06 · JFK 01:06
    ♥ Do have faith in what you're doing.