V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
Eagleyes
V2EX  ›  问与答

使用 ChatGPT 类应用是否会陷入重度信息茧房?

  •  
  •   Eagleyes · 160 天前 · 3644 次点击
    这是一个创建于 160 天前的主题,其中的信息可能已经有所发展或是发生改变。
    使用 Google ,Bing 搜索引擎,或者小红书,抖音,今日头条一类,已经是信息茧房,
    ChatGPT 这种结果单一的,不是更容易陷入信息茧房吗?大家怎么看?


    个人理解的信息茧房程度
    低度:搜索引擎(未被收入的就看不到);
    中度:小红书,抖音类,今日头条类(根据喜好推荐);
    重度:ChatGPT 类,(结果单一);
    第 1 条附言  ·  160 天前
    比如我搜索北京旅游攻略,哪些地方值得去?

    1 、搜索引擎会搜出一堆旅行社广告,携程广告,以及很多碎片结果,游记,小红书甚至包括冷门打卡景点;
    2 、抖音会搜索出很多人,旅行社的打卡攻略,1 日游套餐,必玩,必吃选项;
    3 、GPT 会告诉你,一个结果,必玩 123456 。很难包括冷门景点

    明白?我在意的是有更多的选项和反馈,即使这些是垃圾信息或者是真小众忽悠人的。
    可能 GPT 替我过滤掉了这些,有时候是好事,有时候却是坏事。
    41 条回复    2024-06-17 19:46:22 +08:00
    MillaMaxwell
        1
    MillaMaxwell  
       160 天前   ❤️ 3
    使用 chatgpt 进行信息搜索本身就很成问题了吧?
    daiaoqikk
        2
    daiaoqikk  
       160 天前   ❤️ 14
    我觉得正好相反,ChatGPT 是帮我打破信息茧房的重要工具

    信息茧房,存在于我们的手机里,不存在于我们的脑子里,如果思想天马星空,对看到的任何事物都抱有无限探索的兴趣,就不会受制于信息茧房。

    所以问题的根源在于:我们已经被驯化的只会被动的接受这些信息,而不是主动去探索。

    如果解决了这个最本质的问题,唤醒了自己的思想,所有的应用都会变成辅助工具。

    而 gpt ,会是最好用的工具,他会给我们相对来说全面而且权威的回答,但前提是用好了他。
    SkywalkerJi
        3
    SkywalkerJi  
       160 天前
    你这里这种社交媒体是只会推送你喜欢看的才会信息茧房。比如不一样的人问相同的问题答案可能是相反的。
    chatgpt 又不会根据你喜好回答。
    murmur
        4
    murmur  
       160 天前
    抖音+百度是最茧房的吧
    JavenXiao
        5
    JavenXiao  
       160 天前
    你问什么它答什么,主动权不是在你自己吗,除非你作茧自缚。
    Eagleyes
        6
    Eagleyes  
    OP
       160 天前
    @murmur #4 我觉得搜索引擎起码给你提供了很多选择,你要自己去挑一个自己认为好的,抖音也是搜索有一堆结果。

    但 GPT 直接给了你一个结果,比如我搜索北京旅游攻略,哪些地方值得去?
    搜索引擎会搜出一堆旅行社广告,携程广告,以及很多碎片结果,游记;抖音会搜索出很多人,旅行社的打卡攻略,必玩,必吃选项; GPT 会告诉你,一个结果,必玩 123456.

    明白?我在意的是有更多的选项和反馈
    wildman9527
        7
    wildman9527  
       160 天前
    OP 怕不是对信息茧房有啥误解?
    但凡喂点合适的 prompts, 只要不是要求最近的信息, ChatGPT 信息什么吐不出来??
    yjsdaniel
        8
    yjsdaniel  
       160 天前
    确实是有,但不是你理解的。

    首先训练的深度学习网络参数是从数据来的。

    1 数据的量会不一样,小语种会非常不利;
    2 各种语境下的数据都是带有偏见性的,有些还有大量的暗语,同样的模型并不能理解,训练中还会伴随大量的人工纠正
    3 有些语境下会有敏感词审核,所以会产生不一样的表达方式

    所以最后得到的大概率不是信息本身的茧房,而是如何认识信息的方式本身的差异。
    chesha1
        9
    chesha1  
       160 天前   ❤️ 1
    有价值判断的问题才容易变成信息茧房,如果你只问 chatgpt 有客观答案的问题,怎么会有信息茧房?同样的问题你去搜索引擎或者社交媒体也差不多

    就算你真的问价值判断的问题,chatgpt 也比任何社交媒体好,在人工干预过回答之后,chatgpt 的道德水平基本比 99%的人类都高,就算你问很尖锐的政治问题,它也只会结合历史跟你打太极,比老胡还中肯
    hazardous
        10
    hazardous  
       160 天前
    是不是茧房取决于训练的语料,它至少可以在这个大范围里给你公平的答案,而不是给你最喜欢的答案。
    我觉得依赖 gpt 的问题在于,因为给出的结果过于准确,导致你搜索过程中的“意外收获”减少,虽然加快了解决问题的速度,但是创造力会降低。
    emiyamuto
        11
    emiyamuto  
       160 天前
    我大概理解了 op 的意思
    op 的信息茧房定义更多是在于信息的深度,即对于同一个问题的理解多样性受到限制
    而常识上的信息茧房其实定位更多是在于信息的广度,即对于不同问题的触达受到限制
    但是根据 gpt 工作的原理,其实它起到的是资料聚合的功能,也就是你通过其他方式共计搜索到 10 个信息,gpt 起到帮助你筛选重复去掉差评后直接展示剩余的内容的作用,理论上是不需要有这种担忧的
    只是现在 gpt 实在是太能胡扯了,导致的不信任感确实会让人觉得:“这对吗”的疑问,我觉得还是至少目前还是需要结合使用的
    tyrantZhao
        12
    tyrantZhao  
       160 天前
    使用任意单一信源都会造成信息茧房。
    cmdOptionKana
        13
    cmdOptionKana  
       160 天前
    信息茧房是系统性的,而人通常有许多途径接受信息。

    造成信息茧房的罪魁祸首从来不是任何一个工具,而是人的偏见。
    billzhuang
        14
    billzhuang  
       160 天前
    "ChatGPT 这种结果单一的",首先这个因为怎么得出来的。
    mlhorizon
        15
    mlhorizon  
       160 天前
    对于不动脑子的来说,是,但这不正是他们要得吗?他们只会抛出一个大问题索取一个答案。
    对于爱动脑子的人来说,即使 ChatGPT 以后进化到会忽悠人“驯化”人,他也会多找几个 GPT 来做印证。
    Tina17
        16
    Tina17  
       160 天前
    chatgpt 结果单一 是什么意思?
    jonsmith
        17
    jonsmith  
       160 天前
    刚问了 chatgpt ,它说自己会造成信息茧房。多样化信息来源、求证信息、批判性思维能尽量避免茧房。

    抖音是最大的信息茧房,不光喜好推荐、信息单一片面,还有虚假造谣信息满天飞。
    Jacobson
        18
    Jacobson  
       160 天前
    一个工具,如果你只用它,必然茧房。

    如果它只是你的工具之一,这怎么会成为茧房呢?

    相信没人会把它当成唯一的信息来源工具吧?

    茧房不茧房,不取决于你使用的工具,取决于自己。
    murmur
        19
    murmur  
       160 天前
    @Eagleyes 小红书没有最基本的三观,各种去泄洪封禁区域、废弃矿洞、军事领地打卡,已经不是当年那个小红书了

    至少 GPT 还有底线
    Eagleyes
        20
    Eagleyes  
    OP
       160 天前
    @chesha1 #9 看 append ,另外同意你说的。打太极没有意思,要的就是犀利的观点,包括正反两面,可以是对的,也可以是错的。搜索引擎可以搜出,就是得自己一个个找去。
    Eagleyes
        21
    Eagleyes  
    OP
       160 天前
    @emiyamuto #11 差不多是这个意思,它去重,没问题,它给我过滤它认为不对的,就很有问题。

    我在意的是有更多选择和结果供我判断,它给出的可能不够。append 已经补充例子
    pkoukk
        22
    pkoukk  
       160 天前
    每次问 GPT 的回复都不完全一样,这也会有茧房?
    SmiteChow
        23
    SmiteChow  
       160 天前
    千人千面才是信息茧房,人工智障是千提示词千面,所以他不会使人落入信息茧房。
    missqso
        24
    missqso  
       160 天前
    对人类总体,是信息茧房;
    对个人,不是。
    iCloudError
        25
    iCloudError  
       160 天前
    @Eagleyes 你可以继续提问 gpt ,除了 123456 ,还有哪些地方值得去
    SiLenceControL
        26
    SiLenceControL  
       160 天前
    不知道你们接触过网红模特没,各个脑子才是真正的信息茧房,甚至秦始皇都不知道是谁
    ronman
        27
    ronman  
       159 天前
    使用什么并不会,依赖什么才会
    jianchang512
        28
    jianchang512  
       159 天前
    好消息:大茧房里不让用小茧房,所以无需担心,如果有能力用上小茧房了,更不用担心了
    坏消息:看看抖音、微信视频号的评论区,茧房还是太大了
    sl0000
        29
    sl0000  
       159 天前
    你对 a thing 一无所知或者一知半解的时候使用 ChatGPT ,它应该不会成为你的信息茧房;
    当 ChatGPT 无法告诉你答案或者给你提示的时候,它应该算是信息茧房了,那么就换个模型再试试,实在不行就只能使用传统搜索引擎
    param
        30
    param  
       159 天前 via Android
    这么说好像跟用的人有关。我经常让 ChatGPT 帮我寻找技术工具、开源库。ChatGPT 能帮我少走很多弯路,可以按照我的要求精准找到符合我需求的技术,因此 ChatGPT 教会了很多我原先不懂的东西。但是过于冷门的东西,确实 ChatGPT 也不会向我推荐。
    kaedea
        31
    kaedea  
       159 天前 via Android
    使用 chatGPT 不会,使用文心一言会。
    Fred18
        32
    Fred18  
       159 天前
    信息茧房有那么可怕么,别制造焦虑
    shulinbao
        33
    shulinbao  
       159 天前 via iPhone
    chatgpt 不会让你陷入信息茧房,但用 chatgpt 检索信息还不如掉进信息茧房里面呢......
    inroading
        34
    inroading  
       159 天前
    余华的《十八岁出门远行》,是一篇很多年前发表的短篇小说,问 ChatGPT 4 ,完完全全胡诌八扯,像模像样

    > 余华的小说《十八岁出门远行》讲述了主人公少年李勇的成长故事。这部小说主要描绘了他从十八岁那年开始的一系列生活经历,包括他的家庭背景、他在外的奋斗和成长,以及他对生活、爱情和人生价值的探索。

    > 小说开始于李勇十八岁生日那天,他决定离家出走,远离他那充满暴力的父亲。在这次“出门远行”中,李勇经历了许多生活的磨难和挑战,包括劳动、恋爱、失恋、以及对个人身份的深刻反思。通过这些经历,李勇从一个懵懂少年逐渐成长为一个成熟的成年人。

    > 余华的这部作品深刻地探讨了人在成长过程中面对的各种内心的冲突和外界的挑战,通过李勇的故事,反映了人性的复杂和多面性。这部小说不仅是一部成长小说,也是对社会现状和人性深度的思考和探索。
    sampeng
        35
    sampeng  
       159 天前   ❤️ 2
    还是方法论问题。如果什么问题只问答案,就非常限入信息茧房。如果只搜事实,就不会。

    举个例子。上周我一个帖子有人说马来西亚那么小的地方都全民免费医疗。ok 。我先去问 chatgpt ,马来西亚比中国的税谁高谁低。来一句马来西亚更低。好,我换个问法。马来西亚的多档位税是多少,中国的多档位税是多少,以现在的汇率换算。

    这个答案就变成了事实上的税率。再反问谁的更高。答案就变成了马来西亚的更高。但这个时候还不能停,继续 google 查马来西亚现阶段的税率,再验证一下 chatgpt 给的答案是否靠谱。

    所以,chatgpt ,除非是你懂的领域,只问结果,你能判断对错。没问题。不熟悉的领域,拆解成事实,只问事实,再去 google 做一下事实验证。很难存在存在一个特别验证的信息茧房。本质互联网也是一个超大的信息茧房。。。
    sampeng
        36
    sampeng  
       159 天前
    再拿 LZ 的例子。如果只问事实。你要上来只要结果,什么地方旅游。那真的是 12345.
    但是,我是这样一步一步问的:

    北京有什么本地人喜欢去玩的地方。我希望有更普适性,而不是大而全的
    北京人周末经常去哪儿玩
    除了以上再给我几个冷门,很少人去。但是值得去的。

    这是基于 北京有哪些地方是旅游的事实去聊。值得是一个很客观的东西,每个人都看法不一样。chatgpt 无论如何回复都是大而宽的。我只是需要它告诉我有哪些地方可以玩。好不好玩。我再根据结果去其他地方搜。就可以得到一个非常好喝适合自己的游玩清单。
    kakaYoung
        37
    kakaYoung  
       159 天前
    还是要靠自己顺藤摸瓜的能力来打破信息茧房,另外 gpt 相对来讲会有些时候找出来一些意想不到的东西
    Ericcccccccc
        38
    Ericcccccccc  
       159 天前
    只用中文就是最大的信息茧房。
    NoOneNoBody
        39
    NoOneNoBody  
       159 天前
    这种情况你应该用 kiwi 一类的 llm ,gpt 等用(指免费的)的是某时间点前的信息汇总
    另有部分如 kiwi/gemini pro 等是可以实时搜文章总结的

    问也有技巧,不要问结论,而是让它帮你搜,当然可能也是搜出十来条结果,不会像搜索引擎那么多
    然后针对性追问,或者排除部分后让它二搜补充

    说到底就是一个词:思考。不要人家说什么就是什么(这样的话无论用什么都是信息茧房),要思考、验证、再问……
    v2esand
        40
    v2esand  
       159 天前
    我觉得打破信息茧房不是靠:问一个问题,得到相反的两个结果(比如说所谓辩证法的答案——eg.辩证的看待既好又不好)。而是靠:答案不是基于你现有的思维/观念地图构建出来的答案。是基于你没探索到的思维/观念得出的答案,它很确定也是没有问题的,不如说很确定反而更有意义。
    Daitabashi
        41
    Daitabashi  
       159 天前
    如果你认为你的网络生活有信息茧房 那就去真实世界寻找答案
    反过来一样的道理
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2692 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 04:13 · PVG 12:13 · LAX 20:13 · JFK 23:13
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.