关于 ChatGPT 的恶意揣度

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 634 天前的主题，其中的信息可能已经有所发展或是发生改变。

假设 ChatGPT 的认可度越来越高，越来越智能，以后大家遇到问题会首先去问 ChatGPT 。
那如果将某些问题的答案修改为管理者喜欢的答案。
更甚者，直接输出某些极端的观点，是否有控制人的思考 /想法 /三观的可能性？

chatgpt

控制人

认可度

揣度

26 条回复

mxT52CRuqR6o5

2023-02-15 11:09:22 +08:00

别说 chatgpt 了，就算没有互联网，也可以去通过报纸做到你所说的事情

zhlxsh

2023-02-15 11:10:58 +08:00 via iPhone

会，前提是把其他回去信息的渠道都关掉，比如说先焚书
要不然效果就是发个假新闻，时间长了大家就不会找你问了

mxT52CRuqR6o5

2023-02-15 11:11:54 +08:00

真要说的话，在互联网时代，对于聪明人来说，如果对一个信息源的可信度有所怀疑，可以很低成本的去找其他其他信息源的信息
在报纸时代，去找其他信息源的成本可就高了

eason1874

2023-02-15 11:17:31 +08:00

有这个可能，OpenAI 创立之初就说目标是促进和开发 Friendly AI ，并且向公众开放专利和研究成果

OpenAI 母公司是盈利组织，后来又搞了个盈利子公司，利润封顶 100 倍

yumenawei

2023-02-15 11:18:55 +08:00

@zhlxsh #2
@mxT52CRuqR6o5 #3

那有没有可能出现这种情况：由于大部分人转为使用 ChatGPT ，其他渠道没有人用，进而关停，只剩 ChatGPT 。信息无从考察。

eason1874

2023-02-15 11:22:24 +08:00

#4 才发现打错了，更正：OpenAI 母公司是非盈利组织

zfjdif

2023-02-15 11:22:46 +08:00

@yumenawei

这样的话，ChatGPT 的内容从哪里来呢

yaphets666

2023-02-15 11:29:10 +08:00

当然有这种可能，但是影响不大。现在的出版物，新闻媒体等等已经在这样做了。没有分辨能力的话，很容易被洗脑

yvescheung

2023-02-15 11:30:37 +08:00

这种情况不需要恶意揣测，因为早就付诸实践了，信息茧房了解一下

otakustay

2023-02-15 11:31:32 +08:00

难道我从出生开始不就一直在被家庭、教育、媒体控制着思考 /想法 /三观吗？

Ericcccccccc

2023-02-15 11:31:58 +08:00

你要找的是不是新闻联播.

deorth

2023-02-15 11:32:45 +08:00 via Android

你居然以为你现在的思考 /想法 /三观没被控制

yumenawei

2023-02-15 11:34:57 +08:00

@zfjdif #7 内容可以由管理员手动输入？那样可控性更高。

@yaphets666 #8 想到了媒体的力量，感觉这么说有异曲同工之妙。

liveoppo

2023-02-15 11:48:40 +08:00

@yumenawei
那有没有可能出现这种情况：由于大部分人转为使用 ChatGPT ，其他渠道没有人用，进而关停，只剩 ChatGPT 。信息无从考察。

--------------------------
担心信息闭塞的不止你一个，而是一部分人，所以其他渠道总有人用，最终会达到一个平衡状态。

liveoppo

2023-02-15 11:49:58 +08:00

担心信息闭塞的不止你一个，而是一部分人，所以其他渠道总有人用，最终会达到一个平衡状态。-----------这里仅指信息自由的环境。

timeance

2023-02-15 11:55:06 +08:00

互联网使信息茧房成为可能，OP 是担心 ai 能更加有效率的影响个人三观吗？

yyf1234

2023-02-15 11:59:04 +08:00 via iPhone

你们不会用 chatgpt 来看新闻看政治看时事吧？不会吧？

Qiss

2023-02-15 12:01:20 +08:00

看啥东西都要加上一些自己的思考，不能只是一味的停别人的

rocksolid

2023-02-15 12:02:58 +08:00

这不就是搜索引擎在做的么

zooo

2023-02-15 12:07:26 +08:00

别担心了
普通人担心没有用

实际是情况是，会出现各种不同的 AI ，它们在一些主观立场上态度完全不一样

至于为什么会出现，因为人类天生会产生分歧，因此不同势力集团会训练不同态度立场的 AI ，通过这些 AI 来诱导群众

daliusu

2023-02-15 12:10:09 +08:00

你说的这个，现在没有吗？尤其是墙内社交平台，我很费解

cherryas

2023-02-15 13:15:59 +08:00

你说的已经发生了,chatgpt 刚开放那几天我问了俄乌的问题 chatgpt 那回答真是绝对中立,现在再问明显是偏向美国的. (此回复拒绝对谁对谁错展开讨论)

SunsetShimmer

2023-02-15 13:43:16 +08:00 via Android

如果一个人只相信 ChatGPT 的输出，那么这个人本来就不具备判断是非的能力。
如果它反人类了，正常人看不出来吗？网友对“政治”的敏感度不够高吗？

Hihanying

2023-02-15 14:09:59 +08:00

建议了解下传播学，可能对信息媒介如何影响群体心智会有更深的理解

mxT52CRuqR6o5

2023-02-15 14:18:35 +08:00

@yumenawei
就像#14#15 说的那样，我还是比较认同的
有没有互联网真的是差别很大
在没有互联网的时代，比如我是个美国人，我信不过美国媒体，我想去看中国媒体的信息，可能相当的难。
但如果是现在，这种事情想做的话都是相当轻松的

chitanda

2023-02-15 14:37:19 +08:00

@zhlxsh 不用这样，只需要潜移默化的影响你的思维，观点，成型后你即使看到真实的信息也不会去相信的。