V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
fangpeishi
V2EX  ›  自言自语

AI 可能被用与作恶的 2 个场景

  •  
  •   fangpeishi · 2023-04-17 13:50:07 +08:00 · 668 次点击
    这是一个创建于 584 天前的主题,其中的信息可能已经有所发展或是发生改变。

    刚刚午休上厕所时,想到 2 个担忧的点。

    1 诈骗绑架等场景,利用受害人照片、声音,生成十分逼真的虚假语音和照片。

    “你的孩子被绑架”这种诈骗方式,之前都是假短信,后面如果出现逼真的假语音和图片,哪个家长能受得了?。

    2 看到很多人开始把自己的 blog 文章等喂给大模型,培养自己的助理。如果一个人留下了非常多的文本记录,涉及自身方方面面。利用这些材料,训练出的模型,再对这个模型进行审问,其反应是否可能非常接近本人真实的响应?

    有趣的点,可以用于和古人(伟人)对话?
    但若收集某人(竞争对手)的所有输出材料,训练出的模型,可用于刺探对方对各类问题可能的想法?

    fangpeishi
        1
    fangpeishi  
    OP
       2023-04-19 18:11:33 +08:00
    用 10 万条微信聊天记录和 280 篇博客文章,我克隆了一个数字版自己
    https://sspai.com/post/79230
    fangpeishi
        2
    fangpeishi  
    OP
       2023-04-19 18:12:40 +08:00
    AI 偽造你聲音,連你爸媽都能騙?為何語音合成詐騙盛行?
    https://www.gvm.com.tw/article/100491
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2493 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 15:51 · PVG 23:51 · LAX 07:51 · JFK 10:51
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.