刚刚午休上厕所时,想到 2 个担忧的点。
1 诈骗绑架等场景,利用受害人照片、声音,生成十分逼真的虚假语音和照片。
“你的孩子被绑架”这种诈骗方式,之前都是假短信,后面如果出现逼真的假语音和图片,哪个家长能受得了?。
2 看到很多人开始把自己的 blog 文章等喂给大模型,培养自己的助理。如果一个人留下了非常多的文本记录,涉及自身方方面面。利用这些材料,训练出的模型,再对这个模型进行审问,其反应是否可能非常接近本人真实的响应?
有趣的点,可以用于和古人(伟人)对话?
但若收集某人(竞争对手)的所有输出材料,训练出的模型,可用于刺探对方对各类问题可能的想法?
1
fangpeishi OP 用 10 万条微信聊天记录和 280 篇博客文章,我克隆了一个数字版自己
https://sspai.com/post/79230 |
2
fangpeishi OP AI 偽造你聲音,連你爸媽都能騙?為何語音合成詐騙盛行?
https://www.gvm.com.tw/article/100491 |