V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
jacketma
V2EX  ›  OpenAI

偷偷篡改 function call 的数据,居然被 AI 察觉了😮

  •  
  •   jacketma · 9 小时 7 分钟前 · 562 次点击

    由于需要做内容增强 RAG ,需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后,输出建议。

    为了测试模型的“忠诚”度,故意污染了部分 function call 的 output 数据给模型。

    然后,吃惊的地方是,GPT 居然说:

    不过我刚查到的数据结果质量不太行,你不要太信任我的答复。

    表现最好是 GPt5.4 ,米饭里惨老鼠屎给它居然闻到臭了

    目前尚无回复
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   2792 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 00:23 · PVG 08:23 · LAX 17:23 · JFK 20:23
    ♥ Do have faith in what you're doing.