V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
imaxwell
V2EX  ›  随想

今天忽然想到一个深度研究引用语料素材投毒的问题。

  •  
  •   imaxwell · Sep 18, 2025 via Android · 1265 views
    This topic created in 224 days ago, the information mentioned may be changed or developed.

    如果有人在做完 Deep research 之后把相关的全文公布在互联网上,但是篡改其中的结论和部分数据,使其结论利于自己,不利于友商。 那么下一次别的人在做同样主题的 deep research 的时候,AI 应该能够通过关键词和语义向量匹配到之前的这一份报告。对于其中的篡改的结论和数据,AI 会怎么处理呢?是随机接纳其中的结论和数据,还是会尝试交叉验证确认一下?

    avrillavigne
        1
    avrillavigne  
       Sep 18, 2025 via Android
    https://www.cloudflare.com/zh-cn/learning/ai/data-poisoning/
    什么是 AI 数据投毒?

    AI 数据投毒是指故意在 AI 模型的训练数据中引入偏见,从而产生有偏见的输出。
    avrillavigne
        2
    avrillavigne  
       Sep 18, 2025 via Android
    avrillavigne
        3
    avrillavigne  
       Sep 18, 2025 via Android
    其实把你主题内容放进 ai ,他会告诉你
    imaxwell
        4
    imaxwell  
    OP
       Sep 18, 2025 via Android
    @avrillavigne 谢谢,看来 ai seo 也是一场攻防战。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2768 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 36ms · UTC 10:57 · PVG 18:57 · LAX 03:57 · JFK 06:57
    ♥ Do have faith in what you're doing.