V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
des
V2EX  ›  分享发现

针对神经网络的单像素攻方法

  •  
  •   des · 2018-02-25 21:59:32 +08:00 · 2155 次点击
    这是一个创建于 2448 天前的主题,其中的信息可能已经有所发展或是发生改变。

    总觉得会有这么个东西,现在终于看到了 也就是说即使只有一个像素,对于整个结果也可能有巨大影响,因为神经网络"理解"的和人类完全不一样

    链接: https://github.com/Hyperparticle/one-pixel-attack-keras

    4 条回复    2018-02-26 17:40:52 +08:00
    siyemiaokube
        1
    siyemiaokube  
       2018-02-25 22:27:50 +08:00 via iPhone
    这个出了有一段时间了吧。。本来数据集里就没有这种奇怪的噪点,识别不出来也很正常。

    如果希望能识别这种数据也很容易啊
    takato
        2
    takato  
       2018-02-25 22:36:51 +08:00
    我觉得和人类完全一样。

    你碰到过一个极致的坏人,之后就不会再相信很多好人。
    des
        3
    des  
    OP
       2018-02-26 11:55:05 +08:00 via Android
    @siyemiaokube 但是投入使用的话,不可能没有随机噪点
    picasso250
        4
    picasso250  
       2018-02-26 17:40:52 +08:00
    首先,这是用神经网络对抗神经网络.

    其次, 神经网络的训练过程就是让这个网络对最终的结果非常确认,要么 1,要么 0, 不存在模糊逻辑. 因此才有了这个"漏洞".

    再再次, 如果真的投入使用, 我们是可以不断用新的数据(包括那些恶意构造的)来重新训练的.
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1205 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 18:12 · PVG 02:12 · LAX 10:12 · JFK 13:12
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.