总觉得会有这么个东西,现在终于看到了 也就是说即使只有一个像素,对于整个结果也可能有巨大影响,因为神经网络"理解"的和人类完全不一样
1
siyemiaokube 2018-02-25 22:27:50 +08:00 via iPhone
这个出了有一段时间了吧。。本来数据集里就没有这种奇怪的噪点,识别不出来也很正常。
如果希望能识别这种数据也很容易啊 |
2
takato 2018-02-25 22:36:51 +08:00
我觉得和人类完全一样。
你碰到过一个极致的坏人,之后就不会再相信很多好人。 |
3
des OP @siyemiaokube 但是投入使用的话,不可能没有随机噪点
|
4
picasso250 2018-02-26 17:40:52 +08:00
首先,这是用神经网络对抗神经网络.
其次, 神经网络的训练过程就是让这个网络对最终的结果非常确认,要么 1,要么 0, 不存在模糊逻辑. 因此才有了这个"漏洞". 再再次, 如果真的投入使用, 我们是可以不断用新的数据(包括那些恶意构造的)来重新训练的. |