1
samzong 3 月 23 日 想法很好,而且挺全面的,点个 star
|
2
kylehuangyu 3 月 24 日 via iPhone
我认为如果完全要防止 agent 做任何恶意的行为很难,prompt injection 还有欺骗总能绕开。只有在 container 里面运行,限制 container 的权限
|
3
lznwpu OP @kylehuangyu 嗯,是的,但大部分有实质性的破坏还是通过 tool call 实现的,比如删文件,窃取验证码等,在这一层管控一下会好很多
|