关于AI安全治理的讨论

#1
各位师傅们好,近期各种AI工具、平台越来越多。但这AI这部分的安全治理,却很少见到相关工具,大多数都是基础安全的还是web那些东西,有什么好用的治理手段和工具吗。



凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!凑字数!
2026-04-28
#2
你是说code planning 、mcp、skills 么 目前没有什么好的工具只能说如有几乎没用 因为ai都有幻觉基于概率预测 攻击100成功一次就行而防御必须0失误
已经是攻防失衡属于失控状态了 玄武实验室有攻击免疫的文章 给环境套沙箱 上虚拟机的手段 最多防止危害不扩大 已经是最好的结果了

现在主流攻击都转向供应链攻击重点红利目标了,比如ai 返回 npm install xxx 中间用字符串替换成yyy就可以上马了没什么技术含量
一次性打一大堆目标半点防御都没有、ai审计平台也是说着为了安全实际上也是污染的重点攻击对象会把"有害的"替换成"无害的"
快到姐裙里来
292475230
https://www.t00ls.com/thread-21638-1-1.html