找一下关于对大模型进行安全测试和渗透的文章或者ppt

公司在训练某行业大模型，领导要求我们了解一下大模型本身安全性和渗透测试，并进行测试和分享，网上好多都是大模型在安全方面的应用和训练的材料，目前已知owasp 发布的大模型的top 10，最好是有PPT和实际的场景案例。
又是一个新的领域，一个人搞这个搞那个真难，头发都要掉光了，还不花钱找第三方，要自己搞。

技术和合规方向都可以

大模型测试的资料是不多 可以参考gpt之前爆出的问题 做些测试

可以联系一下绿盟的好朋友，他们有这方面的产品

已经有人发论文了，https://www.usenix.org/conference/usenixsecurity24/presentation/deng

最新的LLM不就是谷歌的real world 案例
https://googleprojectzero.blogspot.com/2024/10/from-naptime-to-big-sleep.html
至于娱乐视频也有很多
都是套壳骗哪有什么技术，要实战距离还很长，不过是有望完全取代人工的
https://www.secrss.com/articles/60896
国内可以参考这个
https://aiss.nsfocus.com
https://8aqnet.cdn.bcebos.com/3de05f647b07e3a910552c8b8f48d159.jpg

应该有很多chatgpt这些AI模型的漏洞测试文章吧

跟着大佬学习看看。

好像你理解错了吧，楼主问的是“对”LLM进行渗透测试。
你的回答我理解是“用”LLM进行渗透测试（模糊测试）？

今年的blackhat有讲一些，但不多：
https://www.youtube.com/watch?v=Rhpqiunpu0c&t=577s