随着人工智能的发展，漏洞越来越难找了。打算研究人工智能漏洞。

你说的溢出问题和AI本身没有什么关系是模型执行器和其他模块产生的问题
比如一些AI WAF 经过AI处理交给语义处理的时候才发生溢出造成RCE
可以搜一下Ollama的溢出漏洞cve 通常的都是解析结构异常造成的
这就是基础的二进制逆向技能并不是什么新东西只是对结构攻击面的拆解

另一个方向就是所谓的提示词攻击了模型本质上是基于概率推导的结果不是100%成功的
目前看似简单用人类的语言就能实现其实后期研究都会深入到模型神经网络节点审计
就像是读心术提示词只是为了命中神经网络节点逐步堆积权重最终控制网络任意执行
内容可能是人无法理解的单词短语 这个就需要你用ai去寻找了用ai攻击ai

不知道为啥我一直不看好AI安全。几大大模型在诞生之初就已经很重视安全，尤其是claude。而且目前世界AI的格局就是多超多强的感觉。此外你说的要深入到模型的神经网络节点去审计我觉得壁垒也很高，知识壁垒和资源壁垒。总之AI安全的东西我觉得是你一开始就无法和深入融合AI开发的公司的相比比如openai比如claude，并且AI的发展几个月就一个版本，当前可行的东西在几个月后瞬间沦为无用。
第一点说的基础设施感觉还更有方向不过又是回到了传统安全。

业务逻辑至少目前还是难规避的

看文章不如直接问AI

https://github.com/250wuyifan/AISecLab  这是我无聊写的一个靶场，可以参考。

应该还是要区分ai安全和ai应用安全，基础设施一定会越来越完善的这个时候就是环境倒逼你去研究了
比如豆包手机的攻击面拆解已经有完整技术文章了，通过短信提示词完成RCE控制银行app发起转账甚至获取root权限不基于二进制利用技术
不可否认ai安全 有三大痛点 不可预估 无法衡量 无法量化 是体制问题我觉得没人会看好，但是应用方面还是很有前景的，改变了人机交互入口控制ai等于控制所有设备
还是有区别传统安全的地方的，现在缺少的就是技战术研究和利用技术放大的全链条技术，比如现在的geo就是基于ai做的seo风口还是有的就看谁先吃上肉

假大空 在国内可以适用于很多行业

研究前辈的战法，总结经验，自己尝试摸索

提示词注入把这个是

总感觉AI不能完全代替不了人，有时还是大脑靠谱