OpenAI偷偷养了个AI超级黑客GPT-Red，专门用来拷打自家模型

OpenAI偷偷养了个AI超级黑客，专门用来拷打自家模型

老实说，刚看到这个消息的时候我愣了一下——OpenAI养了个AI黑客，还是专门用来攻击自家模型的？

前几天MIT Tech Review发了篇报道，说OpenAI搞了个叫GPT-Red的大模型，这哥们儿的工作就是：变着法子攻破别的AI模型。你没看错，OpenAI自己造了个"越狱专家"。

简单说，就是AI安全领域里的"红队测试"。以前这事儿都是人干的——一帮安全专家坐在那，绞尽脑汁想怎么骗过AI、怎么让它犯错。但问题是，现在AI越来越复杂了，光靠人？根本忙不过来。

OpenAI的研究员Nikhil Kandpal说了句话我觉得挺在理："风险面在扩大，爆炸半径也在扩大。"翻译成人话就是：AI能做的事越多，出事的可能性就越大，出事了后果也更严重。

所以他们就整了个AI版的"红队队员"，24小时不睡觉地找漏洞。

有意思的是GPT-Red的训练方式——OpenAI搭了个"AI武馆"，让GPT-Red跟其他模型对打。GPT-Red负责进攻，其他模型负责防守。打来打去，进攻方越来越狡猾，防守方也越来越抗揍。

这方法叫"自我博弈"，听起来玄乎，其实挺像两个人练拳击——互相喂招，大家都能涨水平。

最让人意外的是，GPT-Red还真找到了以前没人见过的新型攻击方式。它发现了一种叫"伪造思维链"的攻击——AI在推理过程中会写"思考日记"（思维链），GPT-Red就往这个日记里塞假内容。比如它告诉模型"你刚才已经验证过1+1=3了"，模型一看"哦对，我验证过了"，就直接输出3了。

这招挺阴的，对吧？

OpenAI拿了几个数字出来：这些攻击用在上一代GPT-5上，成功率超过90%；但用在最新的GPT-5.6上，成功率降到了23%以下。说明这么练确实有用。

他们还让GPT-Red跟2025年人类红队队员做过同样的事——结果GPT-Red找到的攻击手段比人类还多、还管用。

不过也不是说AI就能完全取代人了。GPT-Red不太擅长那种需要来回对话才能完成的攻击，用图片诱导也不太在行。所以OpenAI说它目前还是"补充"人类专家的角色，不是替代。

看完这个新闻，我其实有点感慨。以前大家讨论AI安全，都是"应该怎么做"、"要注意什么"。现在好了，OpenAI直接搞了个AI专门来找自己麻烦——这态度我是服的。

但换个角度想，GPT-Red这种技术，OpenAI肯定不会开源。那问题来了：坏人能不能也搞个类似的？OpenAI的研究员说这事儿没那么简单，他们花了一年多时间、用了大量算力。但我总觉得，这种技术早晚会被复现。毕竟AI这行的"军备竞赛"，从来就没停过。

就像那句老话说的：你造了一把锁，就一定会有人造出能开它的钥匙。现在OpenAI选择先造了把万能钥匙——然后用它来加固自己的锁。这个思路，有道理。

只是不知道，下一步会发生什么。