大模型安全疑问

目前在实习，做大模型安全，感觉这个方向工业界需求不大，如果phd做这个等毕业找工作是不是就寄了，比较迷茫，欢迎大佬给出意见

需求实则是有的，但一般只有大厂才养得起这样的组，并且永远绕不开的困境就是，“我们在AI上花了这么多钱，要跟别人抢客户，你们不要去block他” 这样的后果就是很容易沦为红队扭螺丝钉，每次要发新版本了给你几天来测试一下，然后不管有没有fix都还是发出去（参考openai）。剩下就是一些做这个方向的startup也可以思考。比较有希望的落地是做一些自动化的AI安全测试工具，这也是目前大厂和startup主要做的东西。