小红书(xiaohongshu)招聘【REDstar】AI安全工程师

岗位职责：
面向公司大模型、RAG、AI Agent及相关AI产物，参与AI安全防护、安全测评和工程能力建设，帮助团队识别并治理AI系统在数据、模型、应用和智能体运行过程中的安全风险。
【方向1：AI安全防护方向】
1、 参与AI产品及Agent系统的安全架构分析、威胁建模和防护方案建设，推动安全能力在研发及运行阶段落地；
2、 围绕提示注入、越狱、敏感数据泄露、知识库污染、模型滥用等风险，研发检测、拦截和风险处置能力；
3、 参与Agent身份权限、工具调用、MCP、记忆、沙箱及外部数据访问等AI Agent关键环节的安全机制建设；
4、 探索LLM、RAG、Agent等技术在安全组件设计、开发、落地和运营等场景中的应用，提升安全防护效率；
5、 持续跟踪研究AI安全前沿技术和AI引入的新型安全风险，结合业务需求推动研究成果转化为关键安全技术竞争力。
【方向2： AI安全测评方向】
1、 参与各类AI系统与应用、AI相关部署平台与AI工具产物等AI能力开展漏洞攻防与安全测试；
2、 研究提示注入、越狱、敏感信息泄露、知识库污染、记忆污染、工具滥用及越权执行等攻击方式；
3、 分析和挖掘AI能力与Web、API、身份权限、数据访问及第三方组件结合后形成的全链路安全风险；
4、 设计并实现LLM与Agent的安全评测Benchmark和攻击样本自动化迭代，对模型、应用等开展系统性实证研究；
5、 跟踪前沿AI动态，总结攻防经验，并探索利用LLM、Agent等技术提升AI漏洞发现、攻击证据链证明效率。
任职要求：
1、本科及以上学历，计算机、信息安全、人工智能、软件工程等相关专业，其他专业但具备相关实践能力者也欢迎投递；
2、熟悉至少一种编程语言，如Python、Java、Go、C/C++或Rust，能够独立完成小型工具、实验程序或项目模块；
3、了解常见AI Agent调用链路与技术架构及相关安全风险，如RAG、Tool Calling、MCP、Skill、Sandbox、OWASP GenAI Security、MITRE ATLAS等；
4、对AI安全有持续兴趣，愿意主动研究提示注入、越狱、数据安全、Agent安全等新型风险；
5、具备良好的问题分析、快速学习、文档表达和团队协作能力。
【加分项】
1、参与过大模型安全、AI Red Team、Agent安全、Guardrail或AI安全评测相关项目；
2、参与过RAG、Agent、MCP Server、沙箱、自动化测试或安全检测工具的设计与开发；
3、参加过CTF、SRC、攻防演练、AI安全竞赛或其他技术竞赛；
4、参与顶级会议/期刊论文、国际发明专利、开源贡献、安全Benchmark。