小红书(xiaohongshu)招聘文本预训练实习生

岗位职责：
工作内容
1. 海量文本数据分布式处理: 研究数据驱动算法和启发式规则，构建高效的大数据计算系统，设计数据实验体系，为大模型训练提供高质量的数据支持。
2. 前沿数据合成算法研究与实现: 探索数据合成方法，研究其对大模型能力提升的极限可能性。
3. 大模型推理能力优化: 聚焦数学、代码及通用推理能力，探索如何通过预训练数据设计实现能力的数量级突破。

我们提供
1. 学习成长：深入参与大模型最前沿研究，接触真实的大模型训练流程，积累宝贵的实战经验。
2. 导师指导：资深研究员一对一指导，帮助你在理论和实践能力上快速成长。
3. 计算资源充沛: 提供等效万卡GPU，近10万核CPU 进行实验与探索。
任职要求：
1. 教育背景：计算机科学、数学、物理学等相关专业本科及以上学历。
2. 编程能力：熟练掌握Python，熟悉PyTorch等深度学习框架，了解Spark、Ray等分布式计算工具。
3. 加分项：有高水平学术会议或期刊论文发表经验；对数学推理、代码生成等方向有深入研究或浓厚兴趣。
4. 时间要求：希望尽快到岗，实习至少3个月，每周工作日出勤4天或以上。