研究科学家（LLM 自动研究）

岗位介绍

我们正在寻找一位研究科学家，专注于利用自动研究（AutoML）推动大语言模型（LLM）的前沿 AI 驱动开发。您将设计并部署自动化研究框架，自主发现、优化和训练下一代 LLM 架构，并弥合硬件限制与模型设计之间的差距，确保自动优化的架构达到或超越现有顶尖基础模型的预训练效率和下游性能。

工作内容

• 设计、构建和扩展自动搜索与优化系统（如神经架构搜索、进化算法或 LLM 驱动的研究代理），自主发现最优 LLM 架构
• 分析并将硬件层面的约束（如张量并行限制、内存带宽、延迟、缓存层次、FLOPs 和目标芯片的能效）集成到优化循环中
• 扩展发现的架构以进行大规模预训练，确保最终模型达到或超越现有顶级基础模型的性能、训练效率和收敛速度
• 开发准确、成本有效的代理任务、评估协议和缩放定律，以从早期自动搜索限制预测全规模 LLM 性能
• 与芯片架构师、系统/编译器工程师和基础模型研究人员紧密合作，共同优化硬件执行效率和模型训练算法
• 紧跟 AutoML、软硬件协同设计和 LLM 预训练文献的前沿，在适用情况下贡献同行评审出版物和知识产权

任职要求

• 计算机科学、电气工程、应用数学或相关定量领域硕士或博士学位，专注于深度学习
• 在 LLM 预训练、Transformer 架构和缩放动态方面有强大的研究背景
• 具有 AutoResearch、AutoML、自动优化算法或使用 AI 代理/LLM 进行自动化科学发现的实践经验
• 对 GPU/加速器架构、内存层次、并行训练策略（张量、流水线、数据并行）和硬件性能分析有扎实理解
• 具备 Python 和深度学习框架（如 Pytorch、JAX、Megatron-LM、Deepspeed）的生产级编码技能
• 有从头训练、扩展和评估大规模模型的证明经验
• 在顶级机器学习或系统会议（如 NeurIPS、ICML、ICLR、ASPLOS、ISCA、MLSys）有第一作者出版物者优先
• 有编写自定义内核（如 Triton、CUDA）或使用机器学习编译器经验者优先
• 有与芯片/硅设计团队直接合作，针对特定 ASIC/GPU/FPGA 约束定制模型架构的经验
• 有构建自我改进 AI 循环或自动编码研究助手的经验