美团大模型数据开发实习生实习面经

总体面试体验：7.5/10，双方都没开摄像头1.自我介绍2.简单问了一下情况3.做两个题吧：括号是否合法+中序和后序构造二叉树4.知不知道spark算子的具体操作答：不知道5.什么时候到岗？实习多久？6.对这个岗位意向怎么样，喜欢吗？总体来说面试官还不错，一直有鼓励性语言自己数据的经验很少，大数据组件很多就是浅浅知道一点概念，感觉面试官对我期望还挺大的，万一面试通过了招进去过几天发现我是个水货咋办

这一期就是差不多来到实习第二周准备跳槽的时间点了。为什么要跳槽呢，上述文章我也写了原因，因为要会学校考试嘛，然后三天内面了个67家左右，找了个工资高的直接考完试就去了。大概是20号多左右。这家干着还行吧，会请大伙喝奶茶，端午也送东西，（基本上全用不上，送我个keep跳绳我想不明白是因为什么），最主要是mt人挺好，不让我干活，申请加班不让，请假说远程回来搞，就说你好不容易请次假，你踏实考试就行，我也没办法，这家公司最大问题是我觉得就是强度太低，他比平时我在学校学习工作的强度都还低，我集中精力去搞强度大概是他两倍多，有点扯远了，我个人习惯如此，上来先扯淡，闲聊让大伙放松一下，那么讲讲正事，实习要做...

1.请简述什么是大模型，以及它与传统模型的主要区别是什么？2.你如何评估大模型的性能？有哪些常用的评估指标？3.请描述一下你如何对大模型进行优化，以提高其性能和效率。4.你是否有过使用或开发大模型的经验？请分享一个具体的案例。5.大模型中的注意力机制是如何工作的？它在大模型中起到了什么作用？6.大模型中的优化算法有哪些常见的选择？它们各有什么优缺点？7.如何处理大模型训练过程中的梯度消失或梯度爆炸问题？8.在大模型设计中，如何权衡模型的复杂度和性能？9.面对大模型训练和推理所需的庞大计算资源，你有什么解决建议？10.请简述你了解的大模型的主要结构特点。11.reward bench上的reward model分哪几类?12. reward model如何训练的，训练目标是什么?13.dp0训练的损失函数和训练目标，dpo如何改进怎么理解大模型安全，包含哪些方面的内容？14.指令跟随能力的评估集有什么，如何评估的?15.阿尔法狗强化学习策略是什么?提升推理能力和指令跟随能力哪个更难, 为什么, 提升指令跟随能力的优化方式和其他的比如推理有什么不一样的地方?16.dpo训完了一般输出长度会变化吗? 如何解决这个问题大模型训练过程学习率一般是怎么变化的, 退火阶段学习率如何变化的?17.在开发大模型时，当你面临推理阶段的资源需求时，你如何确保模型的可解释性和公平性？18.谈谈你对Transformer模型的理解，以及它在自然语言处理中的应用。19.请简述Transformer的基本结构和工作原理？20.为什么Transformer使用位置编码(Positional Encoding)？21.如何优化 Transformer 模型的性能？22.Transformer在自然语言处理中有哪些应用？23.transformer里边norm的位置在哪里,norm如何计算的多头自注意力机制的作用是什么？24.注意力机制为什么除以根号dk, 为什么不是dk请解释什么是注意力机制，并举例说明其应用场景。25.注意力机制是如何工作的？请简述其计算过程。26.多头注意力机制是什么？它相比单头注意力有什么优势？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?RAG技术：RAG(检索增强生成)的完整链路包含哪...