
本项目提供的内容
按公司整理的 AI 工程面试题是一份精选的准备资料,包含来自 35 家公司的公开面试题。问题既按反复出现的技术主题整理,也按公司分类,便于识别常见要求,并针对特定面试流程进行准备。
该仓库适用于 AI 工程师、生成式 AI 工程师、LLM 工程师、智能体 AI 工程师、机器学习工程师、研究工程师、应用科学家、前沿部署工程师、AI 解决方案架构师、AI 平台工程师、MLOps 工程师和 LLMOps 工程师等职位。
这些问题汇编自公开的面试经历。面试流程会因团队、职级、地区和时间而异,因此应将本资料视为准备路线图,而不是一份完全固定的面试脚本。
主要特点
- 按公司整理:浏览与前沿 AI 实验室、大型科技公司、基础设施提供商、AI 原生产品公司和企业级 AI 组织相关的问题。
- 跨公司主题列表:从多个雇主反复出现的问题开始,避免重复学习相同内容。
- 职位覆盖广泛:为研究、应用 AI、平台、推理、智能体、解决方案和运营类职位做好准备。
- 包含公开面试背景:公司章节介绍涉及的职位、公开报道的面试流程以及公司特有的主题。
- 附带解释链接:许多问题包含指向文章或视频的链接,其中提供答案或更深入的解释。
- 持续更新:维护者表示将继续添加问题和答案。
涵盖的主题
常见问题部分划分为多个主要的 AI 工程领域。可以将这些领域作为制定学习计划的基础。
LLM 内部机制与架构
本部分涵盖注意力机制、KV 缓存、MQA、GQA、MLA、FlashAttention、分词、位置编码、RoPE、缩放定律、混合专家模型、归一化、Transformer 前馈网络和解码策略。
代表性问题包括:
- 为什么缩放点积注意力要使用
1/sqrt(d_k)因子? - 大规模使用 KV 缓存会带来哪些内存影响?
- 为什么 FlashAttention 在不减少 FLOPs 的情况下仍可能更快?
- 贪心解码、束搜索、top-k、top-p 和温度采样有何不同?
- 在仅解码器 Transformer 的前向传播中,每个张量会发生什么?
推理、服务与 GPU 性能
本类别重点关注如何高效部署 LLM,涵盖预填充与解码行为、连续批处理、PagedAttention、推测解码、提示缓存、量化、并行化、延迟指标、GPU 容量估算和服务框架。
你应当能够讨论定义和实际运营中的权衡。例如,面试官可能会要求你诊断部署后 p99 延迟翻倍的问题,或估算为一个 70-billion-parameter 模型提供服务所需的内存。
RAG 与检索
检索部分涵盖分块、稀疏检索与稠密检索、混合搜索、重排序、检索评估、HyDE、智能体 RAG、近似最近邻索引、权限感知检索、索引新鲜度、文档解析和引用归因。
智能体与工具使用
智能体相关问题考察 ReAct、工具调用、MCP、重试、超时、工具模式、多智能体编排、记忆、循环终止、人工审批、可审计性以及长时间运行的智能体漂移。
微调与对齐
本部分包括 RLHF、PPO、DPO、GRPO、LoRA、QLoRA、提示和前缀调优、灾难性遗忘、具有可验证奖励的强化学习、奖励投机和知识蒸馏。
评估与可观测性
评估相关问题涉及 LLM-as-judge 系统、有限的真实数据、成本高昂的专家标注、幻觉检测,以及用于判断模型或提示词变更是否应上线的回归门禁。
访问与设置
本项目是文档仓库,而不是软件库,因此无需安装任何软件包。你可以直接在 GitHub 上阅读。
选项 1:在浏览器中使用
- 在 GitHub 上打开该仓库。
- 使用目录打开各公司都会问到的常见问题。
- 选择 RAG、推理或智能体等技术类别。
- 在有可用链接时,查看相关答案。
- 完成常见材料后,进入目标公司的章节。
选项 2:在本地克隆
克隆仓库可以获得离线副本,便于搜索、添加注释和更新。
git clone https://github.com/pallavi-shekhar/ai-engineering-interview-questions-company-wise.git
cd ai-engineering-interview-questions-company-wise要获取未来的更新,请运行:
git pull然后,你可以在文本编辑器或 Markdown 查看器中打开 README,并使用全文搜索查找公司、技术或关键词。
基本用法:制定准备计划
第 1 步:选择目标职位
首先明确目标职位,因为不同职位强调仓库中的不同部分。LLM 推理职位可能要求更深入的 GPU 和服务知识,而应用 AI 职位可能更侧重 RAG、评估和产品权衡。
一个简单的职位到主题映射可以如下所示:
- LLM 或推理工程师:Transformer 内部机制、KV 缓存内存、批处理、量化、并行化与吞吐量。
- 应用 AI 工程师:RAG、智能体、评估、提示词与微调决策。
- 智能体工程师:工具模式、重试、记忆、循环终止、编排与人工审批。
- MLOps 或 LLMOps 工程师:服务指标、可观测性、回归门禁、容量规划与生产环境诊断。
步骤 2:先完成通用问题
README 明确建议先从各家公司都会出现的问题开始。这样可以获得广泛覆盖,避免重复学习。
针对每个问题,准备以下四个层次的理解:
- 定义:用一到两句话清晰解释概念。
- 机制:描述其内部工作原理。
- 权衡:解释优点、成本、限制与故障模式。
- 应用:举例说明何时会或不会使用它。
步骤 3:有选择地使用关联答案
许多条目包含指向 Outcome School 文章或视频的链接。打开答案前先阅读问题,并尝试凭记忆作答。然后利用关联材料找出遗漏的细节。
例如,关于 KV 缓存的问题不应止步于基础定义。最终准备内容应包括缓存的用途、它如何随序列长度增长、对内存的影响,以及用于管理缓存的服务技术。
步骤 4:研究目标公司
覆盖通用主题后,打开目标公司的相关章节。该仓库将组织分为前沿 AI 实验室、大型科技公司、基础设施公司、AI 原生产品公司和企业 AI 公司等类别。
利用公司章节确定:
- 已报告面试经历所涉及的职位。
- 公开报道的面试流程结构。
- 该组织更具针对性的问题或主题。
- 需要额外练习的技术领域。
步骤 5:将问题转化为主动练习
不要只是阅读条目。大声回答问题,写下简短解释,推导相关公式,并练习追问。
例如,对于连续批处理问题,可以采用以下回答结构:
1. 定义静态批处理和连续批处理。
2. 解释请求为何会在不同时间完成。
3. 描述如何重新利用释放出的批处理槽位。
4. 将该机制与利用率和吞吐量联系起来。
5. 讨论调度、延迟和实现方面的权衡。学习示例
示例 1:准备推理问题
假设你选择这样一道问题:为什么预填充受计算能力限制,而解码受内存带宽限制。
- 定义预填充阶段和解码阶段。
- 解释预填充期间为何可以并行处理提示词令牌。
- 解释自回归解码为何会按顺序逐个生成令牌。
- 将解码期间反复读取权重与内存带宽联系起来。
- 将这一差异与 TTFT、每令牌延迟、批处理和服务架构联系起来。
- 阅读关联的预填充与解码对比说明,并完善你的回答。
示例 2:准备 RAG 设计问题
对于选择 BM25、稠密检索或两者结合的问题,应围绕需求组织回答,而不是声称某种检索器在所有情况下都最好。
- 确定语料库、查询类型、延迟目标和评估指标。
- 讨论词法匹配在精确术语方面的优势。
- 讨论语义检索在处理概念相关语言方面的作用。
- 解释混合搜索可能适用的场景。
- 说明在评估生成答案之前,如何评估检索效果。
- 补充权限、索引新鲜度和重排序成本等运维问题。
示例 3:准备智能体可靠性问题
对于工具调用错误、超时和重试,可以将回答组织成一个生产控制循环:
验证请求
在超时限制内调用工具
对故障进行分类
仅在适当时重试
设置重试次数和成本上限
记录操作及结果
安全地升级处理或停止随后,可以利用仓库中的相关问题,将讨论扩展到循环终止、人工审批、可逆操作、可审计性以及长时间运行任务中的漂移。
高级准备技巧
练习推导,而不只是记定义
有些问题明确要求公式或数值估算。练习计算 KV 缓存内存、不同精度下的模型权重内存、微调内存和近似服务容量。计算前先说明假设,因为结果取决于架构、精度、批量大小和序列长度。
连接不同类别中的概念
优秀的面试回答通常会将架构与生产行为联系起来。例如:
- KV 缓存设计将 Transformer 注意力机制与 GPU 内存和服务容量联系起来。
- 量化将数值精度与模型质量、内存占用和吞吐量联系起来。
- 分块将文档结构与检索召回率和答案归因联系起来。
- 工具模式设计将模型行为与智能体可靠性和安全性联系起来。
- 微调选择将数据质量与成本、延迟和灾难性遗忘联系起来。
将系统问题转化为需求讨论
当被要求设计一个 AI 系统时,应从约束条件入手,而不是立即罗列工具。明确预期流量、延迟、质量、数据新鲜度、隐私、权限、故障处理和成本。然后说明每项架构决策如何满足这些要求。
准备诊断框架
生产环境面试通常使用场景题,而不是事实问答。对于延迟回归问题,应将调查拆分为近期变更、流量形态、排队、提示词长度、输出长度、批处理、缓存行为、GPU 利用率、内存压力、网络依赖项和下游服务等方面。
维护基于证据的追踪表
为每个问题创建一份本地检查清单,并设置信心评分:
0 - 尚未接触
1 - 认识这个主题
2 - 能解释定义
3 - 能解释机制和权衡
4 - 能解决后续问题或进行计算
5 - 能讲授该主题并处理设计变体在花时间研究狭窄的公司特定材料之前,先复习那些得分较低且常见的问题。
按公司进行模拟面试
选择与目标雇主相关的问题,并在时间限制下作答。请练习伙伴挑战你的假设、要求你进行计算、引入故障或改变需求。与死记固定答案相比,这更能反映真实的面试交流。
关注仓库更新
维护者计划添加新的问题和答案。如果你已克隆该仓库,请定期运行 git pull。如果你使用浏览器版本,请在面试前重新查看常见问题和目标公司部分。
重要限制
- 已报告的问题并不能保证未来面试官会提出相同的问题。
- 面试流程可能因团队、级别、地点和招聘时期而变化。
- 目前并非每个问题都有相关答案链接。
- 链接的讲解应支持主动练习,而不能取代练习。
- 公司关联信息应用于确定主题优先级,而不是背诵固定话术。
结论
将此仓库用作结构化课程,而不是快速浏览的清单,效果最佳。先从反复出现的问题入手,通过机制和权衡深入理解每个答案,然后学习相关公司的内容,并练习符合实际的后续问题。将该资料集与推导、设计练习、诊断场景和模拟面试结合起来,可以为广泛的 AI 工程岗位打造专注的准备流程。
