面试被问懵了：手撕 Transformer_面试手撕transformer

节前，我们组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。

今年最大的感受就是，今年的算法面试题普遍反馈特别的新！面试特别的卷。。。

---

基于大家的讨论和大模型实践，我们写一本书：《大模型面试宝典》(2024版) 发布！

---

这两天求职群分享了很多大厂的计算机视觉算法的面试真题，其中就有“手撕Transformer”：

要知道近年来特别出现了很多Transformer面试题（毕竟当前AI顶流）。这里特别分享15道Transformer高频面试题（求职群里有数百道Transformer题目，还有答案），希望对你有所帮助。

1. 介绍Transformer和ViT

2. 介绍Transformer的QKV

3. 介绍Layer Normalization

4. Transformer训练和部署技巧

5. 介绍Transformer的位置编码

6. 介绍自注意力机制和数学公式

7. 介绍Transformer的Encoder模块

8. 介绍Transformer的Decoder模块

9. Transformer和Mamba（SSM）的区别

10. Transformer中的残差结构以及意义

11. 为什么Transformer适合多模态任务？

12. Transformer的并行化体现在哪个地方？

13. 为什么Transformer一般使用LayerNorm？

14. Transformer为什么使用多头注意力机制？

15. Transformer训练的Dropout是如何设定的？

求职群还分享了很多AI算法岗、软开岗的大厂面试真题，部分截图如下：

如果你还没刷面试题？想看最新面经和答案？那得赶紧加入求职群！最新校招、实习、社招、教职信息、大厂面经和企业内推全都有！强烈建议大家加入2024年求职群（主要面向25届、26届及之后的同学）！

技术交流&资料

技术要学会分享、交流，不建议闭门造车。一个人可以走的很快、一堆人可以走的更远。

成立了大模型面试和技术交流群，相关资料、技术交流&答疑，均可加我们的交流群获取，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友。

方式①、微信搜索公众号：机器学习社区，后台回复：加群
方式②、添加微信号：mlc2040，备注：来自CSDN + 技术交流

通俗易懂讲解大模型系列

• 重磅消息！《大模型面试宝典》(2024版) 正式发布！

• 重磅消息！《大模型实战宝典》(2024版) 正式发布！

• 做大模型也有1年多了，聊聊这段时间的感悟！

• 用通俗易懂的方式讲解：大模型算法工程师最全面试题汇总

• 用通俗易懂的方式讲解：不要再苦苦寻觅了！AI 大模型面试指南（含答案）的最全总结来了！

• 用通俗易懂的方式讲解：我的大模型岗位面试总结：共24家，9个offer

• 用通俗易懂的方式讲解：大模型 RAG 在 LangChain 中的应用实战

• 用通俗易懂的方式讲解：ChatGPT 开放的多模态的DALL-E 3功能，好玩到停不下来！

• 用通俗易懂的方式讲解：基于扩散模型（Diffusion）,文生图 AnyText 的效果太棒了

• 用通俗易懂的方式讲解：在 CPU 服务器上部署 ChatGLM3-6B 模型

• 用通俗易懂的方式讲解：ChatGLM3-6B 部署指南

• 用通俗易懂的方式讲解：使用 LangChain 封装自定义的 LLM，太棒了

• 用通俗易懂的方式讲解：基于 Langchain 和 ChatChat 部署本地知识库问答系统

• 用通俗易懂的方式讲解：Llama2 部署讲解及试用方式

• 用通俗易懂的方式讲解：一份保姆级的 Stable Diffusion 部署教程，开启你的炼丹之路

• 用通俗易懂的方式讲解：LlamaIndex 官方发布高清大图，纵览高级 RAG技术

• 用通俗易懂的方式讲解：为什么大模型 Advanced RAG 方法对于AI的未来至关重要？

• 用通俗易懂的方式讲解：基于 Langchain 框架，利用 MongoDB 矢量搜索实现大模型 RAG 高级检索方法