V2EX·· 2 小时前AI 评分31
最近秋招面试应届生：候选人整体水平高，但对大模型底层理解不足
最近秋招陆陆续续面了一堆应届生，说点感受
AI 导读
秋招面试中，应届生整体水平高，常有 CCF A 一作和两段大厂实习，业务、Agent 搭建和评测也能聊得全面；但谈到 LLM token 计费、prefill、decode、KV cache 和长上下文性能等底层问题时，不少人难以回答。作者认为，AI 辅助学习与面试准备让候选人熟悉概念，却容易停留在似懂非懂的状态。
正文
整体水平是真的高。CCF A 一作的不少，两段大厂实习基本是标配，而且实习都是实打实做过东西的，能讲出细节。聊业务、聊领域、聊 Agent 怎么搭、评测怎么做，回答得全面也有自己的思考，简历和表达都比我们当年强很多。
但稍微往底层问一点，问题就出来了：
- LLM 接口的 token 分几类、计费为什么不一样，说不清楚
- prefill 和 decode 分别在做什么，说不清楚
- QKV 的八股答得很漂亮，但往下追问 KV cache 存的是什么、长上下文为什么慢，基本就答不上了
现在的学校有点像一场军备竞赛：
- 老师用 GPT 出题，学生用 GPT 做题，老师再用 GPT 阅卷
- 论文用 AI 找方向、写代码、跑实验、润色，人手一篇反正是摸奖中彩票
- 面试准备也能看出 AI 痕迹，大概率是让 AI 整理八股、模拟面试，标准答案背得比谁都熟
结果就是大家都卡在一种似懂非懂的状态里。说完全不懂吧，概念、术语、公式都知道，说真懂吧，追问两句就露馅了。
他们自己心里多少也清楚，但没时间停下来补，因为身边的人都在往前冲。于是一边心虚，一边加速，越卷越拧巴。
最后感慨一下，今年大环境居然成了这样。换我穿越回去，大概率全面扑街。只是作为面试官坐在对面，看着一个个这么优秀又这么拧巴的年轻人，心情复杂。。。
来源：V2EX · v2ex.com