京东算法岗二面+三面

来源：投稿  作者：寒武纪
编辑：学姐

京东 一面 、二面和三面。

二面

1、自我介绍

2、询问实习时间

3、之前实习主要做的什么？

4、实习期间做了哪些优化？

5、LLM 的长度扩展策略有哪些？

LLM（大型语言模型）长度扩展策略：

1. 位置编码优化：

• 如位置插值（PI）和NTK-Aware Scaled RoPE，通过改进位置编码方式，提升模型处理长文本的能力。

• 微软提出，通过高效搜索和非均匀性利用，实现上下文窗口的大幅扩展。

• 使模型能够处理超出训练时文本长度的序列，可能涉及循环神经网络或新的预测机制。

• 使用稀疏注意力、分块注意力或低秩近似等技术，降低计算负担，支持长文本处理。

• 摒弃自注意力机制，采用其他高效结构，如Performers和Linear Transformers。

• 通过量化、剪枝、知识蒸馏等方法减少模型参数，提高处理长文本的效率。

• 根据硬件特性优化模型架构，提高在特定硬件上处理长序列的效率。

这些策略共同提升了LLM处理长文本的能力，使其能够在更多复杂应用场景中发挥作用。

6、介绍 YARN？

7、用户是怎么用你们的工具的？

8、幻觉怎么判断出来，如何解决？

9、是否有调用外部搜索引擎？

10、有没有用到Agent和RAG？

11、910B适配过程中遇到的问题？

12、深挖NIPS论文。

13、下游任务介绍，效果为什么会有提升？

14、给了一个现实生活中的例子，你的这篇论文怎么套上去？

15、实习期间最大的挑战？

16、技术上最有难度的事情是什么？

17、转正和目前的offer情况。

三面

1、自我介绍

2、对京东的感受

3、有没有觉得不好的地方？

4、HR 介绍了京东的价值观

5、科研或者实习过程中有没有做过很创新的东西？

6、这个过程中有没有遇到什么很困难的事情？

7、交流技术的渠道一般都有哪些？

8、觉得之前实习工作强度如何？

9、目前的 offer 情况

--- END ---