专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
目录
相关文章推荐
爱可可-爱生活  ·  Critic-RM框架通过大型语言模型自生成 ... ·  3 天前  
爱可可-爱生活  ·  【ai-rd-tasks:一套评估大语言模型 ... ·  5 天前  
51好读  ›  专栏  ›  爱可可-爱生活

本文提出了一种基于超网络的动态词元化方法,显著提升了语言模型的效-20241129053441

爱可可-爱生活  · 微博  · AI  · 2024-11-29 05:34

正文

2024-11-29 05:34

本文提出了一种基于超网络的动态词元化方法,显著提升了语言模型的效率和跨语言公平性,并通过两种不同策略分别解决了编码器和解码器模型中的动态词元化问题,尤其是在解码器中,利用百万级词表和近似最近邻搜索实现了高效的自回归生成。
[LG]《Retrofitting (Large) Language Models with Dynamic Tokenization》D Feher, B Minixhofer, I Vulić [University of Cambridge] (2024) 网页链接 #机器学习##人工智能##论文#