专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
目录
相关文章推荐
爱可可-爱生活  ·  【AI前沿:从智能合作到语言模型的最新突破】 ... ·  19 小时前  
黄建同学  ·  菩提祖师:500年后,有水淹你,有火烧你,有 ... ·  18 小时前  
黄建同学  ·  看起来很厉害,可以无限长度!#ai##ai视 ... ·  22 小时前  
爱可可-爱生活  ·  【DarkFlare:一个隐蔽的TCP-ov ... ·  昨天  
51好读  ›  专栏  ›  爱可可-爱生活

【LogitsProcessors Zoo:NVIDIA开发的L-20241120131330

爱可可-爱生活  · 微博  · AI  · 2024-11-20 13:13

正文

2024-11-20 13:13

【LogitsProcessors Zoo:NVIDIA开发的LLM输出控制工具集,提供一系列处理器来自定义和增强大语言模型的行为。包含多个实用工具如生成长度控制器、引用提示处理器、强制结束语处理器和多项选择处理器等,支持transformers、vLLM和TensorRT-LLM等主流框架,可以更精确地控制LLM的输出行为】
'A collection of LogitsProcessors to customize and enhance LLM behavior for specific tasks'
GitHub: github.com/NVIDIA/logits-processor-zoo
#LLM工具# #AI开发# #NLP#