专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
目录
相关文章推荐
宝玉xp  ·  Andrej Karpathy ... ·  2 天前  
浩歌行  ·  阿里的“深夜炸弹”:Qwen2.5-Max超 ... ·  3 天前  
浩歌行  ·  阿里的“深夜炸弹”:Qwen2.5-Max超 ... ·  3 天前  
宝玉xp  ·  转发微博-20250129032706 ·  4 天前  
宝玉xp  ·  //@大红矛:-20250129033223 ·  4 天前  
宝玉xp  ·  转发微博-20250129040708 ·  4 天前  
51好读  ›  专栏  ›  爱可可-爱生活

【[44星]llama.cl:用Common Lisp实现的LL-20250130211751

爱可可-爱生活  · 微博  · AI  · 2025-01-30 21:17

正文

2025-01-30 21:17

【[44星]llama.cl:用Common Lisp实现的LLaMA推理工具,让AI语言模型的探索变得简单又高效!亮点:1. 兼容Karpathy的llama2.c,无缝对接现有模型;2. 支持BLAS加速,性能提升10倍;3. 在Intel i7 5930上,速度可达34.4 tok/s】
'Inference Llama in Common Lisp'
GitHub: github.com/snunez1/llama.cl
#CommonLisp# #LLaMA# #AI性能优化# #AI创造营#