【[44星]llama.cl:用Common Lisp实现的LLaMA推理工具,让AI语言模型的探索变得简单又高效!亮点:1. 兼容Karpathy的llama2.c,无缝对接现有模型;2. 支持BLAS加速,性能提升10倍;3. 在Intel i7 5930上,速度可达34.4 tok/s】
'Inference Llama in Common Lisp'
GitHub: github.com/snunez1/llama.cl
#CommonLisp# #LLaMA# #AI性能优化# #AI创造营#
'Inference Llama in Common Lisp'
GitHub: github.com/snunez1/llama.cl
#CommonLisp# #LLaMA# #AI性能优化# #AI创造营#