【[80星]r1-ktransformers-guide:让你的DeepSeek-R1 GGUF模型在KTransformers上飞速运行。亮点:1. 性能提升近2倍,比llama.cpp更快;2. 支持多GPU和内存映射,灵活适配不同硬件;3. 优化配置丰富,轻松实现高效推理】
'run DeepSeek-R1 GGUFs on KTransformers'
GitHub: github.com/ubergarm/r1-ktransformers-guide
#深度学习# #模型优化# #高性能计算# #AI创造营#
'run DeepSeek-R1 GGUFs on KTransformers'
GitHub: github.com/ubergarm/r1-ktransformers-guide
#深度学习# #模型优化# #高性能计算# #AI创造营#