【MNN LLM App:为安卓设备带来强大的大语言模型应用体验。亮点:1. 多模态支持,涵盖文本、图像、音频等多种任务;2. CPU推理优化,预填充速度比llama.cpp快8.6倍,解码速度快2.3倍;3. 广泛的模型兼容性,支持Qwen、Gemma、Llama等主流模型】
'MNN LLM App: A powerful LLM application for Android devices with multi-modal support and optimized CPU inference.'
GitHub: github.com/alibaba/MNN/blob/master/project/android/apps/MnnLlmApp/README_CN.md
#安卓应用# #大语言模型# #性能优化# #AI创造营#
'MNN LLM App: A powerful LLM application for Android devices with multi-modal support and optimized CPU inference.'
GitHub: github.com/alibaba/MNN/blob/master/project/android/apps/MnnLlmApp/README_CN.md
#安卓应用# #大语言模型# #性能优化# #AI创造营#