专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
目录
相关文章推荐
爱可可-爱生活  ·  本文提出了 ... ·  昨天  
宝玉xp  ·  //@大红矛:-20250129033223 ·  2 天前  
新智元  ·  DeepSeek重创美国芯片产业,英伟达一夜 ... ·  2 天前  
爱可可-爱生活  ·  【[27星]wadler_lindig:一个 ... ·  3 天前  
51好读  ›  专栏  ›  爱可可-爱生活

【MNN LLM App:为安卓设备带来强大的大语言模型应用体验-20250128112945

爱可可-爱生活  · 微博  · AI  · 2025-01-28 11:29

正文

2025-01-28 11:29

【MNN LLM App:为安卓设备带来强大的大语言模型应用体验。亮点:1. 多模态支持,涵盖文本、图像、音频等多种任务;2. CPU推理优化,预填充速度比llama.cpp快8.6倍,解码速度快2.3倍;3. 广泛的模型兼容性,支持Qwen、Gemma、Llama等主流模型】
'MNN LLM App: A powerful LLM application for Android devices with multi-modal support and optimized CPU inference.'
GitHub: github.com/alibaba/MNN/blob/master/project/android/apps/MnnLlmApp/README_CN.md
#安卓应用# #大语言模型# #性能优化# #AI创造营#