专栏名称: 歸藏的AI工具箱
互联网科技博主 产品设计师、模型设计师、 不会代码的独立开发者。 关注人工智能、LLM 、 Stable Diffusion 和设计。
目录
相关文章推荐
湖北经视  ·  武汉樱花开了!颜值最高的盛花期就在…… ·  2 天前  
CFC农产品研究  ·  【妙笔花生】22年行情能否复刻? ·  4 天前  
51好读  ›  专栏  ›  歸藏的AI工具箱

Mistral发布了两个小模型,Ministral 3B 和 M-20241017003835

歸藏的AI工具箱  · 微博  ·  · 2024-10-17 00:38

正文

2024-10-17 00:38

Mistral发布了两个小模型,Ministral 3B 和 Ministral 8B。 #ai#

他们说这是世界上最好的边缘模型(edge models),数据确实非常亮眼,所有参数全面超越同规模模型。

两种模型均支持长达 128k 的上下文长度;
Ministral 8B 有特殊的交错滑动窗口注意力模式,以加快和提高内存利用率;
Ministral 8B Instruct 模型可以下载不可商用。

他们自己发的这个梗图非常好玩。

官方公告:mistral.ai/news/ministraux/






请到「今天看啥」查看全文