什么？iPhone都可以跑AI大模型了

CTO肉饼 · 公众号 · · 2024-01-09 19:44

正文

你能想象，在自己的手机上跑一个AI大模型，而且速度还飞快吗？其实现在的iPhone 15 Pro已经足够了。苹果公司在秘密研发AppleGPT，而且在2024年底就会推出。但我们根本不需要等到年底，现在就可以用了。

在应用商店下载 「Offline Chat」App ，他里面运行了一个开源的AI大模型 Mistral 7B ，也就是参数70亿的小尺寸版本，这个模型下载下来呢，有3.3GB的大小，运行起来需要大约6GB的内存。我们来试试看：

推荐文章

OSC开源社区 · OSChina 周二乱弹 —— 永远不要得罪一只猫

8 年前

37度里丨长江健康融媒 · 重要通知！今晚开始，武昌地区将大面积停水23小时！应对的办法，都在这里……

8 年前

上海发布 · 【规划】徐汇滨江"C"形亲水平台结构贯通！旁边是大油罐组成的公园

7 年前

法信 · 擅自驾驶他人机动车发生交通事故的责任认定规则丨法信码

7 年前

小学生作文 · 8.16 【边学边用】描写暑假好词好句

7 年前