专栏名称: AGI Hunt
关注AGI 的沿途风景!
51好读  ›  专栏  ›  AGI Hunt

重磅!持续学习模型来了,可以像人类一样不断学习和思考!

AGI Hunt  · 公众号  ·  · 2024-12-16 08:51

正文

这是一个全新的AI模型,它能像人类一样不断学习和思考!

Topology推出了全新的 持续学习模型(CLM) ,这个模型不仅能记住对话内容,还会在「空闲时间」自主学习和思考。

听起来是不是很像人类的大脑?

让我们来看看这个「 超级大脑 」到底有多厉害。

传统大语言模型的三大痛点被CLM一招破解

  • 传统LLM每次对话都是「 失忆 」状态,而CLM能记住所有聊天内容

  • 普通模型没有「 内心世界 」,CLM却会在空闲时思考和消化记忆

  • 一般AI缺乏「 灵魂 」,CLM通过主动组织记忆和想法,形成了独特的个性

令人振奋的是 ,CLM可以完美替代现有的LLM系统。

只需更改一行代码,就能获得持续学习能力。

定价也相当亲民 :输入每百万token仅需2美元,输出每百万token仅需10美元。

而在记忆方面,CLM更是展现出惊人实力。

不同于ChatGPT只能存储少量片段记忆,CLM支持 数十亿条记忆 !它采用了一种全新算法,巧妙地连接了预训练和上下文学习。

更令人惊喜的是,CLM会优先保留 最新颖 最核心 最有用 的想法。

技术细节也是干货满满

  • CLM为transformer模型构建了「 海马体 」,就像人类大脑一样

  • 它包含两个创新组件: 记忆模块 内省模块

  • 记忆模块负责 编码 组织 遗忘 权衡 数据

  • 内省模块让模型能从记忆中 学习经验 形成想法

CLM的技术基础建立在开源和专有LLM之上,包括来自OpenAI、Anthropic、Google和Mistral的模型。特别值得一提的是, 没有Meta的Llama 3,CLM就不可能存在

CLM 隐私保护方面 也做得很到位。

它采用了分区机制来分离知识,用户可以通过partition_id参数来控制模型使用哪些记忆。你可以为不同场景(如企业、家庭、个人等)创建无限量的记忆分区, 完全免费

Topology目前提供三种型号的CLM:

  • Topology Tiny:适合推理、数学和编程任务

  • Topology Small:在通用性能和记忆推理方面表现出色

  • Topology Medium:提供最顶尖的性能水平

有了CLM,也许我们终于看到了一个真正能像人类一样学习和思考的AI系统!

相关链接

[1] https://yellow-apartment-148.notion.site/CLM-Docs-507d762ad7b14d828fac9a3f91871e3f

[2] https://topologychat.com/







请到「今天看啥」查看全文