今天参与关于大模型的讨论,我的观点是,在大模型记忆和推理能力没有跨越式发展的情况下,目前绝大多数大模型应用的创新点会长期持续在解决“上下文从哪来”的问题上。
目前来看,具有一定门槛但门槛又不高的领域知识,领域上下文足够聚焦,领域知识积累量又大,应用效果似乎很不错(说的就是写代码)。而非常专业的领域知识(比如说科研),或者是门槛太低的领域(比如说聊天机器人),反而效果都一般,前者幻觉过多,后者则过于平淡,还不如随便找个路人聊天。
另外记录一下今日写书进度:又写完一小节
目前来看,具有一定门槛但门槛又不高的领域知识,领域上下文足够聚焦,领域知识积累量又大,应用效果似乎很不错(说的就是写代码)。而非常专业的领域知识(比如说科研),或者是门槛太低的领域(比如说聊天机器人),反而效果都一般,前者幻觉过多,后者则过于平淡,还不如随便找个路人聊天。
另外记录一下今日写书进度:又写完一小节