专栏名称: 赛博攻防悟道
独到观点的安全情报分析
目录
相关文章推荐
51好读  ›  专栏  ›  赛博攻防悟道

ChatGpt的业务运转形态解读

赛博攻防悟道  · 公众号  ·  · 2023-03-29 13:04

正文

ChatG pt会让 大多数人失业并非危言耸听。目前,除了精通AI领域加上了解各行业业务领域知识的人,其他非专业领域,就算是科技行业的很多人也难以理解 ChatG pt目前的业务运转形态。

我们可以用另外一个方式去理解ChatGpt,它实际上是一次大型AI实验诞生的模型,无意中出现了超出所有人预期的生成和推理能力,并且发展出了一种上下文自然语言编程的方式,其上文包括数据和提示词,下文按提示词语义生成,可以把每次推理会话都想象成在调试控制上下文的生成。

但这种编程方式最重要的技术瓶颈还是上下文大小限制,这种编程的推理生成空间是有限的。例如GPT-4一次推理会话生成的极限为32768个token/131072字节(包括输入的上文和输出的下文),用更抽象化的方式表达这个上下文推理生成的限制,可以把它想象成GPT-4模型在推理生成一个此消彼长的太极数据,由于可推理和生成的上下文是定量的,上文占据字节太多,则下文能生成的就变少。

再举一个简单的例子方便大家理解推理生成,ChatGpt的每一次聊天会话中,每一句提问和回答都是一次单独的推理会话。聊天期间每次新的提问,实际上都是把之前所有的聊天提问回答过程视为上文重新输入,以进行推理生成。你的提问实际上是在进行上下文的滚雪球,直到最后一个提问聊天滚到32768个token的推理生成空间限制。为了进一步缓解上文抢占下文的推理生成空间限制,企业可以做自己的业务数据微调模型(约束领域知识)或向量数据库(向量化扩充上文),但这部分的定制上文数据涉及企业自己的数据安全和隐私。







请到「今天看啥」查看全文