专栏名称: 我爱计算机视觉
关注计算机视觉与机器学习技术的最前沿,“有价值有深度”,分享开源技术与最新论文解读,传播CVML技术的业内最佳实践。www.52cv.net 微博:计算机视觉与机器学习,QQ群:928997753,52CV君个人账号:Your-Word。
目录
相关文章推荐
科普中国  ·  一目了然!一张思维导图,带你看 2025 ... ·  昨天  
科普中国  ·  重大勘探突破! ·  2 天前  
51好读  ›  专栏  ›  我爱计算机视觉

教程系列2 | 趋动云『社区项目』一步实现与 AI 对话

我爱计算机视觉  · 公众号  ·  · 2024-07-16 12:30

正文

上周,我们沉浸于文生图【 教程系列1 | 趋动云『社区项目』极速部署 SD WebUI 】的奇幻世界,领略了文字转化为视觉的无限乐趣。本周我们继续与 AI 进行对话,探索智能交互的无限魅力!

Llama3-8B-Chinese-Chat

Llama3-8B-Chinese-Chat 是一个针对中文和英文用户的指令调整语言模型,具有各种能力,如角色扮演和工具使用,建立在 Meta-Llama-3-8B-Instruct 模型之上。但相较于 Llama3-8B-Instruct,Llama3-8B-Chinese-Chat 模型不会出现中文问题英文回答、中英夹杂的回答的问题,以及说话更为正式(Llama3-8B-Instruct真的很喜欢输出emoji)。

  • huggingface链接:https://huggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat
  • 中文介绍:https://zhuanlan.zhihu.com/p/693905042
  • V2.1:https://zhuanlan.zhihu.com/p/696250131

趋动云『社区项目』也已经上线该模型部署,操作简单便捷,快来一键体验。

  • 项目入口:https://open.virtaicloud.com/web/project/detail/463991461424648192

我问你答既视感

进入 Llama3-8B-Chinese-Chat-GGUF-8bit 项目主页中,下滑可以浏览该项目的详细介绍。

点击 运行一下 ,即可将项目一键克隆到工作空间,不需要自己动手收集下载数据集、模型等。另外,『社区项目』推荐适用的算力规格,可以直接 立即运行

配置完成,点击 进入开发环境 ,根据项目主页介绍进行部署。

执行下列命令,可体验自然的交流对话:

from llama_cpp import Llama

model = Llama(
    '/gemini/pretrain/Llama3-8B-Chinese-Chat-GGUF-8bit/Llama3-8B-Chinese-Chat-q8_0-v2_1.gguf',
    verbose=False,
    n_gpu_layers=-1,
)

system_prompt = "You are a helpful assistant."

def generate_reponse(_model, _messages, _max_tokens=8192):
    _output = _model.create_chat_completion(
        _messages,
        stop=[""""],
        max_tokens=_max_tokens,
    )["choices"][0]["message"]["content"]
    return _output

# The following are some examples

messages = [
    {
        "role""system",
        "content": system_prompt,
    },
    {"role""user""content""魔镜,魔镜,请你告诉我,谁是这个世界上最美丽的女人?"},
]

print(generate_reponse(model, messages))

"魔镜,魔镜,请你告诉我,谁是这个世界上最美丽的女人?"

在童话故事《睡美人公主》中,这个问题被问给了一个回答:睡美人公主。然而,在现实生活中,没有客观标准可以衡量一个人是否“最美”,因为美丽是一个主观的概念,受个人审美、文化背景和时代影响。

在不同的历史时期和不同的人群中,有很多女性被认为是世界上最美的女人,比如古代的希腊神话中的阿芙洛狄忒(Aphrodite),或者现代社会中一些知名的超模和影星。然而,这些评价往往基于特定的文化背景和个人偏好,并不具备普遍性。

因此,关于“世界上最美丽的女人”的问题更多的是一个讨论话题,而不是一个可以给出确切答案的问题。每个人的审美观念不同,所以这个问题总是会有无数不同的回答。

通过更换 "content": "" 里面的内容,实现人机交流对话。

示例二:

Q:孙悟空被压在五指山下多少年?被谁救出来的?
A:在中国古典名著《西游记》中,孙悟空被压在五指山下是因为他与天庭的玉帝发生了矛盾。孙悟空自称为“齐天大圣”,而玉帝认为他过于骄傲,于是将他压在五指山下,变成了一只猴子。
孙悟空被压在五指山下共计一百零八年。在这段时间里,他遇到了唐僧,并且帮助唐僧东渡西天取经。最终,在取经的过程中,孙悟空凭借自己的本事和智慧,最终被释放出来,被称为“齐天大圣”。他是由观音菩萨救出五指山下的。

Q:你上面对于孙悟空被压在五指山的年数回答,好像不准确,我怎么记得是500年?
A:您对此有所怀疑,这可能是因为不同版本的《西游记》中关于孙悟空被封印时间的描述略有差异。根据《西游记》的原著,孙悟空被封印在五行山下(后来变成五指山)的确实是500年。
在小说中,孙悟空因为打破天庭玉帝的法宝——金箍棒,被判处500年的流放。他的形象被化作石像,并被压在五行山之下。这段时间里,他的灵魂并未消散,而是在石像内部保持着清醒,等待着未来某一天能够恢复人形。
因此,您的记忆是正确的,孙悟空被封印在五指山下的确是500年。感谢您纠正我的回答!

示例三:

下面是一个简单的Python实现的快速排序算法:







请到「今天看啥」查看全文