随着大型语言模型(LLMs)的发展与广泛应用,我们正身处一个技术革新的时代。
为了深入挖掘和探索这一技术的潜力,我们诚挚地邀请您参加 NVIDIA 第十届 Sky Hackathon 活动。
本次 Sky Hackathon 的核心议题是“ 基于 RAG 技术创新构建智能对话机器人”。
我们鼓励参赛者运用 RAG(Retrieval-Augmented Generation)技术,并结合 NVIDIA 的 SDK 工具,自主设计和搭建对话机器人。
▷
深入了解并实践 RAG 技术,掌握搭建对话机器人的核心技能。
▷
亲身体验 NVIDIA SDK 的强大功能,为您的开发工作提供有力支持。
▷
体验 NVIDIA NIM 在生成式 AI 中的强大作用, 以及在边缘端设备上部署实践的流程
▷
与同行交流学习,共同探索生成式 AI 的更多可能性
▷
展示您的创意和实力,赢得丰厚的奖品和参赛证书
▷
活动过程中,完成NVIDIA DLI 线上课程《Building RAG Agents with LLMs》,还将获得 NVIDIA DLI 颁发的学习证书
▷
活动过程中,在 CSDN 或者知乎上撰写学习笔记也将额外获得精美小礼品。
通过您的参与和努力,Sky Hackathon 将成为推动生成式 AI 技术发展的重要力量。期待您的加入,共同开启这场技术的盛宴!
Sky Hackathon 由 NVIDIA 发起并主办,项目旨在帮助在校参赛队伍、人工智能开发者在 NVIDIAJetson 边缘高性能计算产品上部署和优化人工智能应用。在经验丰富的 GPU 导师指导下,通过黑客松竞赛的方式学习业界所需的深度学习相关应用开发及其并行计算技能,激发参赛队伍们的学习兴趣与创新力。
NVIDIA 工程师将亲自为参赛队伍带来他们对最新的深度学习与边缘计算方面的理解、行业的趋势与最新的技术应用及最新开发工具实战技能知识,在训练营中对参赛队伍进行指导。
Sky Hackathon 为参加者提供了一个难得的学习并实际操作的机会,学习嵌入式深度学习开发所需的动手技能,通过使用 NVIDIA 最新的编程模型、库和工具以加速和优化他们的 AI 应用程序。
整个活动包含了训练营和黑客松比赛,全程采用在线的方式。
本次大赛
前三名
将获得由创乐博赞助的 Jetson Orin NANO(4GB) 开发套件,
第四名到第 13 名
将获得由创乐博赞助的 Jetson NANO 开发套件,所有完赛队伍成员将获得 NVIDIA 限量版徽章和一份精美礼品。
*完赛队伍都将获得参赛证书
湖南创乐博智能科技有限公司(创乐博)是一家教育设备公司,相关产品主要包括 ,树莓派、英伟达 Jetson 系列系列等,包括科教设备上千款产品。
【官方网站】:
https://www.loborobot.com/
【电商平台】:
https://chuanglebo.tmall.com/
本次大赛需要收取
100元押金
,活动结束后,
100 元押金将原路退回
。组队成功后,活动助教会通过邮件联系队长收取 100 元。
本次大赛主题 “基于 RAG 技术创新构建智能对话机器人”
本次 Sky Hackathon 比赛旨在让参赛队伍通过实践,深入了解并应用 RAG(Retrieval-Augmented Generation)技术,结合大模型,自主搭建并优化对话机器人。具体任务包括以下几个部分:
◆
学习 RAG 技术与大模型的结合:
参赛队伍将通过主办方提供的介绍和 DLI(
Deep Learning Institute
)课程
(https://learn.nvidia.com/courses/course-detail?course_id=course-v1:DLI+S-FX-15+V1)
,
系统学习如何利用 RAG 技术来增强对话机器人的交流能力。深入理解 RAG 技术的工作原理,以及它如何与大模型相结合,从而提升对话机器人的智能化水平。
◆
学习利用 NIM 平台搭建与部署对话机器人:
参赛队伍需利用所学知识,结合 NVIDIA 提供的 NIM 接口和 SDK 工具,自主搭建一个基于 RAG 技术的对话机器人。完成搭建后,参赛队伍需将对话机器人部署到组委会提供的 Jetson NX 平台上。这一过程中,参赛队伍需要确保机器人在该平台上的稳定运行。
◆
对话界面的优化与创新功能添加:
在确保对话机器人基本功能正常运行的基础上,参赛队伍需要对对话界面进行优化,以提升用户体验。鼓励参赛队伍发挥创意,为对话机器人添加自定义的创新功能。这些功能可以是提升交互体验的小工具、增加趣味性的元素,或是其他能够提升对话机器人实用性和吸引力的设计。
◆
项目展示与答辩:
在最终决赛中,参赛队伍需要向评委和观众展示自己的项目成果。这包括对话机器人的功能演示、界面展示以及创新功能的介绍。参赛队伍还需准备答辩环节,就项目的创新点、技术难点、实现过程等方面回答评委的问题,以展现自己对项目的深入理解和扎实的技术功底。
通过以上任务的完成,参赛队伍不仅能够掌握 RAG 技术和大模型的应用,还能在实践中锻炼自己的动手能力和创新思维,为未来的学习和职业发展打下坚实的基础。
◆
构建可预测交互的 LLM 系统:
你将学会如何组合一个大型语言模型(LLM)系统,该系统能够通过利用内部和外部推理组件与用户进行可预测的交互。这意味着你的系统将能够理解用户的意图,并根据上下文提供连贯、准确的回应。
◆
设计对话管理与文档推理系统:
你将掌握如何设计一个对话管理和文档推理系统,该系统能够维护对话状态,并将信息强制转换为结构化格式。这样,你的对话机器人就能够更好地理解用户的需求,并在对话过程中保持一致性,提供用户所需的信息。
◆
利用嵌入模型进行高效相似度查询:
你将了解如何利用嵌入模型进行高效的内容检索和对话引导。通过这种方法,你的对话机器人能够快速地找到与用户问题最相关的内容,并在对话中提供有价值的参考信息,从而提升用户体验。
◆
实现、模块化和评估 RAG 代理:
最后,你将学会如何实现、模块化和评估一个基于检索增强生成(RAG)技术的代理,该代理能够在不进行任何微调的情况下回答其数据集中研究论文的相关问题。这将使你的对话机器人在处理专业领域的知识时更加准确和高效。
◆
体验 NVIDIA NIM 的便捷部署:
学习使用 NVIDIA NIM(NVIDIA Inference Microservices),这是一个经过优化的云原生微服务。了解 NIM 如何将 AI 模型简化为微服务,并通过容器化技术,实现模型的快速部署。
总的来说,通过参加本次大赛,你将获得构建智能对话机器人的全面技能,从系统设计到实现、评估,再到优化,为你的职业发展或个人兴趣打下坚实的基础。
活动形式:
线上
活动安排:
线上报名,每个参赛队员都需要报名。报名时间内,如果所有席位报满,组委会将有权提前关闭报名通道。
|
7月6日
|
AI 训练营
|
欢迎致辞
|
NVIDI
A
Blade Meng
|
合作伙伴致辞
|
创乐博
|
宣布黑客松的比赛规则
|
NVIDIA, Ken He
|
NVIDIA NIM 接口调用实践
|
NVIDIA, Ken He
|
基于 NIM 实现 LLM-RAG 智能检索应用
|
NVIDIA, Yipeng Li
|
Gradio框架介绍
|
NVIDIA, Wilson
|
参赛团队远程上机操作,
答疑
|
|
7月12日
|
线上测试
|
17:00-24:00
|
开放 Jetson 云平台给参赛队伍做测试
|
7月13日
|
线上测试
|
8:00-24:00
|
开放 Jetson 云平台给参赛队伍做测试
|
7月14日
|
比赛
|
8:00-14:00
|
开放 Jetson NANO 云平台给参赛队伍做测试
|
各队开始远程提交最终作品,每个队伍有3分钟展示和介绍作品,组委会进行作品评估。
系统停止接受作品提交时间为 16:00。
同时各参赛团队需要在16点之前提交一份不少于800字的项目报告。
|
7月15日
|
公布比赛结果及大赛总结
|
10:00-10:15
|
公布比赛结果
|
NVIDIA
|
10:15-11:00
|
本次大赛选手发挥及经验总结
|
NVIDIA Ken
|
(
由主办方提供
)
硬件平台:
NVIDIA Jetson Xavier NX( 8G Memory )
操作系统:
Ubuntu 20.04 L4T 64
位元桌面版
开发环境:
JetPack5.1.3
教学环境:
Jupyter Lab 2.2
同时为参赛队伍提供真实的Xavier NX编程环境