专栏名称: OSC开源社区
OSChina 开源中国 官方微信账号
目录
相关文章推荐
OSC开源社区  ·  快十年了,Rust怎么还没有取代C/C++? ·  4 天前  
程序员的那些事  ·  腾讯居然还自研了 Git 客户端,也是没想到… ·  3 天前  
程序员的那些事  ·  曾经对程序员最好的公司,撤退了 ·  5 天前  
码农翻身  ·  48岁了,终于成为了一名游戏开发者! ·  5 天前  
51好读  ›  专栏  ›  OSC开源社区

西安源创会精彩回顾

OSC开源社区  · 公众号  · 程序员  · 2024-09-28 20:00

正文

9 月 21 日,第 106 期 OSC 源创会✖️科大讯飞开发者 TALK 在西安成功举办。

本次大会聚焦“大模型技术与产业应用”,邀请来自华为昇思 MindSpore、华为昇腾、科大讯飞、 西安电子科技大学的业内大咖发表主题演讲。

一起来看看本次活动的精彩瞬间吧!

多位专家精彩的内容分享!

人气满满的大会现场!

丰富有趣的互动环节!

感谢本期活动合作伙伴的大力支持

扫一扫,精彩回看👆

 

下面进入 106 期源创会・西安站 主题演讲环节回顾

科大讯飞高级平台架构师 江键 发表《 MaaS 大模型微调平台建设与应用实践》主题演讲。江键介绍,目前大模型产业落地形态大致可以分为四种,一是类似于 ChatGPT 这样开箱即用面向 C 端用户的大模型;二是根据不同行业需求进行定制的大模型;三是面向一些通用业务场景,如办公、财务、HR 等业务大模型;四则是针对于一些大企业在特定场景或知识框架下的专属大模型。

江键表示,随着大模型核心能力的日趋成熟,平台深度赋能应用将成为趋势。讯飞星辰 MaaS 可以帮助用户构建自己的数据,支持 5 种常见的文件格式,正确率达到 90%;通过数据清洗,将不同行业有效的数据清洗出来并保存;数据优化方面,星辰 MaaS 还支持 7 个方向、50 个以上常见 prompt 模板,让一些简单的 prompt 优化成更复杂、更高效的 prompt 。


西安电子科技大学副教授、博士生导师 武越 发表《三维点云协同智能处理》主题演讲。武越介绍,点云包含了物体或场景的三维几何信息,能够更准确地捕捉物体形状、大小及空间布局,多用于国防科技、航天航空及智慧城市领域,随着激光雷达等传感器设备迅速发展,点云数据获取方式变得更加方便,成本也越来越低。

武越指出,相较于传统的图像数据,点云可以将物与物之间的三维关系更加直接地传输给机器,从而提高数据的运算效率,例如无人驾驶领域,车与车之间其实并不需要知道对方是什么颜色、什么品牌,只需要知道对方的车速、车距等关键数据,就可以正常地展开空间运算,点云在这其中起到了非常重要的作用。


昇思 MindSpore 研发工程师 钱驾宏 发表《昇思 MindSpore 大模型关键技术与规划》主题演讲。钱驾宏表示,昇思 MindSpore 整体的思路是在训练、微调,以及部署这几个方面都能满足用户的一站式需求。这其中,昇思 MindSpore 支持包括数据并行、模型并行、长序列并行、多副本并行等多种并行模式,通过充分利用集群的计算资源,提高大模型的训练效率。

同时,昇思 MindSpore 支持模型的训练和推理过程,可以使用相同的代码和框架,大大简化大模型的开发和部署流程,开发者不需要在训练和推理阶段分别使用不同的工具和框架,减少了开发的工作量和出错的可能性。

值得一提的是,目前 昇思 MindSpore 还应用部署于华为的终端产品,整体的吞吐较之前提升了 4-5 倍。


随后,来自于华为的两名工程师 秦政、崔明 带来《大模型的昇腾开源原生支持与模型推理实战》主题演讲。据介绍,目前昇腾适配了大量的业界主流开源 LLM( Large Language Model )模型,包括 GLM 系列、LLaMA 系列等。在图文多模态方面,昇腾适配了 Based LLM 系列和 Diffusion 系列两类多模态大模型,而在视觉大模型方面,则支持计算机视觉( Computer Vision )领域大模型,如 ViT 、Swin Transformer 、MAE 等。

作为华为今年推出的应用使能套件,昇腾 openMind 基于微服务器,支持模型一键迁移,在模型部署时免去环境搭建,大大降低了时耗,并提供了全流程工具链,包括开发库 Libraries 、体验工具 Hub Tools 、微服务容器库、安全工具库,以及平台工具库等。不仅如此,openMind 社区还提供镜像仓库,开发者可以在镜像仓库中找到各种类型的镜像,并快速部署 AI 应用,目前已提供多个基础镜像用于二次开发。

END