1.1. AI行业动态:
90/270 亿参数,谷歌发布 Gemma 2 开源 AI 模型:性能力压同级、单 A100 / H100 GPU 可运行(IT之家)
谷歌公司近日发布新闻稿,面向全球研究人员和开发人员发布 Gemma 2 大语言模型,共有 90 亿参数(9B)和 270 亿参数(27B)两种大小。
Gemma 2 大语言模型相比较第一代,推理性能更高、效率更高,并在安全性方面取得了重大进步。
谷歌在新闻稿中表示,Gemma 2-27B 模型的性能媲美两倍规模的主流模型,而且只需要一片英伟达 H100 ensor Core GPU 或 TPU 主机就能实现这种性能,从而大大降低了部署成本。
Gemma 2-9B 模型优于 Llama 3 8B 和其他类似规模的开源模型。谷歌还计划在未来几个月发布参数为 26 亿的 Gemma 2 模型,更适合智能手机的人工智能应用场景。
谷歌表示为 Gemma 2 重新设计了整体架构,实现卓越的性能和推理效率。
Gemma 2 主要特点如下:
性能优异:
27B 版本在同规模级别中性能最佳,甚至比两倍于其尺寸的机型更具竞争力。9B 版本的性能在同类产品中也处于领先地位,超过了 Llama 3 8B 和其他同规模的开放模型。
效率和成本:
27B Gemma 2 模型可在单个谷歌云 TPU 主机、英伟达 A100 80GB Tensor Core GPU 或英伟达 H100 Tensor Core GPU 上以全精度高效运行推理,在保持高性能的同时大幅降低成本。这使得人工智能部署更容易实现,预算也更合理。
跨硬件快速推理
Gemma 2 经过优化,可在各种硬件(从功能强大的游戏笔记本电脑和高端台式机到基于云的设置)上以惊人的速度运行。
在 Google AI Studio 中尝试全精度的 Gemma 2,在 CPU 上使用 Gemma.cpp 的量化版本解锁本地性能,或通过 Hugging Face Transformers 在配备 NVIDIA RTX 或 GeForce RTX 的家用电脑上进行尝试。
加码“智慧办公”,荣耀宣布与字节豆包大模型达成合作(IT之家)
据火山引擎官方公众号 27 日消息,荣耀与字节豆包大模型现已达成合作,豆包大模型家族中的语音识别、角色扮演等多款模型将助力荣耀构建移动办公领域垂直模型落地应用的基础能力。
据介绍,豆包大模型将为荣耀手机用户提供基于文档理解的互动问答、按照指定格式一键生成会议纪要,以及包括工作总结、演讲稿、会议议程、广告文案、现代诗等在内的多类型、多体裁、多风格智能辅助创作。
具体来看,以撰写企业全员活动邀请函这一场景为例,豆包大模型可以提供活动信息、撰写要求,并生成邀请函框架及具体内容,用户也可以通过自然语言对话来对成文进行后续的多次修改。
官方表示,豆包大模型的知识库插件、联网插件将提供专业的参考资料,建成办公领域垂直知识库,供荣耀大模型应用在同用户交互作答时作为参考依据,提供语义上更具相关性的结果,从而生成更符合用户需求的内容。
近期开幕的 2024 MWC 上海展期间,荣耀 CEO 赵明在接受采访时表示,过去三年,荣耀一直重点投入 AI,刚开始是打基础的,现在逐渐呈现出来。“在端侧 AI,荣耀要整体领先苹果,也看到了苹果的快速反应能力和纠错能力。我们非常尊敬苹果,荣耀也要拿出自己的能力。”
1.2.
5G/运营商行业动态
:
中国电信发布 5G-A 行动计划,在终端、卫星、低空等重点领域深入合作(IT之家)
在 MWC 2024 上海世界移动通信大会期间,中国电信发布 5G- A 行动计划,将打造 8 大 5G-A 核心能力,在终端、卫星、物联网、低空等六大 5G-A 重点领域开展深入合作,并推出九大 5G-A 应用。
同时,中国电信还发布了《5G + 北斗时空体系赋能数字经济高质量发展白皮书》《空地一体 5G 增强低空网络白皮书》《面向星地异构网络的移动性管理技术白皮书》。
5G-A 的第一个标准版本 3GPP Rel-18 已于今年 6 月 18 日正式在上海冻结,这是 5G 产业发展的里程碑事件,标志着 2024 年成为 5G-A 商用元年。
中国电信 5G-A 行动计划重点围绕能力打造、生态合作、应用落地
三个层面深化实践探索:
在能力打造方面,
中国电信将打造 8 大 5G-A 核心能力,实现更高速率的数据能力、更为丰富多样的连接方式、更多内生特性的全面支持,满足未来多样化的业务需求。
在生态合作方面
,在终端、卫星、物联网、低空等六大 5G-A 重点领域开展深入合作,联合合作伙伴开展新技术标准制定、技术验证试点、应用商业推广。
在应用落地方面
,推出九大 5G-A 应用:为低空经济、制造、能源、仓储等行业客户提供高可靠远程控制、高精度数据采集、低成本泛在物联等解决方案;满足个人客户对更高速率、更低时延的新场景需求。此外,中国电信还将为客户提供通感一体、空天地全面覆盖的新应用体验。
此外,中国电信称,
将适度超前布局,持续推进 6G 技术创新
,在新型网络架构、天地一体,通感一体等重点领域联合产业合作伙伴开展技术攻关,取得体系化成果。面向未来,中国电信将加快 6G 网络架构与标准研究,积极抢占科技竞争和未来发展制高点。