1.1. AI行业动态
:
马斯克:xAI将于8月推出Grok-2大语言模型(IT之家)
马斯克在推特平台发文宣布,其人工智能初创公司xAI的大预言模型Grok-2将于8月推出。
xAI 今年 3 月、4 月陆续推出了 Grok-1.5 大语言模型和首个多模态模型 Grok-1.5 Vision。xAI 曾表示,Grok-1.5V 在多学科推理、文档理解、科学图表、表格处理、屏幕截图和照片等多个领域“都能媲美现有的前沿多模态模型”。xAI公司8月即将推出Grok2,预期将稳定其在开源模型市场的地位。但我们认为,Grok2是否可以超过GPT、Gemini等市场领先产品,不仅要看新产品参数,更要看其新产品训练框架、训练数据质量、下游应用反馈等情况。
马斯克:xAI 训练 Grok-3 大模型用了 10 万块英伟达 H100 芯片(IT之家)
7 月 2 日消息,马斯克已经宣布其人工智能初创公司 xAI 的大语言模型 Grok-2 将于 8 月推出,将带来更先进的 AI 功能。虽然 Grok-2 还没亮相,但马斯克已经开始为其 Grok-3 进行造势。
马斯克表示:训练AI聊天机器人需要数据集,而且从现有数据中清除大型语音模型的工作量很大,他还谈到OpenAI模型输出训练的几个问题。他透露xAI的Grok-3用了10万块英伟达H100芯片进行训练,预计将于年底发布。由于每块英伟达H100人工智能芯片的价格估计在3-4万美元(当前约21.9-29.2万元人民币)左右,批量购买的话可能会有折扣。简单计算可知,xAI这里的10万块英伟达H100价值30-40亿美元(IT之家备注:当前约218.68-291.57亿元人民币)。马斯克之前曾提到特斯拉今年从英伟达采购芯片金额为30-40 亿美元之间。
我们认为,Grok-2即将推出,Grok-3的训练已经开启,可见xAI产品发布规划的延续性。从Grok-3训练所用的AI芯片数量,已经超过大多数AI大模型训练所用的芯片数量(一般万卡级别),因此可以预见Grok-3的参数量指标或将领先行业。
英伟达量产交货潮或将到来(科创板日报公众号)
据台湾工商时报消息,英伟达AI GPU H200上游芯片端于Q2下旬起进入量产期,预计在Q3以后大量交货。有供应链人士指出,第三季将量产交货的H200主要为英伟达的DGX H200,但目前待出货订单仍然多集中于H100,H200的比重尚有限。
对此,英伟达表示,H200供应短缺乃至供不应求的情况或将持续至2025年,今年3月为生产H200导致台积电4nm产能几近满载。但随着英伟达Blackwell提前上市,技嘉、华硕等终端客户采购H200的意愿也遭到影响,转而选择下一代的B100/B200系列。据悉,目前B100则已有部分能见度,预计出货时程落在明年上半年。
此外, MoneyDJ消息称英伟达GB200 NVL36服务器也将在Q4进入量产,有零组件厂表示,已被要求于Q3完成量产准备。我们认为,英伟达H200出货实际符合预期,应密切关注其交货量和交付对象,以及各大企业的预期订单情况。
北京:2025年智算供给规模达45EFLOPS(新浪财经)
北京市经济和信息化局总经济师、数字经济专班执行长唐建国在3日召开的“2024全球数字经济大会智能计算与决策技术论坛”上介绍:北京市明确提出,到2025年本地智算供给规模达到45EFLOPS(衡量超级计算机性能的指标之一,表示每秒进行百亿亿次浮点运算的能力),形成北京市内东西南北四个亿级以上算力中心,构建‘京津冀蒙’算力供给走廊,为人工智能大模型的训练和推理应用提供高效的算力供给。同时,推出一系列人工智能商业场景,预计利用两年时间打造AI原生城市。
截至目前,全国已通过备案的大模型产品共有166个,其中北京市有71个,约占全国一半,人工智能产业高地建设成效显著。北京市正在推动人工智能+行动计划,下一步将在人工智能+机器人、人工智能+医疗、人工智能+教育、人工智能+政务服务等方面,打造标杆性工程,形成行业示范应用。
我们判断,国内AI大模型市场加速扩张,算力资本开支有望呈现快速增长趋势。国内AI数据中心建设有望对上游基础设施,如光模块、服务器、交换机等产业有较大拉动。
1.2. 光模块/铜连接行业动态:
Marvell推出业界首款用于AEC的1.6T PAM4 DSP(讯石光通讯公众号
)
基础设施半导体解决方案的领导者Marvell推出了用于有源电缆的Marvell®Alaska®a 1.6T PAM4 DSP,这是业界首款1.6Tbps AEC DSP,用于解决新兴的基于200G/lane的加速基础设施架构。新款1.6T PAM4 DSP是基于Marvell业界领先的5nm PAM4技术构建,满足日益增长的200G/lane I/O需求,可在加速计算机架内实现1.6T短距离铜线连接
传统人工智能加速器、服务器到机架顶部链路以及机架内交换机到交换机互连之间的短距离铜连接是通过DAC解决的。随着速度增加到200G/lane,无源DAC的传输距离显著下降。AEC使用PAM4 DSP重新定时信号,可实现超过三米的铜线距离,满足机架内铜连接的延伸要求。
据650 Group称,AEC芯片市场预计将以每年64%的速度增长,到2028年将达到10亿美元,其中用于AEC的DSP每年将达到近4000万个。目前,人工智能正在推动对1.6T短距离铜缆连接的需求。Marvell推出Alaska 1.6T AEC DSP延续了公司的领先优势,使电缆供应商能够提供针对不同云AI架构优化的互连解决方案。
1.3. 车联网行业动态:
“
车路云一体化”首批试点城市名单公布(微信公众号:智能汽车与智慧城市协同发展联盟)
7月3日,“车路云一体化”首批试点城市名单正式公布,北京、上海、重庆、鄂尔多斯、沈阳、长春、南京、苏州、无锡、杭州、合肥、福州、济南、武汉、十堰、长沙、广州、深圳、海南、成都等20个城市入选,标志着“车路云一体化”进入规模化落地发展新阶段。
从今年1月17日五部门联合发布《关于开展智能网联汽车“车路云一体化”应用试点工作的通知》(以下简称《通知》),至今日首批试点城市名单正式公布,在不足6个月的时间内,五部门协同30余个城市完成了试点方案申报、汇总审核、专家评审等多项工作,推进“车路云一体化”发展迈出关键一步,彰显出我国推动智能网联汽车发展的决心和效率,也侧面反映出智能网联汽车发展的重要性和紧迫感。
整体来看,此次入选的20个试点城市呈现三大共性特点:
一是多数入选城市具有“双智”试点和示范区的基础,“底子”更好。北京、上海、广州、武汉、合肥、济南等12个双智试点城市全部成功入选“车路云一体化”应用试点(其余4个双智试点城市未申报),在政策保障体系支撑、智能基础设施建设、场景示范应用等方面积累了丰富的实践经验和成果,后续升级改造时的投入成本将更低;
二是入选城市普遍具有良好的汽车产业基础,包括北京、上海、广州、武汉、重庆、长春、沈阳、十堰等地均是我国重要的汽车产业基地,对推动汽车产业智能化转型的积极性较高。深圳、海南、杭州、无锡等地在智能网联汽车领域发展较快,在政策突破、产业聚集等方面具备一定优势,可以为“车路云一体化”应用试点提供有力的政策和产业支撑;
三是入选城市对智能网联汽车发展重视程度更高,投入决心更加明显。与部分城市、企业的观望态度不同,入选城市对“车路云一体化”应用试点有着明确的目标和发展规划,多数城市已建立跨部门协同工作组织机制,形成了由市政府领导、各部门分工协作、共同参与的工作专班,跨部门、跨领域统筹推进“车路云一体化”相关工作。海南省更是突破当前国内以单一城市或市辖区为单位创建国家级应用试点、先导区的模式,以“全省一盘棋、全岛同城化”的理念开展省级示范。