新
闻①:
摩尔线程宣布性能新突破,国产千卡智算集群助力国产大模型训推
摩尔线程宣布与智谱AI合作,在2024年5月开展了新的GPU大模型适配及性能测试,包括大模型推理以及基于夸娥(KUAE)千卡智算集群的大模型预训练,相关大模型来自于智谱AI基座大模型及其开源版本。
测试结果表明,在推理方面,摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090,在全部测试用例中优于RTX 3090,在多batch下优于RTX 4090;在训练方面,摩尔线程夸娥千卡智算集群训练精度与A100集群误差在1%以内,夸娥千卡智算集群性能扩展系数超过90%,模型算力利用率(MFU)与A100集群相当。
摩尔线程表示,这次的测试结果对更好地建设中国大模型产品技术生态具有重要意义:
-
首先,是技术自主新突破,标志着摩尔线程全功能GPU算力底座有能力支撑行业领先的大模型全链条研发,在满足信息安全的前提下服务于千行百业;
-
其次,是助力打破算力瓶颈,表明国产GPU算力底座有能力助力中国人工智能技术发展;再次是开拓创新空间,算法、算力、数据是AGI技术的核心要素,双方的合作有利于推动实现软硬件的深度融合与协同创新;
-
再次,是开拓创新空间,算法、算力、数据是AGI技术的核心要素,摩尔线程与智谱AI卓有成效的适配与测试合作,有利于推动实现软硬件的深度融合与协同创新;
-
最后,是降低运营成本,摩尔线程自研国产全功能GPU不仅能够兼容适配全球主流AI软件生态,节约软件迁移成本,而且在单位算力总体拥有成本上拥有较为明显优势,能够有效降低大模型产品研发成本。
以大模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量,随着对算力需求的日益高涨,人工智能算力底座公司日益成为新一波人工智能技术浪潮重要组成部分。未来摩尔线程会与智谱AI在内的合作伙伴携手,共同推动大模型产业生态的建设和发展。
原文链接:https://www.expreview.com/94286.html
汗流浃背了吧,老黄??没关系,会赢的!NVIDIA才是挑战者!!AI最强?不过是生在没有摩尔线程的时代的凡夫罢了!!
玩梗归玩梗,摩尔线程这次拿出来的确实有些东西,不像某漫画中的白毛主角一样,闷声做大事啊!从此次公布出来的信息来看,国产千卡计算集群的性能并不比A100计算集群差,这对于刚刚起步的国产AI芯片产业来说已经是超乎想象的成绩了!算力是新时代的重要资源,中国市场的特殊情况令NVIDIA并不能像在国外市场一样垄断此资源,此前NVIDIA就表示华为昇腾NPU是严重的威胁,现在看来在中国市场这片沃土上,很快就要诞生新的最强了!反向制裁的时代就要到了!?
新
闻
②:
英伟达2023年数据中心GPU出货量逼近400万,占据了98%的市场份额
过去一年多里,随着人工智能(AI)市场的大爆发,英伟达数据中心收入出现了快速增长,从与游戏业务并驾齐驱到一枝独秀,拉开到八倍差距,前后不过两年的时间,增长的幅度令人难以置信。
据HPCWire
报道
,英伟达在2023年开始进入了“超级周期”,这要归功于Hopper架构产品带来的巨大收益。虽然其他大型科技公司都参与到人工智能的竞赛中,但是比起英伟达完整的软硬件体系,出货量方面有着非常大的差距。
根据TechInsights的数据统计,2023年英伟达成功出货了约376万个数据中心GPU,比起2022年多出了大概100万,占据了高达98%的市场份额,彻底击溃了AMD和英特尔等竞争对手。2023年数据中心GPU的总出货量约为385万,考虑到英伟达在其中的占比,竞争对手可以说毫无机会。由于产品单价更高,英伟达在2023年从数据中心GPU中获得了362亿美元的收入,是2022年的三倍多。
不过接下来随着人工智能市场的进一步发展,将不可避免地走向多元化,不少替代品会出现,其中不但有竞争对手的产品,也有大型数据中心及云端服务供应商的定制产品。目前市场上没有足够的人工智能硬件来维持需求,大部分的需求实际上都是针对英伟达的产品,导致竞争对手很难取得突破。
随着Blackwell架构的产品到来,已经可以想象对于市场会有怎么样的吸引力。虽然AMD和英特尔都推出了替代产品,但是想挑战英伟达还需要更多的努力。
原文链接:
https://www.expreview.com/94226.html
作为例子,我们来看一下NVIDIA在数据中心市场的恐怖占有率吧。全世界98%的数据中心市场都被NVIDIA占据,这部分市场的算力入口等于牢牢掌握在NVIDIA和美帝手中,剩下的2%中也多是美企,这个数字有些触目惊心了……我们不能把新时代发展的重要资源完全寄托在别人手中,所以……
新
闻
③
:
摩尔线程:与师者 AI 完成 70 亿参数教育大模型训练测试
IT之家从摩尔线程官方公众号获悉,摩尔线程与全学科教育 AI 大模型“师者 AI”联合宣布,双方已完成大模型训练测试。
师者 AI 成⽴于 2020 年,核心模型团队来自清华大学,总部位于北京海淀区。师者 AI 全学科教育大模型自开放内测以来,拥有超过 2.5 万用户,支持 30 个以上学科知识,2000 本以上教材。
摩尔线程表示,依托摩尔线程夸娥(KUAE)千卡智算集群,师者 AI 完成了其 70 亿参数大模型的高强度训练测试。整个训练过程用时一周,训练效率达到预期。双方还将在大模型推理上开展适配工作,以更好应对教育 AI 大模型知识更新和内容升级带来的高频推理需求。
据
IT之家此前报道
,摩尔线程于 5 月 27 日宣布,与无问芯穹完成基于国产全功能 GPU 千卡集群的 3B(30 亿)规模大模型“MT-infini-3B”实训,行业内首次实现国产 GPU 端到端 AI 大模型实训。
原文链接:
https://m.ithome.com/html/775145.htm
另外,摩尔线程在基础的算力有所突破之后,也很快开始了应用层的开发,也就是国产AI大模型。师者作为全学科教育AI大模型,反而是适合国产硬件的领域。之前在龙芯进校园的资讯中我们就提到过,国产硬件生态闭塞的短板在这些需要严格控制使用范围的教育领域可能会成为长处,对摩尔线程也是同理。老祖宗说过尺有所短寸有所长的道理,果然诚不欺我啊!