专栏名称: 锌财经
读懂新经济,人民网投资的数字化内容机构。
目录
相关文章推荐
广电时评  ·  观察 | 广电行业如何搭车DeepSeek? ·  23 小时前  
人民日报评论  ·  找准发力点,干出好年景 | 今日谈 ·  2 天前  
CHINADAILY  ·  Business丨Spring ... ·  4 天前  
51好读  ›  专栏  ›  锌财经

1张更比20张强!两位00后组图挑战英伟达

锌财经  · 公众号  ·  · 2024-07-07 18:47

正文





史上最快Transformer芯片诞生,英伟达地位或将不保!
就在前几天,芯片初创公司Etched宣布完成1.2亿美元的A轮融资,


并且在同一天发布了世界上第一个基于Transformer架构的专用芯片“Sohu”。


据说,这款芯片在跑Llama 70B时,

每秒可生成高达500000个token的输出, 相当于可以在两秒内写完一本《水浒传》


而这样的成绩:


是8张英伟达B200的10倍; 是8张英伟达H100的20倍。


换句话说,1张Sohu约等于10张英伟达B200;或者20张英伟达H100。


更关键的地方在于,


不管是OpenAI 的GPT系列, 还是谷歌的PaLM, 又或者是Facebook的LLaMa,


眼下几乎所有头部AI公司都在使用Transformer架构。


这意味着,Sohu芯片将可以大幅降低极大多数AI企业的运营成本。


而据Etched创始人透露,目前已经有匿名客户预订了数千万美元的硬件。


讲到这里,如果你觉得还不够震撼,那么我们再换个角度,


试想一下,如果AI模型一夜之间速度提高20倍且成本降低,将会发生什么?


实话讲,这样的革命性产品的影响,我很难想象,


所以只好借用Etched官方的话:


“就Transformer而言,Sohu是有史以来最快的芯片,没有任何芯片能与之匹敌!”


大家都知道,放眼全球,半导体行业多年来一直被英伟达和超微垄断,


自打AI火爆全球之后,两家企业那是赚得盆满钵满,


尤其是英伟达,前不久市值一度超越3.3万亿美元,超过微软成为全球第一。


而这一次,Etched如同神兵天降,必然会对半导体行业格局带来不小的影响。


但令人我怎么也想不到的是:


在这家一鸣惊人的芯片企业背后,站着的居然是两个00后“辍学”青年。


作为两位创始人之一,Gavin Uberti(加文-乌贝蒂)是个“数学怪”,


不仅高中时就拿下了美式数学竞赛冠军,并且在2020年顺利考入了哈佛。


和Gavin Uberti一样,Etched另外一位创始人华裔小伙Chris Zhu(克里斯-朱)也是个“天才”,


读书期间,就在哈佛和麻省理工担任教员和辅导员了。


2022年初,Gavin选择休学一年,跑出去给人打工,


在知名机器学习公司OctoML担任软件工程师期间,Gavin注意到Arm指令集中的一个bug,会大大降低处理器的工作效率。


这一发现,让Gavin萌生了创业的念头。


于是,他拉上Chris Zhu以及另一位校友,正式成立了Etched,并押注了Transformer专用芯片这一领域。


这里有个非常关键的信息:


那就是在Etched成立的时候,ChatGPT还没有问世,


并且市面上大多生成模型用的都是U-Net、CNN之类的架构, 基于Transformer架构的大模型几乎没有。


但这两位小哥愣是坚信——Transformer大模型将会统治世界,


并且,他们还在Etched官网写到:







请到「今天看啥」查看全文