5月29日，旧金山成为全球AI “浓度”最高的地方。
首钢基金CANPLUS美国AI游学
第三日，同学们走进2024旧金山GenAI峰会，与来自全球的AI领域从业者、投资人、科学家零距离交流，真正感受到AI时代热烈的创新创业氛围和产业革新脉搏。
英伟达、微软、英特尔、OpenAI、Meta等企业悉数到场，参加CANPLUS领教、novita.ai联合创始人姚欣也应邀在GenAI现场发表主题演讲和参与圆桌论坛。
英伟达如何看待具身智能
来自英伟达的高级研究科学家、具身智能负责人Jim Fan也成为本次GenAI峰会主论坛第一位主题分享嘉宾。Jim Fan凭借在社交媒体上的广泛影响力被称为“网红研究员”。
Jim Fan三个月前刚刚在英伟达内部成立了新的研究小组GEAR，开展通用具身智能研究。这个实验室被称为是最土豪的实验室，得到了英伟达的重金支持。Jim Fan回应，英伟达在具身智能方面一直在蓄力。2023年，Eureka就做到用GPT-4教会机器人快速转笔、抛接球等30多个复杂动作；Voyager则把GPT-4放进《我的世界》，成为第一个能够熟练玩《我的世界》的智能体。
英伟达高级研究科学家、具身智能负责人Jim Fan
为什么一定要做人形机器人？Jim说，因为我们整个世界都是为人设计和建造的。所以人形就可以帮助人做很多事。Jim非常乐观地认为，瓦力、星球大战中的机器人一定会出现在我们的生活中。
“2001年，NASA Robonaut 要150万美元，2024年Unitree只要 3万美元。”在现实产业层面，他认为未来5-10年人形机器人的成本会降低到原材料成本。他也相信黄仁勋说的，人形机器人现在是0，但未来一定是万亿市场，而英伟达绝对是想参与从0到万亿过程的。
作为GenAI峰会的“东道主”，旧金山市长——也是历史上第一位非裔市长London Breed到场发表致辞。
London Breed大力褒扬了旧金山作为创新之城的地位。从解决山坡送货问题的铛铛车，到改变人类文娱方式的电视机，许多重要的发明诞生在旧金山。而现在，“我们有着最强的人工智能公司在改变人类日常生活”。
London Breed援引数据指出，福布斯发布的2024年度AI 50最新榜单中，有21家在旧金山，这些企业吸引了高达224亿美元投资。她表示旧金山将吸引更多人来定居，打造领先的科技中心和生活中心。
旧金山市长London Breed
Novita AI：AI推理瓶颈如何突破？
novita.ai联合创始人姚欣应邀参与了GenAI峰会现场举行的“大型语言模型的创新”论坛，与业内专家共同探讨创新路径和成本优化方案。
姚欣提及，大型语言模型（LLM）的推理成本非常高。一是AI硬件成本和电力成本共同抬高了AI数据中心的投资。二是LLM的规模扩大后导致了更高的计算需求。今年Meta发布的开源大模型Llama3具有4000亿参数，xAI 的Grok超过3000亿，几乎是前一代的十倍。三是理论上推理本身效率不高。LLM是基于Transformer的自回归模型，随着序列越来越长，推理的计算量会呈指数级增长，同时，在硬件方面，我们通常使用传统GPU进行推理，GPU架构显示带宽成为推理速度的关键瓶颈。
参加CANPLUS领教、novita.ai联合创始人姚欣（最右）
“降低GPU数据中心的成本、压缩模型加速推理”，姚欣认为，这是两条降低AI推理成本的可行路径。novita.ai 为客户提供性能优化和广泛的算力供给、多种开箱即用的模型API以及模型托管服务。通过一系列技术优化策略，从底层硬件调整到任务调度优化，再到模型优化技术，为AI应用量身定制全方位API，实现了显著的成本效。“这种方法不仅降低了运营成本，还优化了资源利用，提升了AI应用的整体性能和速度”。
