本文介绍了在SIGGRAPH 2024大会上，NVIDIA和Meta关于开源大模型的讨论及合作。Meta发布了开源大模型Llama 3.1，并展示了其性能追平甚至超越一些顶尖闭源大模型的实力。扎克伯格认为合作是取得更多进步的关键，并期待开源在下一代计算中占据主导地位。黄仁勋赞同开源的重要性，认为开源能够加速技术迭代，降低进入门槛，让更多人参与大模型开发。最后，文章强调开源对于企业和开发者共享研究成果、推动科技创新的重要性。
Meta在SIGGRAPH 2024大会上发布了开源大模型Llama 3.1，提供了不同参数版本，最大上下文提升到了128k，性能追平甚至超越了一些顶尖闭源大模型。
扎克伯格认为合作是取得更多进步的关键，并期待在下一代计算中，开源能够再次回归并成为主导趋势。他强调了开源对于企业和开发者共享研究成果、加速技术迭代、降低进入门槛的重要性。
黄仁勋赞同开源是一项伟大的事业，认为开源能够赋予个人或组织构建自己的人工智能系统的能力，并加速技术迭代。他以Pytorch生态系统为例，说明了开源软件的建设需要开放和协作。
文章最后强调了开源在大模型领域的重要性，企业和开发者通过共享研究成果、加速技术迭代、降低进入门槛，可以推动大模型的开发和科技创新。
自ChatGPT问世以来，大模型的开源与闭源一直是业界热议的话题。在近期举行的SIGGRAPH 2024大会上，NVIDIA首席执行官黄仁勋与Meta首席执行官马克·扎克伯格探讨了开源模型的变革潜力。
美国当地时间7月23日，Meta正式发布最新的开源大模型Llama 3.1，提供8B、70B和405B三个参数版本，最大上下文提升到了128k。
根据评测结果显示，Llama 3.1追平甚至超越了GPT-4o、Claude 3.5 Sonnet等顶尖闭源大模型。
扎克伯格认为，
合作是取得更多进步的关键。
他在一篇博客文章中写道，Llama 3.1有望成为采用开源AI的“转折点”。据他介绍，Meta在开源方面的起步相对较晚。当Meta开始着手构建分布式计算基础设施和数据中心时，已有其他科技公司涉足该领域，所以这并不能构成Meta的竞争优势。
鉴于此，Meta决定直接进行开源，并从围绕其建立的生态系统中受益，其中最大的项目应该是开放计算。Meta公开了
服务器
、网络和数据中心的设计，这些设计在成为行业标准后，所有的供应链基本上都按Meta的标准进行运作。因此，实际上开源为Meta节省了数十亿美元。
在探讨开源策略时，扎克伯格强调，Meta的产品面临着一个现实，即通过竞争对手的移动平台来分发自己的应用程序。
在智能手机操作系统的竞争中，苹果凭借其封闭的生态系统占据了市场的主导地位，游戏规则都是苹果说了算。
尽管Android手机在数量上占优势，但苹果实质上控制了整个市场和大部分利润，而Android则处于追随地位。
然而，回顾PC时代，尽管微软并非完全开放的公司，但与苹果相比，Windows系统能够在各种OEM、不同的软件和硬件上运行，构成了一个更为开放的生态系统，并成为领先的生态系统。
在PC时代，开放的生态系统占据主导地位。
因此，扎克伯格希望在下一代计算中，开放的生态系统能够再次回归并成为主导趋势。“开源和闭源两种模式各有其优势，我并不是非常狂热的开源主义者，也并非所有Meta的产品都开源。然而，对于整个行业共同构建的计算平台而言，开源具有重要意义。”
扎克伯格坚信，开源终将获胜。
黄仁勋对此表示赞同，他认为，
开源是一项伟大的事业，世界上最杰出的人才致力于打造最好的人工智能系统，并将其作为服务无私地提供给全世界。
同时，开源还赋予了个人或组织构建自己的人工智能系统的能力。“就像我不会自己做我身上这件皮衣，而是买别人做的成品，这种服务的价值不可估量。”黄仁勋说道。
实际上，开源软件的建设并非单凭一人或一家公司之力所能完成，它依赖于一个完整的生态系统作为支撑，本质上就需要开放和协作。黄仁勋以Pytorch生态系统为例，指出NVIDIA有数百名专业人员全心投入，致力于让 Pytorch不断进步，变得更强大、更可扩展、更高效。
