大模型发展动态跟踪

本期导读

6月6日，美国联邦贸易委员会和美国司法部达成协议，允许对微软、OpenAI和英伟达在人工智能行业的主导地位展开反垄断调查。

6月6日，广东省计划到 2025 年全省算力规模达到 40EFLOPS，AI 核心产业规模超过 3000 亿元；到 2027 年初步建成“AI 芯片生态体系”。

6月6日，DeepMind成功将LLM的认知不确定性和偶然不确定性解耦，新推导出的幻觉检测算法能有效检测Gemini幻觉。

6月6日，马斯克旗下xAI拟在美国孟菲斯开发超级计算机，为 Grok 提供算力。

6月6日，小米机器人正推进仿人机器人在自有制造系统的分阶段落地，同时通过拓展应用场景，实现与汽车、机械、电子和人工智能等产业的集群式融合发展。

6月7日，山东省青岛市提出要打造世界级海洋人工智能大模型产业集聚区。

6月7日，支付宝上线“毛发自测”AI工具，用户可通过大模型识别脱发级别。

6月7日，中山大学眼科中心与华为合作构建的 ChatZOC 眼科大模型发布。该大模型以眼病诊疗知识库为基础，链接大数据平台，患者服务效率可提升 75%。

6月9日，德国科学家论文揭示：LLM已经涌现出“欺骗能力”，通过1920个无污染任务测试，GPT-4有99.16%的可能会欺骗人类，在用了CoT之后还有71.46%。

6月10日，Meta表示，希望能够获批使用欧洲用户数据来训练其大模型。

6月11日，苹果公司发布全新个人化智能系统——Apple Intelligence。

6 月12日，OpenAI CEO 与三星集团会长讨论AI芯片合作事宜。另外，OpenAI 计划扩展芯片团队到几十个人，主要来自谷歌TPU团队，每年提供百万美元股权。

®大模型公司对标：系统梳理了全球AI领域龙头企业-英伟达公司的全面情况。

资讯精读

1.【 政策】 广东：到2025年全省AI核心产业规模将超过3000亿元

6月6日，广东省人民政府办公厅发布《广东省关于人工智能赋能千行百业的若干措施》文件，主要围绕 2025-2027年广东省内AI发展进行规划。广东省计划到 2025年全省算力规模达到 40EFLOPS，AI 核心产业规模超过 3000 亿元；到2027年，全省AI产业底座进一步夯实，算力规模超过 60EFLOPS，全国领先的算法体系和算力网络体系基本形成。具体看来，广东省将建立 AI 芯片生态体系，打造智能感知产业体系。在 2027 年初步建成“AI 芯片生态体系”，实现“高端智能传感器产业规模倍增”。在 AI 软件方面，到 2027 年，智能软件产业规模达到 270亿元、人工智能自主软件覆盖率达到 50%。

天翼智库： 广东省在2022年底发布的《广东省新一代人工智能创新发展行动计划（2022-2025年）》基础上，根据2022年-2024年全球人工智能产业最新实践和发展趋势，进一步调整了和明确了2025年-2027年广东省人工智能发展的重点任务和量化目标，特别是新增了算力建设目标、打造AI 芯片生态体系、提高人工智能自主软件覆盖率、行业数据集汇集和使用制度等相关内容。运营商应把握机遇，积极参与广东省的算力基础设施、AI自主软件和行业数据集建设。

2.【技术】PNAS论文曝出GPT-4在99.16%任务中会欺骗人类！

6月9日，德国科学家在PANS上发表的论文揭示了一个令人担忧的现象：LLM已经涌现出“欺骗能力”。而且，相比前几年的LLM，更先进的GPT-4、ChatGPT等模型在欺骗任务中的表现显著提升。此前MIT（麻省理工）的研究发现，AI在游戏中可以自行决定欺骗其他玩家。最近，德国科学家Thilo Hagendorff对LLM展开一系列实验，包括使用没有数据污染的1920个不同复杂度的任务来测试LLM的欺骗能力。实验发现，GPT-4在99.16%情况下会欺骗人类！即便是用了CoT之后，GPT-4还是会在71.46%情况中采取欺骗策略。另外，经过测试，Meta团队开发的CICERO（虚拟生命）在使用中也会欺骗人类。

天翼智库： 近期OpenAI和谷歌DeepMind的员工联名对AI风险发出警告，苹果公司CEO库克承认AI仍然存在风险，谷歌搜索存在较为严重的幻觉问题等，显示业界掀起了新一轮对大模型安全的担心风潮。德国科学家的研究指出LLM能够自发理解并诱导欺骗，且先进模型的欺骗能力更强。该研究将LLM欺骗行为定义为“为自身获益，系统性地诱导他人产生错误信念”，更为大众熟知的幻觉问题并非欺骗。随着大模型和智能体的快速迭代，未来对LLM及其目标的控制将变得非常重要，避免AI系统逃脱人类监管，建议加强相关前沿研究，探究模型欺骗能力以及如何控制欺骗。

3.【产业】美国据悉将对微软、OpenAI和英伟达展开反垄断调查

6月6日，知情人士透露，美国联邦监管机构已达成一项协议，允许对微软、OpenAI和英伟达在人工智能行业的主导地位展开反垄断调查。据悉，美国司法部和美国联邦贸易委员会在过去一周达成了这项协议。根据协议，美国司法部将牵头调查英伟达的行为是否违反了反垄断法，美国联邦贸易委员会将在审查OpenAI和微软的行为方面发挥主导作用。

天翼智库： 2023年-2024年，微软在欧洲已经遭遇多轮反垄断调查，包括2023年3月德国审查微软是否具有显著跨市场竞争影响力、2023年7月和2024年5月欧盟对微软捆绑销售行为、通过技术和定价手段限制市场竞争进行调查。2024年因为微软及其盟友英伟达、OpenAI在AI领域合作关系紧密、业绩提升效果惊人，再次招致美国联邦贸易委员会（FTC）和司法部联手调查。我们认为，这三家公司已经在AI大模型领域从基础层到平台层和应用层形成了全球领先和主导地位，已经构成实质性的垄断竞争地位，建议我国加强三家企业合作背后的体制和机制研究，加以借鉴应用，全面提升在全球AI大模型领域的竞争实力。

4.【产业】苹果发布全新个人化智能系统Apple Intelligence

6月11日，苹果公司在2024年度WWDC全球开发者大会上，正式发布全新的个人化智能系统——Apple Intelligence。Apple Intelligence拥有强大的、直觉的、完整的、个人的、私人的五重特性，将生成式AI模型置于iPhone和iPad的核心中，根据个人的情境来提供智能的协助。功能方面，Apple Intelligence可以让iPhone、iPad和Mac理解并生成语言和图像，还可以代替用户执行操作，简化跨多个App进行操作的流程。基于Apple Intelligence，Siri的交互变得更自然，上下文理解力更强，用户使用也将更个性化。Apple Intelligence将于今年夏天推出英语试用版，今年秋天Beta版将作为iOS 18、iPadOS 18及macOS Sequoia的一部分推出。

天翼智库： 相比以模型为亮点，苹果坚持以用户体验为核心，打造Apple Intelligence实现系统级AI功能，支持跨APP执行操作、深刻理解个人情景，兼备行动力与个性化，同时兼顾用户关注的数据隐私安全问题，推出私密云计算技术Private Cloud Compute，提供芯片级信息保护。应用场景和数据是发力C端的核心要点，大模型结合OS是大势所趋，苹果打造Apple Intelligence并升级Siri、用AI打通苹果生态全家桶等一系列升级，充分发挥了自己在应用生态和场景的极大优势，或能后发制人。建议电信运营商加强自研大模型创新，聚焦通信、政务等核心、优势业务实现技术赋能，同时积极探索隐私安全技术、通过合作完善软硬件生态。

5.【资本】北京市人工智能产业投资基金首次出手AI芯片

6月11日，备受关注的北京市人工智能产业投资基金第六次出手！近日，昆仑芯（北京）科技有限公司发生工商变更，新增北京市人工智能产业投资基金、社保基金中关村自主创新投资基金为股东，此前北京市人工智能产业投资基金五次出手皆为大模型企业，如今却转换细分方向，选择入资了一家AI芯片公司。此举或为北京市在布局大模型产业上下游，以及助力北京市芯片产业发展。而近年来，昆仑芯所在的中关村也迎来了另一重大产业标签：北京北部芯片产业聚集高地。

天翼智库： 2024年，大模型应用火热推动AI算力资源持续紧张，广东、北京、山东等多个省市加快推动AI芯片企业的扶持步伐，推动解决算力瓶颈，降低社会算力成本。北京市人工智能产业投资基金作为国资基金，负责对关键技术企业进行支持，这是今年首次在AI领域投资AI芯片创企（前面五次均投资大模型企业）。昆仑芯2代是国内首款采用GDDR6显存的通用AI芯片，已在金融、工业、教育等领域布局，与多家企业有深度合作关系。建议运营商与AI芯片企业合作，在5G、物联网、大数据等领域使用行业应用芯片提供行业定制化解决方案。

每周快讯

1.【政策】青岛：打造世界级海洋人工智能大模型产业集聚区

6月7日,青岛市人民政府办公厅印发了《青岛市海洋人工智能大模型产业集聚区建设实施方案（2024—2026 年）》。主要目标包括：1、到 2026 年，打造世界级海洋人工智能大模型产业集聚区。2、构建包含“瀚海星云”大模型在内的基础大模型矩阵、以“问海”大模型和港口大模型为代表的 N 个行业大模型和 X 个重点应用场景的“1+N+X”海洋人工智能大模型体系。3、建设关键要素支撑地，力争到 2026 年全市算力总规模达到 12EFLOPS，存储总量达 10EB。4、建设头部企业集聚地，将青岛市人工智能产业园打造成在全球彰显海洋特色的人工智能产业园区，把青岛蓝谷建设成具有国际影响力的海洋算谷、智谷、数谷。

2.【技术】OpenAI芯片野心曝光：百万年薪挖角谷歌TPU人才

6月9日，根据半导体博客SemiAnalysis报导，OpenAI 计划将只有几个人的芯片团队扩展到几十个人。新近招募的几乎所有研究人员，都是现任或前任的谷歌TPU团队成员。消息称OpenAI每年将向这些高级工程师提供的价值数百万美元的股权。这里的股权是指OpenAI内部自己制定的”利润分红单位”的股权结构。

3.【应用】小米机器人：正推进仿人机器人自有制造系统分阶段落地

6月6日，小米机器人公司目前正推进仿人机器人在自有制造系统的分阶段落地。短期内小米机器人是一个专用智能机器人，应用在智能制造的某些场景中，未来将向更多场景拓展。接下来，小米机器人公司将持续推进产品创新，通过整机牵引，以开源开放平台和完整工具链赋能产业生态，带动产业链企业协同发展；同时，通过拓展应用场景，实现与汽车、机械、电子和人工智能等产业的集群式融合发展，将建设成为北京市首个通用仿人机器人整机产品研发、制造和应用示范项目。

4.【资本】微软在欧洲的分销商Mistral AI再获6亿欧元融资

6月11日，总部位于法国巴黎的人工智能初创公司Mistral AI宣布筹集了6亿欧元的B轮融资（4.68 亿欧元股权和1.32亿欧元债务），估值近60亿欧元（58亿欧元）。本轮融资由General Catalyst领投，三星风险投资公司、思科、IBM等参投。Mistral AI计划将筹集的资金用于扩大其商业化努力并购买更多计算资源。Mistra AI是一家相对较新的人工智能初创公司，由Meta和Google DeepMind的前员工于2023年共同创立。该公司专注于开发基础模型和专有高级模型，如MistralLarge。Mistral Al还名为Le chat的聊天助手，并与云服务提供商如Microsoft Azure建立了分销合作伙伴关系。

5.【观点】库克谈Apple Intelligence：幻觉无法避免但质量绝不妥协

6 月11日，在《华盛顿邮报》访谈中，苹果CEO 蒂姆库克（Tim Cook）承认，苹果 AI系统（Apple Intelligence）可能会出现幻觉，但仍可保证“非常高的质量”。库克还表示，苹果公司在进军AI领域时一直坚持自身的价值观，绝不会妥协，并且已经为即将推出的 AI功能设置了安全保障措施。当被问及AI 幻觉方面的问题时，库克承认这种情况也可能发生在 Apple Intelligence 上。“我知道人工智能系统可能会带来一系列可怕的后果，这就是为什么我们如此重视在这一领域保持谨慎思考。”