专栏名称: 天翼智库
天翼智库是中国电信研究院战略发展研究所承办的面向公众的智库研究信息发布平台,为您提供最新信息通信行业发展动态、政策观察、产业分析和战略洞察等。
51好读  ›  专栏  ›  天翼智库

【大模型周报第86期】Meta发布最强开源大模型Llama3.1

天翼智库  · 公众号  ·  · 2024-08-16 07:00

正文

资讯总览

【人工智能治理与监管政策】关键词:人工智能+、系统级安全组件

《北京市推动“人工智能+”行动计划(2024-2025年)》发布 ,提出到2025年底,力争形成3-5个先进可用、自主可控的基础大模型产品及100个优秀的行业大模型产品、1000个行业成功案例。

Meta发布 系统级安全组件“Prompt Guard 3”模型 ,用于协助开发人员检测并响应提示词注入和越狱输入。然而该模型本身存在漏洞,用户只需要通过空格键即可绕过Meta AI的安全系统。

【前沿技术进展】关键词:TTS模型、开源大模型

微软发布零样本的文本到语音 (TTS)模型VALLE-2 ,首次实现与人类同等水平,是TTS领域里程碑式的进展,标志着第一个在合成语音稳健性、相似度、自然程度等方面达到人类水平的文本到语音模型。

Meta推出最新的 开源大模型系列Llama 3.1 ,Meta将此次发布的Llama 3.1 405B模型称作“世界上功能最强大的公开基础模型”,在一系列任务中能够与目前的领先模型相媲美,包括OpenAI的GPT-4、GPT-4o,以及Anthropic的Claude 3.5 Sonnet。

【产品应用创新】关键词:AI搜索、视频生成、高级语音模式

OpenAI宣布旗下 AI搜索引擎SearchGPT 开放内测,不仅能够实时获取并展示互联网上的最新动态,提供指向可靠来源的清晰链接,还具备连续对话能力,用户可基于先前搜索结果继续提问。

生数科技正式上线 国内首个纯自研视频生成大模型Vidu ,开放文生视频、图生视频两大核心功能,可以生成4s或8s的视频,视频分辨率最高达1080P,4s视频生成实测用时30s。

OpenAI宣布向部分ChatGPT Plus用户推出 GPT-4o高级语音模式 ,这一模式能够提供更为自然的实时对话,允许用户随时打断,并能够感知和响应用户的情绪。

【产业市场竞合】关键词:算力、文生图

微软 7月25日宣布与网络系统供应商Lumen Technologies合作,旨在扩大其AI数据中心网络容量和算力。

设计软件公司 Canva 7月31日收购AI初创公司Leonardo.ai,以期拓宽其 AI 技术栈的范围。Canva产品将整合Leonardo.ai 的图像生成模型产品。

Getty Images 和英伟达联合开展研发,基于英伟达Edify架构推出安全的商业文生图AI模型,能够在6秒时间内生成4张照片,比以前的模型性能提高了一倍,速度处于行业领先水平。

趋势洞察

1. 开源、闭源模型性能的差距逐渐缩小,企业内开闭源模型共存将成常态

目前开源模型与闭源模型的差距已从2023年的落后一两年,进化到现在落后4到6个月。如 Meta于7月24日推出开源大模型Llama 3.1 ,在多项测试中超过GPT-4o和Claude 3.5 Sonnet,达成史上首次开源模型击败当今最强闭源模型。开源模型性能升级将带动其竞争力提升,未来企业内开闭源模型共存或将成为常态。开源模型可部署在企业本地,满足企业数据不出域需求,适合用于涉及敏感数据的任务;而闭源模型则具备产品稳定性高、模型预训练、部署、维护服务完善等优势,适合用于大多数任务,开闭源模型同时部署可使企业兼顾数据安全与模型使用便利性。目前,AI搜索企业Perplexity已同时使用闭源的GPT 3.5和开源的LLaMA 2模型构建其搜索产品。

2. 国内外大模型厂商开启搜索领域流量争夺,AI搜索赛道最有可能诞生杀手级应用

国内外大模型厂商陆续涌入AI搜索赛道,试图抢占AI搜索流量入口,打造新商业增长点,如 OpenAI开放AI搜索引擎SearchGPT内测 ,用户输入查询后,SearchGPT可展示网络信息、图片及相关来源链接,并支持用户继续提问或在侧边栏访问更多相关搜索; 月之暗面在Kimi联网搜索结果中增加数字脚注 ,便于用户快速核实信息来源,将聊天机器人迭代为AI搜索工具,并创造性推出软性付费“打赏”模式。技术革新与用户体验的双重优化,有望驱动AI搜索成为AI时代的应用爆品。AI搜索能够通过自然语言等技术理解用户查询内容,对互联网海量信息进行搜索、分析、提炼、整合,以结构化形式呈现给用户,同时在答案中附上信息链接以便用户溯源,有效解决传统搜索难以满足的个性化、智能化信息服务痛点,极大提升用户信息获取效率。AI搜索产品凭借高信息浓度和高搜索效率广受用户欢迎,上线后访问量迅速增长,权威AI产品榜单(aicpb.com)发布的“全球AI产品榜·赛道总榜TOP20”数据显示,AI搜索产品5月份访问量攀升至16.3亿次,访问量级超过一众AI写作、AI角色生成、AI图像生成、AI代码辅助等产品,成为仅次于AI聊天机器人的热门AI应用。

3. 数据中心网络性能将成为智算中心新的核心竞争力

近日,AI企业积极与网络供应商展开合作,以增强数据中心网络性能,如7月25日 微软与网络系统供应商Lumen Technologies合作 ,增强数据中心间的连接能力;7月29日 燧原科技与网络厂商锐捷网络签署战略合作协议 ,联合研发面向人工智能数据中心的高性能网络互联解决方案。随着人工智能技术大规模应用,市场对高速、稳定、大规模的云上数据中心需求不断上升,数据中心间网络容量、稳定性、安全性受到极大挑战,未来数据中心网络性能或将成为智算中心“新核心竞争力”。一是降低网络丢包率将大幅提升AI算力利用率,千分之一的丢包率将使数据中心的AI算力仅发挥50%。二是高带宽增加大模型数据传输速度和稳定性,大模型训练使用的数据量激增,高带宽能够支持集中、频繁的数据访问。三是针对大模型数据中心的故障排查技术增加网络稳定性和安全性。大模型应用要求数据中心规模大且计算网络、存储网络、数据网络实现三网融合,仅依靠人工运维效率低、难度大,需要新技术应对挑战。建议运营商加强对智算中心高性能网络解决方案的创新和探索,积极与AI企业构建紧密合作关系。

每周一场景:政务办事(个人)

1. 场景简介

国务院印发的《关于进一步优化政务服务提升行政效能推动“高效办成一件事”的指导意见》明确提出,要推动新技术在办事服务具体场景中的应用,优化智能导办等服务,更好引导企业和群众高效便利办事。其中政务办事(个人)指的是政务及其有关部门通过线上办事平台或线下实体大厅等,利用信息化手段,为个人提供的在线预约、证照办理、补贴申请等服务。

传统的政务服务在丰富公共服务供给、便利群众办事等方面发挥着重要作用,但在服务过程中存在一些痛点和难点:

标准化办事指南获取信息困难: 办事指南冗长,无效信息多、有效信息少,语言生涩,信息获取困难;材料罗列不分情形或找不到相关情形,且信息存在滞后性。

数据共享力度不足: 目前各审批部门的信息系统,多是单一某业务的审批,与其他审批部门并不关联,这种模式下数据不共享、信息不联通,无法为群众提供事件的联审联批,导致出现认证多次、材料提交多次、往返跑多次等现象。

基层办事人员专业性不高: 基层政务服务中心普遍面积偏小且标准化、智能化水平较低,影响事项进驻和窗口合理设置,且工作人员流动性大、专业水平不高,影响群众办事效率。

智能客服的服务有效性欠缺: 事项办理过程中,传统智能客服主要依赖于预制的问答对,当遇到复杂问题时显得力不从心,群众无法通过简单对话获得完整、有效的解决方案,导致群众依赖线下窗口办理。

2. 大模型赋能

借助强大的语义理解、海量知识学习能力,政务大模型能够快速响应个人办事需求,提供精准服务信息,减少线下窗口压力。

提高政务服务质量: 通过语义理解、文本生成等能力,大模型能够深入理解办事群众的各类口语化问题,准确捕捉群众真实意图,从而提供更加具有针对性的解答。

提升政务服务效率: 通过对海量政务数据的深度挖掘与智能分析,大模型能够自动化处理大量繁琐的信息,如审批材料的预审、信息的归类整理等,从而显著提升政务服务的效率。

优化政务服务流程: 大模型能够辅助政府部门对政务服务流程进行梳理和优化,去除不必要的环节,减少冗余操作,使政务服务流程更加简洁、高效。同时,大模型还可以根据用户反馈和需求,不断优化服务流程,提升用户体验。

3. 产品&解决方案

海珠政务云脑大模型: 百度智能云联合海珠区整合原有办事渠道,通过政务云脑大模型千万级政务问答、百万级政策指南预训练,融合百度搜索能力,解决口语对话和政务术语之间的鸿沟,提供“所问即所得,问答即服务”全新政务服务模式。

科大讯飞星火政务大模型: 星火政务大模型基于政策、事项、工单等知识构建大模型能力,赋能政务服务等多个场景。为破解政务服务窗口存在忙闲不均、部分办事涉及到多窗口、排队时间较长等政务服务质效不优的问题,星火政务大模型围绕窗口事项办理流程,通过学习事项库、政策库、办事常见问题解答,构建服务政务的统一知识库,打造无差别综窗助手,实现“一人通全岗”。

福田政务智慧助手"小福": 华为携手深圳市福田区政务服务数据管理局,基于华为盘古政务大模型打造福田政务智慧助手"小福",改变传统"一网通办"模式,通过AI精准抓取交流对话字段,准确理解居民咨询意图,把老百姓的口语转化为政府办事的语言,提高政务办理效率,提升居民服务体验。

4. 应用实例: 北京政务大模型服务平台“亦智”

6月29日,北京亦庄全域人工智能之城创新发布会上,北京经济技术开发区正式上线“亦智政务大模型服务平台”,成为全市首个政务领域大模型服务平台。该平台依托“1门户+3中心+3引擎”的全新架构,具有多模型纳管、知识库运营、智能体汇聚、一站式监管、即插式调用、国产化适配等六大核心特点,可统一提供百度千帆20B、智谱华章66B、Lama7B、通义千问32B等参数规模的基础大模型服务,目前已在智能政务小助手、迎商数字人、智能客服等8个细分场景上实现率先落地。

其中,智慧政务小助手“小亦”拥有200多万个海量知识,是经开区数字政务服务的统一客服,可为办事人提供智能化咨询互动、精准化办事服务、自动化材料预审等多种掌上政务服务。例如,用户只需输入“公积金怎么提取”,“小亦”即可自动识别办理意图,快速答复提取公积金的一般步骤,通过智能对话一步步引导用户填写表格、上传材料、提交申请等,直至事项完成。同时,在事项办理过程中,“小亦”可根据办事人员具体情况,推荐最适合的办理途径和方法,提升用户体验和办理效率。此外,在材料预审过程中,利用大模型的深度学习和自然语言处理能力,“小亦”能够进行智能材料校验,即时反馈材料提交的正确性和完整性,减少审批人员在材料审核和咨询解答上的工作量。


本文作者

赵晔蕾

战略发展研究所

二级分析师

硕士,主要从事工业互联网、大数据产业发展趋势研究,长期专注产业数字化研究。







请到「今天看啥」查看全文


推荐文章
界面新闻  ·  视频| 习近平“两会”说
7 年前