华通证券国际有限公司是一家拥有33年证券行业经验的持牌券商,致力于为客户提供高效、安全、便捷的金融服务。该公司通过与亚马逊云科技合作,面向海外客户在不到3个月内实现了两项生成式AI应用的落地,包括AI客服和AI投资者关系官。AI客服能够实现7*24小时“秒回”响应,提升了客户满意度并降低了IT运营成本。同时,华通证券也面临着如何持续优化AI系统的挑战。
华通证券利用亚马逊云科技的生成式AI技术,实现了AI客服和AI投资者关系官的应用落地,提升了客户满意度和效率。
华通证券与亚马逊云科技合作,通过Amazon Bedrock调用大语言模型,实现了业务流程的智能化,提高了运营效率。
AI客服能够7*24小时“秒回”响应,降低客户投诉率,提高客服效率,综合运营成本节省了36.6%。
华通证券在优化AI系统、确保数据安全和持续技术创新方面仍面临挑战。
华通证券国际有限公司是拥有 33 年证券行业经验的持牌券商,致力于为客户提供高效、安全、便捷的金融服务。华通证券通过与亚马逊云科技合作,面向海外客户,不到 3 个月完成 2 项生成式 AI 应用落地,AI 客服 7*24 小时对客户咨询 “秒回” 响应,AI 投资者关系官为投资者提供创新服务,加速金融科技数智升级。
华通证券国际有限公司(以下简称“华通证券”)是拥有 33 年证券行业经验的持牌券商,致力于为客户提供高效、安全、便捷的金融服务。基于亚马逊云科技的生成式 AI 服务,华通证券面向海外客户构建了 AI 客服、AI 投资者关系官等应用,让华通证券客服工作流程智能化,对海外客户咨询实现“秒回” 响应,客户满意度提升的同时,降低了 IT 运营成本。华通证券采用的亚马逊云科技产品包括:Amazon Bedrock、Amazon Bedrock 中 Anthropic 的 Claude、Amazon Elastic Compute Cloud (Amazon EC2)、Amazon OpenSearch Service、Amazon Relational Database Service (Amazon RDS) 等。
机会 | 生成式 AI 构建智能客服,
随时随地、专业“秒回”
提升券商客户满意度
华通证券致力于通过持续的技术创新和优质服务,为客户提供高效、安全、便捷的金融服务。在日常运营中,由于券商业务涉及金钱及交易敏感性等,因此在面向客户咨询的客服工作中,为了保障客户的交易和提升客户信任度,华通证券需要投入大量客服人员进行三班制轮流排班,才能为客户提供 7*24 小时快速响应。因此,华通证券在客户满意度、运营成本及管理效率和客服人员体验方面面临着不平衡挑战:
券商客户期望客服人员能够 7*24 小时、无时差地“秒回”及时响应,回复需要严谨、专业,并能提供个性化建议,否则可能带来客户投诉、流失;
客服人员长期轮流排班工作,尤其是夜班人员,员工体验较差、休息少,导致员工易流失;
管理客服人员轮流排班、对新入职客服人员进行培训,和处理客户投诉等,均对华通证券带来较高的运营成本和管理成本。
生成式 AI 技术兴起后,借助生成式 AI 改造客服、结算等工作,优化业务流程,将员工从繁琐的事务性工作中释放转而投入到更具生产力的工作中,是华通证券期待已久的事。此前,华通证券与亚马逊云科技合作打造的券商云一站式企业云服务解决方案,已服务全球数十家持牌金融机构,累计服务超过 10 万名零售客户。良好的合作基础,以及亚马逊云科技在各行各业成千上万客户中的生成式 AI 实践,让华通证券与亚马逊云科技的生成式 AI 合作水到渠成。
“选择亚马逊云科技作为华通证券 AI 业务板块的合作伙伴,不仅因其全球领先的技术实力,更得益于其卓越的本地化服务和支持。华通证券针对其海外业务,通过 Amazon Bedrock 一站式调用业界领先的大语言模型,以及强大的隐私和安全保护功能,得以实现业务流程的智能化,有效提升了运营效率和决策质量,为集团的持续创新和竞争力提升提供坚实基础。”
—— 韩文鹤
华通证券国际生成式 AI 系统架构师
解决方案 | 基于 Amazon Bedrock
构建 AI 客服和 AI 投资者关系官,
亚马逊云科技安全、稳定、高可用云服务
满足金融客户严苛要求
基于 Amazon Bedrock 构建 AI 客服和 AI 投资者关系官,生成式 AI 驱动华通证券海外业务流程智能化
华通证券的海外客户咨询时,往往涉及大量的账户信息和交易数据等,客户若得不到及时回复,就会缺乏安全感,同时对公司的信任度也会大大降低。面向海外客户,华通证券通过亚马逊云科技 Amazon Bedrock 调用 Anthropic Claude 3 模型,构建 AI 客服,通过 Claude Sonnet、Haiku 模型识别客户意图,结合华通证券的自建知识库,和引入的开源 embedding(嵌入)模型,自动生成专业严谨、满足客户诉求的回复。AI 客服让华通证券的客户咨询响应时间从数分钟降低到 3 秒钟以内,真正实现了“秒回”,提升客户满意度和忠诚度。
除了 AI 客服,华通证券面向海外客户通过与亚马逊云科技 Amazon Bedrock 调用 Claude 模型,结合向量知识库、文本语音互转等技术,整合上市公司、资本市场相关数据,打造并发布了 AI 投资者关系官。上市公司通过 AI 投资者关系官数字人与海外投资者无缝沟通,回答投资者各类提问,提升上市公司的投资者关系工作生产力。此外,AI 投资者关系官还能为上市公司提供增值服务,在华通证券的上市公司与投资者社区中面向投资者开展上市公司直播,通过 AI 投资者关系官数字人的持续曝光,与华通证券实现流量互引,在投资者中扩大双方的品牌覆盖和提升品牌形象。
面向海外客户构建生成式 AI 应用时,Amazon Bedrock 不会将客户的数据分享给大语言模型供应商,也不会用于模型训练。在实际的部署和应用中发现,相比于华通证券之前采用的其它大语言模型,通过 Amazon Bedrock 调用 Claude 模型,不仅仅综合性能更好,而且安全性也得到了更充分保障,严格的数据安全和合规保护让华通证券高枕无忧,进一步赢取了客户信任。
利用 PE 优化提示词、定制模型输出,让 AI 客服生成内容更符合角色设定
在 AI 客服构建中,起初,华通证券的工程师自己摸索编写提示词,初始版本的 AI 客服生成的答复用语较长,句式不太符合口语表达习惯,效果不尽理想。为此,亚马逊云科技专门安排了专家团队来到华通证券,提供关于提示词的最佳实践介绍和技术支持,帮助华通证券开发人员清晰了解不同的提示词及其对应的大语言模型输出效果,指导开发人员更好地构建有效的提示词库。经过 PE(Prompt Engineering,提示词工程)优化后,AI 客服生成的回复比较简短,有更多更个性化表现,句式和口吻等更符合日常交流,让 AI 客服的角色设定更符合既定要求,更自然和人性化。
安全、稳定、高可用云服务满足华通证券对安全和稳定性的超高要求
众所周知,金融行业对云基础设施的安全和稳定性要求极为严苛。无独有偶,亚马逊云科技将安全称为“Job Zero”,即始终将安全作为最高优先级的工作,提供了超过 300 项安全、合规性和监管服务及功能,以及 143 项安全标准和合规认证的支持,并对各地合规政策有深刻理解和最佳实践。亚马逊云科技引领行业的安全合规服务帮助华通证券确保数据和交易的安全,同时符合相关的法律法规和行业标准。亚马逊云科技提供超过 200 多项广泛而深入的云服务,覆盖全球的基础设施,为华通证券提供了稳定、高可靠、易扩展的基础设施支撑,实现其应用可用性保持在 99.999% 以上。
业务成果 | 3 个月落地 2 项生成式 AI 应用,
让 AI 客服效能起飞,投资者关系管理再进化
不到 3 个月完成 AI 客服、AI 投资者关系官应用落地
华通证券的生成式 AI 应用部署,原本预计需要半年才能完成。和亚马逊云科技合作后,通过 Amazon Bedrock 调用先进的大语言模型和端到端生成式 AI 服务,从初步接洽、POC 测试、架构部署,到 AI 客服、AI 投资者关系官最终上线,仅用不到 3 个月就完成了应用落地。
7*24 小时 “秒回” 响应和个性化准确回复,将客户投诉率降低 80%
通过 Amazon Bedrock 调用 Claude 模型,AI 客服可以准确地识别海外客户意图,将客服响应时间从数分钟压缩到 3 秒内,7*24 小时、近乎实时地处理客户咨询和服务请求。Claude 模型在角色扮演类场景表现突出,借助 PE 进行提示词优化后,AI 客服面向海外客户生成的回复更加个性化和贴近日常对话,符合角色设定。客服“秒回”式响应和个性化准确回复,让客户投诉率降低 80%,增强客户体验,客户粘性进一步加强。
AI 客服提高客服人员效率,综合运营成本节省了 36.6%
在生成式 AI 应用部署前,华通证券面向海外客户的客服工作需要配置两位白天客服和五位夜间客服。通过亚马逊云科技引入生成式 AI 技术后,客服人员只需对大语言模型生成的回复内容进行审核和增强,大大节省了客服人员效率。华通证券仅需采用 3 位人工客服配合 AI 客服即可胜任之前的海外客服工作,客服人员的培训、管理成本均大大减少,调配的客服资源还可投入到更具生产力的岗位中,综合运营成本节省了 36.6%。
除了客服和投资者关系官这两大场景外,华通证券还在尝试生成式 AI 在证券业务更多场景如结算、投顾、HR 中的应用。华通证券期望借助生成式 AI 生成财务报表、生成市场分析报告、提供投资建议、提供风险管理提示、撰写新闻稿等,减少人工在这些场景中的时间和成本投入,提升业务流程的智能化和效率。华通证券与亚马逊云科技将继续探索如何把最新生成式 AI 技术引入到证券业务中,并一起规划、构建和部署生成式 AI 应用,推动行业的数智升级。
华通证券于 1989 年创立,是拥有 33 年证券行业经验的持牌券商,致力于为客户提供高效、安全、便捷的金融服务。
期待你的分享 收藏 在看 点赞!
亚马逊的一小步,云计算的一大步!