【Shulex】Amazon Bedrock让客户洞察更智能

亚马逊云科技 · 公众号 · · 2024-10-18 13:34

正文

概述

Shulex是一家专注于全球客户声音洞察的AI SaaS公司，利用旗下AI工具，助力客户用数据洞察未来。面向海外业务，Shulex基于亚马逊云科技Amazon Bedrock、Amazon SageMaker等生成式AI和机器学习服务，提升和强化了旗下智能客服、Shulex VOC的语义理解和意图识别能力，显著提高了Shulex海外用户的满意度和留存率。目前，Shulex使用的亚马逊云科技服务包括：Amazon Bedrock、Amazon SageMaker、Amazon Simple Storage Service (Amazon S3)、Amazon Aurora、Amazon OpenSearch Service 等。

15.4%

用户满意度提升

12.1%

用户留存率提升

机会 | 企业对客户声音

洞察的需求持续增长，

亟需借生成式AI完成高效分析

随着企业出海的重心从“数字化出海”转变为“出海数字化”，企业借助数字化技术实现出海业务转型和创新，已成为中国企业出海打造差异化优势的重要手段。其中，数字化客户声音洞察能够帮助企业制定业务增长策略，包括传播、商品促销、渠道运营、用户关系等方面的策略，打造品牌公众印象、品牌口碑、累积品牌资产价值，因此受到出海厂商青睐，Shulex就是客户声音洞察SaaS厂商的佼佼者之一。

Shulex聚焦出海业务，开发了Shulex智能客服、Shulex VOC等SaaS应用，以Shulex自研模型为基础，帮助出海企业进行业务创新，实现业务增长。

以前，Shulex基于NLP（Natural Language Processing，自然语言处理）技术自研了客户声音洞察机器学习模型，实际使用中获得了良好效果。但随着客户体验触点愈加分散，数据从之前的亚马逊电商网站评论分析、客服邮件，增加到社交媒体、网络直播、实时聊天等多种数据源，多渠道、多类型、多语种的客户数据让基于机器学习模型的应用遇到了越来越大的挑战。2023年初，Shulex开始尝试和探索用大语言模型进行更为高效的客户声音数据分析与洞察。此外，Shulex希望通过生成式AI来强化Shulex智能客服的能力，使之具备一定程度的Agent（代理）功能以提供更多形式的服务。为此，Shulex需要引入生成式AI升级自身应用。

在选择合作对象时，Shulex从自身技术栈出发，基于“开源”、“性能”和“成本”这几点进行考量。首先在开源方面，Shulex主要使用的是Hugging Face的模型和能力，而亚马逊云科技正是Hugging Face的首选云供应商。Shulex可以使用Amazon SageMaker JumpStart和Hugging Face亚马逊云科技深度学习容器等方式来调用Hugging Face模型，便捷高效地进行模型的训练、微调和部署。其次在性能方面，面向海外客户业务，Amazon Bedrock上的Claude模型，支持最长200K Tokens的分析和处理，这是Claude特有的其它商用大语言模型难以匹敌的能力，可极大提升Shulex VOC的内容分析和处理效率。再次在成本方面，与目前市面上其它主流商用大语言模型相比，Claude的每百万Tokens价格要低20%，具备明显的成本优势。因此，Shulex决定与亚马逊云科技合作，借助亚马逊云科技的生成式AI能力，提升Shulex智能客服、Shulex VOC等SaaS产品的综合表现。

“面向海外客户业务，通过应用Amazon Bedrock等生成式AI服务，Shulex VOC Analysis Bot等一系列Bot的能力得到了强化，用户整体满意度提升了15.4%，用户留存率也提高了12.1%。我们认为，亚马逊云科技具有非常全面的生成式AI能力，基于亚马逊云科技的产品与服务，Shulex不论是选择自研大语言模型还是选用业界热门商用大语言模型，亚马逊云科技都有完善的技术路径可供实践。”

——潘胜一

Shulex算法合伙人

解决方案 | 基于亚马逊云科技

生成式AI工具调用大语言模型，

促进商业分析效率、提升精准度

Amazon Bedrock是一项全托管生成式AI服务，使用单一API即可访问众多业界领先的高性能大语言模型，或调用构建生成式AI工具，在维护隐私和安全的同时简化开发。通过Amazon Bedrock调用大语言模型，Shulex旗下Shulex VOC和Shulex智能客服两条产品线对应的一系列以“Bot”命名的AI工具，得以快速完成开发，并借助大语言模型强化能力，实现商业分析、用户问题自动应答等功能。

长达200K Tokens分析能力，让Analysis Bot结论更可靠

Shulex VOC产品的颗粒度较市场同类产品更为细化，能够进一步细分使用场景、用户期望满足程度以及用户标签词占比等指标。借助这些能力，Shulex VOC的用户能够从商品的反馈、销量、品牌、属性与价值呈现等各个维度构成获得初步洞察。

通过Amazon Bedrock调用Claude模型，Shulex实现了更深入的洞察——Tag Reasoning（标签推理）功能。针对商品的标签，Analysis Bot能分析用户留言、评论、社交媒体发言等多渠道信息，分析该标签背后的原因，从而制定商业策略。凭借Claude模型支持最长200K的Tokens分析，标签推理不仅能够支持一次性输入更多内容、进行更为高效的分析，内容之间的关联性也因此更为紧密，使得标签推理的结论更有说服力。此外，Shulex正在将Claude 3的强大能力应用在商业分析级别的报告中，为企业在用户画像洞察、产品规划与选品、品质口碑与提升、爆款销售转化上提供可量化依据。

Shulex算法合伙人潘胜一表示，“Analysis Bot在某应用场景中，对数据的分析结果，与我们资深客户专家的分析结论完全一致。客户认为，Analysis Bot有望在未来节约商业决策所需时间，加速业务发展。”

Shulex基于亚马逊云科技的系统架构示意图

低“幻觉”、高知识召回精度，助力AI Bot实现更佳用户体验

AI Bot是Shulex智能客服中用于直接与海外用户沟通、问答的工具，支持10种不同语言的邮件和聊天服务，且能24小时在线，1分钟内及时回复客户问题。为服务好海外客户，Shulex为AI Bot设计了“构建框架-应用框架-强化框架”三个阶段，而Amazon Bedrock上的Claude模型，贯穿于这三个步骤之中，起到了关键作用。

首先，由于每一位客户的经营领域都不一样，智能客服需要针对海外客户的经营领域，利用RAG（Retrieval Augmented Generation，检索增强生成）技术在构建的框架内回答问题。这一步操作需要分析和提炼海外客户网站帮助中心、产品使用手册、客服对话记录等内容。Claude拥有强大的语言分析和处理能力，能够高效、迅捷地搭建所需框架。

其次是运用RAG技术进行自然语言提问，并给出回答：识别用户问题中的关键词，确认用户意图，然后根据意图进行知识召回。在这一步中，Claude在回答客户问题时可以对语句进行优化，让回答更易理解、亲切、有温度。在实际服务海外客户的过程中，Claude出现“幻觉”回答（Hallucination，生成式AI的错误回答）几率较低，充分满足了用户需求。

最后也是最重要的一步，则是对现有知识库中的内容进行基于相关度、召回准确率的排序，同时匹配用户的强、弱需求，从而提升回答的准确性，并不断强化RAG技术的应用效果。在Analysis Bot面向海外客户业务的应用中，Claude已经证明它能够有效分析内容相关性，提供商业级别的结论，并在AI Bot等服务于最终用户的工具中同样表现出色。

除此之外，面向海外客户，Amazon Bedrock也提供丰富的大语言模型和嵌入（embedding）模型供客户选择。Shulex在构建知识库时，使用Amazon Bedrock Cohere embedding实现向量化。该模型可支持100多种语言，涵盖了东南亚多国小语种，支持客户全球业务的拓展。同时，Shulex还应用 Amazon OpenSearch Service来支持向量数据库的构建与混合搜索功能，构筑生成式AI底座。

目前，AI Bot的持续优化正在有条不紊地进行。

借助Agent编排能力，扩展Task Bot服务范围

Agent是大语言模型技术领域的重点发展方向，Shulex也正在重点研发Agent产品——Task Bot。Shulex Task Bot的设计初衷，是在Shulex智能客服的某些场景中，调用各种内外部流程和数据，并按照优先级完成自动化办理或查询等任务，如协助用户查询订单的物流进度、完成订单退货等。其中，分析用户的自然语言并准确判断出海外用户的需求，以及运用大语言模型工具调用（Function Call）方式调用外部API完成单个任务请求，这两项功能均已实现。然而，若需要分解用户请求为多个子任务，并且根据优先级进行工作流的处理和编排，就需要Agent的协助了。

使用Amazon Bedrock Agent功能，Shulex能帮助海外客户轻松创建和部署完全托管的Agent。通过调用Agent API，复杂的任务如计划编排、业务API动态调用、知识库查询，可以被拆分成多个子任务并进行优先级设定、排序和调度，确保任务的顺利完成。例如，在处理海外客户的自动订单退货场景时，Agent可以自动管理任务的执行顺序，使Task Bot能在理解用户指令后，正确调用数据库查询订单状态，确认结果，并通过向量搜索查询知识库，核实是否符合退货政策，最终综合信息给出用户退货答复及操作指引。如果没有Agent的自动化支持，处理这些任务将需要手动定义步骤顺序，不仅无法实现订单处理的自动化，而且会增加订单处理时间和人力成本。目前，双方正在就此合作进行紧密接洽，Shulex期待通过调用Amazon Bedrock Agent，进一步强化智能客服Task Bot的能力，从而更有效地服务海外用户。

除此之外，亚马逊云科技具有引领全球的安全合规理念与实践，Amazon Bedrock可以帮助海外客户满足数据安全性和合规性标准，例如GDPR（General Data Protection Regulation，欧盟通用数据保护条例）和HIPAA（Health Insurance Portability and Accountability Act，健康保险可携性和责任法案）等，助力Shulex旗下产品满足海外安全合规要求。由于AI Bot、Task Bot等智能客服会直接与用户对话，其中可能涉及用户个人身份信息，如姓名、电话、家庭住址等。Guardrails for Amazon Bedrock提供的防护机制，允许检测用户输入的个人信息行为，并拒绝用户输入这些信息，同时还能提供带有可配置自定义阈值的内容筛除条件，屏蔽不良话题，支持企业设定自定义防护策略。