腾讯音乐：可落地的 LLM + BI 实践经验

DataFunSummit · 公众号 · · 2024-06-13 18:00

正文

当前，许多企业正热衷于将 LLM（大型语言模型）融入实际应用场景，其中 BI（商业智能）领域被认为是最具潜力和价值的一个。借助自然语言处理技术，LLM 能够在 BI 场景中实现数据问答和自动化报告生成等功能。通过 Text2API、Text2SQL 和 Text2Code 等模式，LLM 为用户提供了更为自然且高效的数据查询和分析途径。尽管在准确性和性能方面仍存在挑战，但通过不断的优化和迭代，LLM 正逐渐成为提升 BI 场景效率和用户体验的关键技术。

腾讯音乐作为行业的先驱实践者，在 BI 领域成功落地了 LLM（大型语言模型），实现了基于 RAG+LLM 的数据管理及问询优化。通过智能 BI 数据管理和用户探索提效，提升了数据分析的效率。同时，基于 RAG/Text2SQL 在指标问询场景的实践与思考，进一步提高了查询准确性和效率。此外，腾讯音乐还采用了规则 +LLM 的方法，实现了大查询拦截与用户体验优化，通过基于规则的拦截实现与限制以及基于 LLM 的 SQL 拦截，确保了系统性能和用户体验的双重保障。

在即将于 6 月 15 日举办的以「大模型时代的 OLAP 技术演进」为主题的第 58 届 DataFunSummit：OLAP 架构线上峰会邀请到 腾讯音乐数据算法工程师胡伟圳和陈嘉奇 两位老师，一起带来题为 《LLM 在腾讯音乐 BI 的应用&思考》 的精彩分享。峰会将对此进行全程直播，欢迎扫码抢占免费参会席位。