电子书上新 |《LLM时代：技术演进与行业应用》

DataFunSummit · 公众号 · · 2024-08-13 18:00

正文

领取方式如下：

点击下方标签，关注 DataFunSummit公众号

关注上方公众号，私信回复 『LLM』 获取领取方式

资料目录及介绍：

20 分钟带你搞懂 LLMOps ！！

文章介绍了LLMOps，这是一种创新的生命周期管理工具，专为大语言模型设计。它通过微调技术如PEFT，优化了模型的适应性和效率。LLMOps还提供了架构解决方案，增强了模型的交互性，同时确保了应用的可靠性与成本效益。

揭秘NVIDIA大模型推理框架：TensorRT-LLM

介绍了NVIDIA的TensorRT-LLM，一个为大型语言模型打造的高效推理框架。它基于TensorRT，支持Tensor Parallelism和Pipeline Parallelism，并开源，提供丰富的模型支持和低精度推理特性，旨在提升AI应用的推理性能和实用性。

高性能 LLM 推理框架的设计与实现

图技术在金融反欺诈中日益关键，通过构建复杂关系网络，提升识别黑产欺诈的精准度与效率。应对黑产欺诈手段升级，图算法助力发现聚集性风险与隐藏模式，保障金融安全与用户体验。

使用 OpenLLM 构建和部署大模型应用

介绍了OpenLLM，一个开源的大语言模型开发框架，它支持多种开源模型并提供关键优化技术以提升内存效率。从简化的模型切换到高效的内存管理，OpenLLM为AI应用的开发和部署提供了强大支持。

从 Bert 到 LLM：360 广告推荐业务中语言模型的应用探索

分享了语言模型在推荐系统中的应用进展，包括特征提取、推荐预测和行为序列建模。重点讨论了BERT4Rec模型，Recformer方法，以及利用LLM进行内容特征提取和用户兴趣建模的实践。

阿里云 PAI 大语言模型微调训练实践

讨论了大模型的挑战、性能优化技术如检索增强生成(RAG)，以及在微调实践中如何选择合适的模型、准备数据和评估模型。

当推荐遇见大模型,会碰撞出什么样的火花

讨论了LLM在预训练、微调和Prompting阶段的应用，以及如何影响用户和商品表征、召回匹配、排序生成等环节。同时，对多模态推荐、hallucination和bias问题解决、系统性能提升等未来发展方向进行了展望。

大语言模型在推荐系统中的探索与应用

介绍了两个项目：KAR利用LLM增强推荐系统，和Uni-CTR构建多场景推荐底座。展望了LLM在推荐系统协同信号、输入策略、动态数据融合和推理效率方面的挑战和未来发展。

推荐文章

爱否科技 · 轻薄是未来？腰线十几块？N4 去哪了？AI 怎么用？听听张老板怎么说

3 天前

爱否科技 · REDMI 小屏旗舰平板再迎爆料，预计搭载天玑 9400 芯片，暂定三季度发布

5 天前

爱否科技 · iPhone SE 4 或改命 iPhone 16E，iPhone 17 系列更多细节曝光

5 天前

凰家评测 · OPPO Find N5体验：能装进口袋的Mac，居然被OPPO造出来了？！

4 天前

甘肃政务 · 数码产品国补“满月” 超2671万名消费者参与

3 天前

食尚知味 · 强兵护中华：新中-國八大兵种首任司-令-员都是谁？

8 年前

不正常人类研究中心 · 我中了一种叫橘猫的毒，你已经被橘猫锁定。

8 年前

腾讯道学 · 令牌一下见真形！探秘钦安殿道教“逆天”令牌（上）

7 年前

总裁俱乐部 · 你的容貌，出卖了你的内心！

7 年前

活法儿 · 好物｜芝麻红枣酥，小时候的味道，酥香可口，让舌头回忆一下

7 年前