专栏名称: NVIDIA企业开发者社区

NVIDIA 英伟达开发者社区是NVIDIA GPU开发者交流平台，通过此平台可第一时间获取NVIDIA GPU 开发相关的新产品、新工具、线上/线下活动的资讯。

开发者新闻 | NVIDIA CUDA-X 现可加速 Polars 数据处理库

NVIDIA企业开发者社区 · 公众号 · · 2024-10-28 11:06

正文

NVIDIA CUDA-X 现可加速 Polars 数据处理库

Polars 是发展最快的数据分析工具之一，每月的下载量刚刚突破 900 万次。作为现代 DataFrame 库，它旨在高效处理适合在单台机器上运行的数据集，而不会产生大规模工作负载所需的分布式计算系统的开销和复杂性。

随着企业不断处理复杂的数据问题 — 从检测信用卡交易中的时间限制模式到管理全球客户群快速变化的库存需求 — 更高的性能至关重要。

Polars 和 NVIDIA 工程师刚刚发布了由 RAPIDS cuDF 提供支持的 Polars GPU 引擎的公开测试版，将加速计算引入到不断发展的 Polars 社区，无需更改代码。这进一步加速了 Polars 的查询执行，与在 CPU 上运行相比，这款快速数据处理软件的速度提高了 13 倍。这就像为猎豹提供火箭燃料，帮助它更快地冲刺。

RAPIDS 的作者兼首席执行官 Ritchie Vink 表示 ：“与 NVIDIA 的合作为每个人提供了一个独特的机会，使他们能够利用 NVIDIA RAPIDS 和 GPU 的强大功能，从而进一步提高 Polars 的性能。”

RAPIDS 是 NVIDIA CUDA-X 的一部分，是一个开源的 GPU 加速库套件，旨在改进数据科学和分析流程。RAPIDS cuDF 是一个 GPU DataFrame 库，用于加载、连接、聚合、过滤和操作数据。

全文链接：

https://developer.nvidia.com/blog/nvidia-cuda-x-now-accelerates-the-polars-data-processing-library/

在 NVIDIA RTX 系统上使用 Llama.cpp 加速 LLM

适用于 Windows PC 平台的 NVIDIA RTX AI 提供了一个由数千个开源模型组成的蓬勃发展的生态系统，供应用程序开发者利用并集成到 Windows 应用程序中。值得注意的是，llama.cpp 是一款热门工具，在撰写本文时拥有超过 65K 颗 GitHub 星。此开源库最初发布于 2023 年，是一个轻量级、高效的大语言模型 (LLM) 推理框架，可在包括 RTX PC 在内的一系列硬件平台上运行。

本文介绍了 RTX PC 上的 llama.cpp 如何为构建需要 LLM 功能的跨平台或 Windows 原生应用提供出色的解决方案。

Llama.cpp 概述

虽然 LLM 在解锁令人兴奋的新用例方面大有可为，但其大容量内存和计算密集型特性通常使开发者难以将它们部署到生产应用中。为解决这一问题，llama.cpp 提供了大量功能，以优化模型性能，并在各种硬件上高效部署。

Llama.cpp 的核心是利用 ggml 张量库进行机器学习。这一轻量级软件堆栈支持跨平台使用 llama.cpp，而无需依赖外部资源。它具有极高的内存效率，是本地设备推理的理想选择。模型数据以名为 GGUF 的自定义文件格式打包和部署，由 llama.cpp 贡献者专门设计和实施。

开发者新闻 | NVIDIA CUDA-X 现可加速 Polars 数据处理库

正文

请到「今天看啥」查看全文