专栏名称: NVIDIA企业开发者社区

NVIDIA 英伟达开发者社区是NVIDIA GPU开发者交流平台，通过此平台可第一时间获取NVIDIA GPU 开发相关的新产品、新工具、线上/线下活动的资讯。

开发者新闻 | 如何使用 Streamlit 和 FastAPI 构建即时机器学习 Web 应用程序

NVIDIA企业开发者社区 · 公众号 · · 2022-10-28 11:19

正文

如何使用 Streamlit 和 FastAPI

构建即时机器学习 Web 应用程序

假设您正在进行一个机器学习 (ML) 项目，并且您已经找到了您的冠军模型。接下来会发生什么? 对许多人来说，这个项目就结束了，他们的模型被孤立地放在 Jupyter 笔记本上。其他人则会主动地将他们的笔记本转换为某种生产级代码的脚本。

这两个端点都限制了项目的可访问性， 需要了解 GitHub 和 Bitbucket 等托管站点的源代码 。一个更好的解决方案是将您的项目转换为一个可以部署在内部服务器上的前端原型。

虽然原型可能不是生产标准，但它是公司用来为利益相关者提供对拟议解决方案的洞察力的有效技术。这使得公司能够收集反馈，并在未来开发更好的迭代。

要开发原型，您需要:

1. 用户交互的前端

2. 可以处理请求的后端

然而，这两个需求的构建都需要花费大量的时间。在本教程中，您将学习如何使用 Streamlit 作为前端和 FastAPI 作为微服务快速构建您自己的机器学习 web 应用程序，从而简化流程。在 Building a Machine Learning Microservice with FastAPI 中了解更多有关微服务的信息。

您可以使用 kurtispykes/car-evaluation-project GitHub 存储库中的代码尝试本教程中的应用程序。

为 NVIDIA Jetson 用户简化 CUDA 升级

NVIDIA JetPack 为 Jetson 平台上的硬件加速 AI 提供了一个完整的开发环境 。以前，NVIDIA JetPack 的独立版本支持单一版本的 CUDA，您无法在给定的 NVIDIA JetPack 版本上升级 CUDA。

NVIDIA JetPack 以一个 CUDA 版本的滚动节奏发布 ，通常在每个主要的发布周期中都得到支持 ( 例如， NVIDIA JetPack 4.x 或 NVIDIA JetPack 5.x ) 。

从 CUDA Toolkit 11.8

开发者新闻 | 如何使用 Streamlit 和 FastAPI 构建即时机器学习 Web 应用程序

正文

请到「今天看啥」查看全文