目录

• 显卡驱动

• CUDA

• cuDNN

• scikit-learn

• 自建pip源

• pytorch

• SQlite

• Mysql

大家好，我是章北海

计划用3篇文章(上中下)介绍如何将一台裸机服务器打造成AI服务器

本文为最后一篇，内容包括： 显卡驱动 cuda 机器学习/深度学习环境 数据库安装配置 等相关内容

原计划大模型离线部署一起写，略麻烦，下篇详细写

显卡驱动、CUDA、cuDNN

安装优先级: 显卡驱动 → CUDA →  cuDNN

• 显卡驱动 ：提供操作系统与 NVIDIA 显卡之间的通信接口，是使用 CUDA 和 cuDNN 的基础。
• CUDA ：提供并行计算平台和编程模型，使开发者能够利用 GPU 进行高性能计算，CUDA 是连接显卡驱动和应用程序的桥梁。
• cuDNN ：提供优化的深度学习库，加速深度学习框架中的常见操作，依赖于 CUDA。

显卡驱动

1. 通过本地yum源安装 kernel-devel，kernel-headers，gcc 等工具包

sudo dnf install gcc kernel-devel kernel-headers make

2. 根据自己的显卡类型找到显卡驱动并下载run文件 https://www.nvidia.cn/drivers/lookup/ 下载run文件

3. 禁用默认安装的 Nouveau 驱动程序。在终端中输入以下命令：

sudo tee /etc/modprobe.d/blacklist-nouveau.conf <

4. 重新生成 initramfs 文件以确保 Nouveau 驱动程序被禁用。执行以下命令：sudo dracut --force 重启系统，在 Grub 启动菜单中选择 “recovery mode” 进入恢复模式。在恢复模式下，选择 “root” 访问权限以获取 root 权限。

5. 上传run文件到内网服务器，切到文件所在目录，运行以下命令以安装 Nvidia 驱动程序：

sudo sh NVIDIA-Linux-x86_64-xxx.xx.run

6. 完成安装后，用nvidia-smi验证