作者 | 张小白 编辑 | 自动驾驶之心
原文链接:https://zhuanlan.zhihu.com/p/21823562679
点击下方
卡片
,关注“
自动驾驶之心
”公众号
>>
点击进入→
自动驾驶之心
『
大模型
』
技术交流群
本文只做学术分享,如有侵权,联系删文
1、背景
参考
m.aitntnews.com/newDetail.html?newId=11039
DeepDeek-R1多模态版本Align-DS-V开源地址:
huggingface.co/PKU-Alignment/Align-DS-V
2、准备conda环境(python3.10,后来发现准备错了)
conda create -n transformer python=3.10 -y
conda activate transformer
pip install transformers
3、下载模型
export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download PKU-Alignment/Align-DS-V --resume-download --local-dir /home/zhanghui/models
好像下载的位置有点问题,做一下迁移:
cd /home/zhanghui/models
mkdir -p PKU-Alignment/Align-DS-V
mv *.json PKU-Alignment/Align-DS-V/
mv pytorch_model.bin PKU-Alignment/Align-DS-V/
mv README.md PKU-Alignment/Align-DS-V/
mv assets PKU-Alignment/Align-DS-V/
mv .gitattributes PKU-Alignment/Align-DS-V/
4、安装align-anything框架(这是训练和评估用的,现在貌似用不着)
cd
git clone [email protected]:PKU-Alignment/align-anything.git
git clone https://github.com/PKU-Alignment/align-anything
nvcc -V
conda install nvidia/label/cuda-12.3.0::cuda
#export CUDA_HOME=$CONDA_PREFIX
cd align-anything
pip install -e .[all]
安装pytorch:
pip3 install torch torchvision torchaudio
检查torch是否支持GPU: