公司新采购一台AI服务器,花大本钱装了个A6000显卡,今天来记录下新服务的使用步骤。
1、查看系统。
这台服务器预装了Ubuntu20.04系统。
lsb_release -a
查看下cpu、内存情况
top
看着还行。
再看下硬盘空间
df -h
空间不算小,2T。
2、查看下显卡信息。
nvidia-smi
竟然这么贴心,安装了driver。看到driver 版本是550.144.03 ,cuda版本是12.4。记着这俩版本号,咱们后面安装环境的时候需要参考这两个版本。
再看下toolkit安装了没。
nvcc -V
这个没装,没关系,咱们来着手安装下。具体步骤的可参考ubuntu 安装cuda toolkit和遇到的问题。这边我简单记录下。
安装toolkit的时候Ubuntu怎么突然掉线了。赶紧去机房看下什么情况。
服务器竟然休眠了,这个需要解除下,不然会经常休眠。
咱们来解除下休眠。
sudo vim /etc/systemd/logind.conf
将如下选项设置为ignore,并取消注释
重启系统登录服务
sudo systemctl restart systemd-logind
这样就设置成功了。再去安装前面的nvidia toolkit。
安装好后出现如下图所示:
这是提示需要去配置环境变量。
vi .bashrc
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.4/lib64
export PATH=$PATH:/usr/local/cuda-12.4/bin
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-12.4
退出保存。
接着使环境变量生效。
source .bashrc
再去试下 nvcc -V
ok,安装成功了。
3、装一个python环境管理工具
咱们来装下conda,这是一个python环境管理工具,想跑AI项目,这个基本上是必备的了,能很好的帮助我们管理各个ai环境。
后台回复”conda“即可拿到Ubuntu 版的anaconda的安装包。
conda 的安装比较简单,一直回车,等需要输入的时候,输入yes即可。
这样就把conda安装好了。
想要跑什么AI项目可参考前面文章:
EchoMimic 阿里开源数字人项目的复现过程
DICE-Talk备情感表达的数字人工具
数字人Live_Talking的搭建和使用
实时数字人awesome-digital-human-live2d的搭建和对接dify
实时数字人——DH_LIVE
实时对话数字人VideoChat
大家在使用的过程中有遇到什么问题,或者有什么想实现的欢迎留言,大家一起讨论学习。
家风不仅仅是一种行为,而且是潜藏在这种行为背后的,一个更底层的价值理念,是他们看待这个世界的态度。--人生得遇苏东坡