1.4.1 环境配置-Linux
我们提供了docker开发镜像供用户在x86主机下开发和部署使用,docker中已安装好了交叉编译环境以及开发工具依赖的库和软件。PCIe用户可基于此docker 进行开发和部署;SoC用户可基于此docker进行开发,部署时请将在开发docker中交叉编译好的程序拷贝至SoC平台(SE微服务/SM模组)中执行,相关运行环境的配置请参考1.4.3 环境配置-SoC。您也可以根据自己的需求在我们提供的docker镜像基础上定制自己的docker镜像。
我们强烈建议新用户务必在x86主机上使用我们提供的docker基础开发镜像创建docker容器,在容器中按照步骤来进行各项操作,以规避系统及依赖包以及环境配置等问题带来的影响。
请注意后续步骤适用SDK为sophonsdk_v<x.y.z>.tar.gz,其中<x.y.z>为SDK版本号(x>=3),会随着SDK的升级而不断变化。
其他平台的用户也需要在x86主机上使用我们提供的docker开发环境和SDK完成模型转换。
1.4.1.1 解压SDK压缩包
tar zxvf sophonsdk_v<x.y.z>.tar.gz
cd sophonsdk_v<x.y.z>
(驱动安装请在docker 之外宿主机上进行)
1.4.1.2 驱动安装
1. 检查PCIe加速卡是否正常被系统识别:
打开终端执行 lspci | grep Sophon
检查卡是否能够识别,正常情况应该输出如下信息:
01:00.0 Processing accelerators: Bitmain Technologies Inc. BM1684, Sophon Series Deep Learning Accelerator (rev 01)
若PCIe加速卡没有被系统正常识别,则需要首先排除故障,通常引起PCIe加速卡未被正常识别的可能原因有:
PCIe加速卡在插糟中没有插紧;
检查插卡的槽位是否是标准的X16槽位,X8槽位的功率支持通常最大只有45W,不建议使用;
PCIe加速卡从PCIe直接供电,不需要外接电源,若连接了外接电源,可能导致卡不能被正常识别;
三芯片以上PCIe加速卡需要足够的散热条件,若风道和风量不能符合PCIe加速卡的被动散热要求,则需要通过BIOS将风扇转速设置到足够大或者加装额外的风扇进行散热。(建议的风扇购买链接1 建议的风扇购买链接2 建议的风扇购买链接3)
2. PCIe环境驱动安装:
x86主机:
cd sophonsdk_v<x.x.x>/scripts sudo ./install_driver_pcie.sh
如果是其他主机,请执行相应的安装脚本install_driver_xxx.sh
。
3. PCIe驱动卸载方式如下:
x86主机:
sudo ./remove_driver_pcie.sh
如果是其他主机,请执行相应的卸载脚本remove_driver_xxx.sh
。
1.4.1.3 Docker 安装
若已安装docker,请跳过本节。
# 安装docker
sudo apt-get install docker.io
# docker命令免root权限执行
# 创建docker用户组,若已有docker组会报错,没关系可忽略
sudo groupadd docker
# 将当前用户加入docker组
sudo gpasswd -a ${USER} docker
# 重启docker服务
sudo service docker restart
# 切换当前会话到新group或重新登录重启X会话
newgrp docker
1.4.1.4 加载docker镜像
docker load -i x86_sophonsdk3_ubuntu18.04_py37_dev_22.06.docker
1.4.1.5 创建docker 容器进入docker
cd sophonsdk_v<x.x.x>
# 若您没有执行前述关于docker命令免root执行的配置操作,需在命令前添加sudo
./docker_run_sophonsdk.sh
提示:上述启动脚本将在运行时检查是否有sophon加速设备,若物理机上安装了PCIe加速卡,且驱动已经正确安装,则脚本会将设备映射到docker容器内部,这样后续就可以在docker容器内部使用sophon设备运行推理程序了。
(以下步骤在docker 中进行)
1.4.1.6 工具安装及环境配置
PCIe模式
对于PCIe模式,开发环境本身就可以作为运行环境,加载转换生成的BModel和编译生成的程序。
x86主机:
cd /workspace/scripts/ ./install_lib.sh nntc source envsetup_pcie.sh
CModel模式
对于目标平台为SoC等其他平台的情况,x86主机上通常没有Sophon PCIe加速卡,docker开发环境应当工作在CModel模式以完成模型转换和程序的交叉编译。
cd /workspace/scripts/
./install_lib.sh nntc
source envsetup_cmodel.sh
1.4.1.7 验证
您可以执行以下命令,验证开发环境中的交叉编译工具链是否配置成功:
which aarch64-linux-gnu-g++ # 终端输出内容 # /data/release/toolchains/gcc/gcc-linaro-6.3.1-2017.05-x86_64_aarch64-linux-gnu/bin//aarch64-linux-gnu-g++
如果终端输出了aarch64编译的路径,则说明交叉编译工具链正确,通常开发环境是可以正常使用的。
最后更新于