✏️
BMNNSDK2开发手册
  • BM1684 BMNNSDK2 入门手册
  • 一、BMNNSDK2软件包
    • 1.1 BMNNSDK2 简介
    • 1.2 BMNNSDK2 文档
    • 1.3 基本概念介绍
    • 1.4 获取BMNNSDK2 SDK
    • 1.5 安装BMNNSDK2 SDK
      • 1.5.1 环境配置-Linux
      • 1.5.2 环境配置-Windows
      • 1.5.3 环境配置-SoC
    • 1.6 更新BMNNSDK
    • 1.7 参考样例简介
    • 1.8 BMNNSDK2更新记录
    • 1.9 BMNNSDK2已知问题
  • 二、快速入门
    • 2.1 跑通第一个例子:综述
    • 2.2 跑通第一个例子:模型迁移
    • 2.3 跑通第一个例子:算法迁移
  • 三、网络模型迁移
    • 3.1 模型迁移概述
    • 3.2 FP32 模型生成
      • 3.2.1 编译Caffe模型
      • 3.2.2 编译TensorFlow模型
      • 3.2.3 编译MXNet模型
      • 3.2.4 编译PyTorch模型
      • 3.2.5 编译 Darknet 模型
      • 3.2.6 编译ONNX模型
      • 3.2.7 编译Paddle模型
    • 3.3 INT8 模型生成
      • 3.3.1 准备lmdb数据集
      • 3.3.2 生成FP32 Umodel
      • 3.3.3 生成INT8 Umodel
      • 3.3.4 精度测试
      • 3.3.5 生成INT8 Bmodel
      • 3.3.6 auto_cali一键量化工具
    • 3.4 实例演示
      • 3.4.1 create_lmdb_demo
      • 3.4.2 classify_demo
      • 3.4.3 face_demo
  • 四、算法移植
    • 4.1 算法移植概述
    • 4.2 C/C++编程详解
    • 4.3 Python编程详解
    • 4.4 解码模块
    • 4.5 图形运算加速模块
    • 4.6 模型推理
    • 4.7 实例演示
  • 五、打包和发布
    • 5.1 概述
    • 5.2 PCIE加速卡模式
    • 5.3 SOC模式
  • 附录
由 GitBook 提供支持
在本页
  1. 一、BMNNSDK2软件包

1.5 安装BMNNSDK2 SDK

上一页1.4 获取BMNNSDK2 SDK下一页1.5.1 环境配置-Linux

最后更新于3年前

开发环境与运行环境:

开发环境是指用于模型转换或验证以及程序编译等开发过程的环境;运行环境是指在具备Sophon设备的平台上实际使用设备进行算法应用部署的运行环境。

开发环境与运行环境可能是统一的(如插有SC5加速卡的x86主机,既是开发环境又是运行环境),也可能是分离的(如使用x86主机作为开发环境转换模型和编译程序,使用SE5盒子部署运行最终的算法应用)。

但是,无论您使用的产品是Soc模式还是PCIE模式,您均需要一台x86主机作为开发环境;您的运行环境可以是任何已经我们测试支持的系统平台。

如果是PCIE模式,那么您需要将PCIE加速卡插到主机中,在宿主机上安装驱动程序,然后按照指引配置docker环境,这个环境既是开发环境也是运行环境。当然您也可以基于我们提供的docker开发环境,只保留系统运行时库的相关包,并添加您需要的库包以及其他程序代码,构建您自己部署在生产环境中的docker镜像。

如果是SoC模式,那么您需要按照指引配置docker环境,docker将工作在CModel模式,为您提供模型转换和程序交叉编译的开发环境;待程序编译好后,您需要手动将编译好的程序拷贝到目标系统(SE5/SM5)中运行执行。

典型开发环境

  • 一台安装了Ubuntu16.04/18.04/20.04的x86主机,运行内存建议12GB以上

  • 安装Docker:参考《》

  • 下载BMNNSDK2开发包:参考《》

注意:若您使用国产CPU或操作系统的主机,建议您直接在裸机上进行开发而不是使用docker开发镜像。若有问题,请联系我们获取技术支持。本教程后续的操作若无特殊说明,均以安装了x86主机并且在运行环境为ubuntu16.04的docker中执行为例。

安装和配置方法请参考:1.5.1 环境配置-Linux

windows下进行模型转换

您可以安装Docker Desktop,使用Docker Desktop您可以依托WSL2在windows下加载我们提供的Ubuntu开发镜像,从而完成模型转换工作,您需要准备:

  • 一台安装了Windows10+的x86主机,运行内存建议12GB以上

  • 获取并安装Docker Desktop:参考《》

  • 获取BMNNSDK2开发包:参考《》

安装和配置方法请参考:1.5.2 环境配置-Windows

注意:

BMNNSDK2是一个支持多种平台的开发包。为了适应不同硬件平台和编译器的需求,开发者拿到SDK解压缩后,需要运行一个简单的安装脚本,此安装脚本会根据用户当前的主机环境调整安装适配的程序版本,如ABI(应用程序二进制接口)版本。因此,不建议拷贝解压缩后的文件夹到其他机器使用,确有拷贝需求时,请拷贝SDK原始压缩包,然后重新解压缩再安装。

  • 比如CentOS和Ubuntu下默认的ABI格式不一样,无法通用,拷贝后的文件执行时会报找不到符号的错误;

  • 当使用NTFS格式的移动存储设备拷贝解压后的文件时,特别是在windows下和linux之间拷贝文件时,极有可能造成文件链接或so文件损坏。

官方教程
操作教程
官方教程
操作教程