✏️
SophonSDK3开发指南
  • SophonSDK3 开发指南
  • 1 SDK软件包
    • 1.1 SDK 简介
    • 1.2 资料简介
    • 1.3 获取SDK
    • 1.4 安装SDK
      • 1.4.1 环境配置-Linux
      • 1.4.2 环境配置-Windows
      • 1.4.3 环境配置-SoC
    • 1.5 更新SDK
    • 1.6 SDK更新记录
    • 1.7 SDK已知问题
  • 2 快速入门
    • 2.1 移植开发综述
    • 2.2 重要概念
    • 2.3 样例程序
  • 3 网络模型迁移
    • 3.1 模型迁移概述
    • 3.2 FP32 模型生成
    • 3.3 INT8 模型生成
      • 3.3.1 准备lmdb数据集
      • 3.3.2 生成FP32 Umodel
      • 3.3.3 生成INT8 Umodel
      • 3.3.4 精度测试
      • 3.3.5 生成INT8 Bmodel
      • 3.3.6 auto_cali一键量化工具
  • 4 算法移植
    • 4.1 算法移植概述
    • 4.2 C/C++编程详解
    • 4.3 Python编程详解
    • 4.4 解码模块
    • 4.5 图形运算加速模块
    • 4.6 模型推理
  • 5 打包和发布
    • 5.1 概述
    • 5.2 PCIE加速卡模式
    • 5.3 SOC模式
  • 附录
由 GitBook 提供支持
在本页
  1. 1 SDK软件包

1.2 资料简介

上一页1.1 SDK 简介下一页1.3 获取SDK

最后更新于2年前

SophonSDK 是一个一站式SDK,其中包含了模型转换、算法移植、int8量化等相关模块,我们提供了包括文档、视频、论坛、开源仓库等一系列资料帮助用户进行算法移植和开发工作。请先阅读开发指南,熟悉环境配置及SDK使用。当您在某个环节遇到问题时,可以阅读相应的模块文档了解更加详细的信息。SDK相关的开发参考资料如下:

开发指南:,其中包括:基本概念及SDK简介;资料简介、文档说明;SDK的获取、安装、配置及更新;快速入门例子、模型转换及模型量化、示例代码的讲解、docker部署等内容。

网络和算子支持情况:关于网络和算子的支持情况,请查看《NNToolChain用户开发手册》中的附录 。也可以通过工具链中转换命令查看。

FAQ:,其中包括:基础概念、环境配置、设备使用、模型转换及量化、多媒体、程序优化等方面的常见问题及解答。

官网视频教程:,其中包括:智算卡、智算盒子、智算服务器等产品介绍视频;快速跑通PCIE模式的例程、快速跑通SoC模式的例程、SDK算法移植介绍、BMCV编程示例、编解码编程示例、BMLang编程示例、BMKernel(OKKernel/TPUKernel)编程示例。

官网文档中心:,其中分产品手册和开发手册两大类,开发手册主要包括关于模型工具链、BMLib、BMCV、多媒体、BMLang、TPUKernel、SAIL等模块的用户开发手册,提供html和pdf两种版本以方便您查看和下载。具体情况如下:

文档名称
说明

BMLib 是在内核驱动之上封装的一层底层软件库,负责设备Handle的管理、内存管理、数据搬运、API的发送和同步、A53使能、设置TPU工作频率等

工具链用户手册,包含模型转换、运行时库以及自定义层如何实现等方面的介绍

int8量化工具手册

面向Sophon TPU的高级编程语言,可开发自定义算子

OKKernel/BMKernel,基于Sophon芯片底层原子操作接口的底层编程接口,可开发并行计算加速程序

BMCV 提供了一套基于 Sophon AI 芯片优化的机器视觉库,可对图像处理和张量运算加速,通过利用芯片TPU 、VPP、JPU等模块,可以完成色彩空间转换、尺度变换、仿射变换、透射变换、线性变换、画框、JPEG 编解码、BASE64 编解码、NMS、 排序、特征匹配等操作。

驱动VPU进行视频编解码等多媒体相关

支持Python/C++的上层封装接口

Sophon设备和SDK使用常见问题及解答

官网下载中心:,其中有:基础开发docker镜像()、SDK()、SoC升级及固件程序()、K8S Device Plugin & Prometheus Exporter相关(、)等文件的下载链接。

官网论坛:(欢迎在官网论坛向我们发起技术支持提问帖)

云开发平台(SOPHNET):(提供一站式云开发支撑)

开源仓库:

examples样例::从3.0.0开始,SDK下不再包含examples参考例程,有关编解码、模型转换、模型量化、推理等一系列样例程序请参考github仓库。同时,也欢迎各位通过github issues向我们反馈您在使用过程中遇到的问题,并向我们提交PR共同参与examples仓库的建设。

SE5盒子通过QT使用HDMI接口显示图像:

BSP:

BM-FFmpeg:

https://sophgo-doc.gitbook.io/sophonsdk3/
DL Ops&Models支持情况
https://doc.sophgo.com/docs/docs_latest_release/faq/html/index.html
https://developer.sophgo.com/site/index/course/all/all.html
https://developer.sophgo.com/site/index/document/all/all.html
https://developer.sophgo.com/site/index/material/all/all.html
https://developer.sophgo.com/site/index/material/11/all.html
https://developer.sophgo.com/site/index/material/17/all.html
https://developer.sophgo.com/site/index/material/12/all.html
https://developer.sophon.ai/site/index/material/11/74.html
https://developer.sophgo.com/site/index/material/11/75.html
https://developer.sophgo.com/forum/index.html
https://cloud.sophgo.com/developer/platform/index
https://github.com/sophon-ai-algo/examples
examples
https://github.com/sophon-ai-algo/sophon-qt
https://gitee.com/sophon-ai/bsp-sdk
https://gitee.com/sophon-ai/bm_ffmpeg
BMLib用户开发手册
NNToolChain用户开发手册
量化工具用户开发手册
BMLang用户开发手册
OKKernel用户开发手册
BMCV用户开发手册
多媒体用户开发手册
SAIL用户开发手册
FAQ文档