# SophonSDK3 开发指南

## 注意

<mark style="color:red;">**近期我们将对SDK的发布方式进行升级，改进安装使用和开发部署的用户体验。敬请期待！**</mark>

## **声明**&#x20;

**法律声明**

版权所有 © 算能 2022. 保留一切权利。

非经本公司书面许可，任何单位和个人不得擅自摘抄、复制本文档内容的部分或全部，并不得以任何形式传播。

**注意**

您购买的产品、服务或特性等应受 算能 商业合同和条款的约束， 本文档中描述的全部或部分产品、服务或特性可能不在您的购买或使用范围之内。 除非合同另有约定， 算能 对本文档内容不做任何明示或默示的声明或保证。 由于产品版本升级或其他原因，本文档内容会不定期进行更新。 除非另有约定，本文档仅作为使用指导，本文档中的所有陈述、信息和建议不构成任何明示或暗示的担保。

**技术支持**

地&#x5740;**：**&#x5317;京市海淀区丰豪东路9号院中关村集成电路设计园（ICPARK）1号楼

邮&#x7F16;**：**&#x31;00094

网&#x5740;**：**<https://www.sophgo.com/>

邮&#x7BB1;**：**[sales@sophgo.com](mailto:sales%40sophgo.com)

电&#x8BDD;**：**+86-10-57590723 +86-10-57590724

## SophonSDK发布记录

| 版本     | 发布时间       | 说明                                                  |
| ------ | ---------- | --------------------------------------------------- |
| v2.0.0 | 2019/9/20  | First offical release                               |
| v2.0.1 | 2019/11/16 | Revised for 2.0.1                                   |
| v2.0.3 | 2020/05/07 | Revised for 2.0.3                                   |
| v2.2.0 | 2020/10/12 | Revised for 2.2.0                                   |
| v2.3.0 | 2021/01/11 | Revised for 2.3.0                                   |
| v2.3.1 | 2021/03/09 | Revised for 2.3.1                                   |
| v2.3.2 | 2021/04/01 | Revised for 2.3.2                                   |
| v2.4.0 | 2021/05/23 | Revised for 2.4.0                                   |
| v2.5.0 | 2021/09/02 | Revised for 2.5.0                                   |
| v2.6.0 | 2021/12/09 | Revised for 2.6.0                                   |
| v2.7.0 | 2022/05/31 | first released on 2022/03/16, patched on 2022/05/31 |
| v3.0.0 | 2022/07/16 | first released on 2022/07/16                        |

## 术语解释

<table><thead><tr><th width="181.20707628787926">术语</th><th>说明</th></tr></thead><tbody><tr><td>BM1684X</td><td>算能科技面向深度学习领域推出的第四代张量处理器</td></tr><tr><td>BM1684</td><td>算能科技面向深度学习领域推出的第三代张量处理器</td></tr><tr><td>TPU</td><td>BM1684芯片中的神经网络运算单元</td></tr><tr><td>VPU</td><td>BM1684芯片中的解码单元</td></tr><tr><td>VPP</td><td>BM1684芯片中的图形运算加速单元</td></tr><tr><td>JPU</td><td>BM1684芯片中的图像jpeg编解码单元</td></tr><tr><td>BMNNSDK2</td><td>算能科技基于BM1684芯片的原创深度学习开发工具包v2</td></tr><tr><td>SophonSDK</td><td>算能科技基于BM168X芯片的原创深度学习开发工具包，v3.0.0开始更名为SophonSDK</td></tr><tr><td>PCIE Mode</td><td>BM1684的一种工作形态，芯片作为加速设备来进行使用，客户算法运行于x86主机</td></tr><tr><td>SoC Mode</td><td>BM1684的一种工作形态，芯片本身作为主机独立运行，客户算法可以直接运行其上。</td></tr><tr><td>CModel</td><td>BM1684软件模拟器，包含于BMNNSDK2中，在不具备 TPU 硬件设备的情况 下，可用于验证 BMNNSDK2编译及完成模型转换</td></tr><tr><td>arm_pcie Mode</td><td>BM1684的一种工作形态，搭载芯片的板卡作为PCIe从设备插到ARM cpu的服务器上，客户算法运行于ARM cpu的主机上</td></tr><tr><td>BMCompiler</td><td>面向算能科技TPU 处理器研发的深度神经网络的优化编译器，可以将深度学习框架定义的各种深度神经网络转化为 TPU 上运行的指令流。</td></tr><tr><td>BMRuntime</td><td>TPU推理接口库</td></tr><tr><td>BMCV</td><td>图形运算硬件加速接口库</td></tr><tr><td>BMLib</td><td>在内核驱动之上封装的一层底层软件库，设备管理、内存管理、数据搬运、API发 送、A53使能、功耗控制</td></tr><tr><td>UFramework(ufw)</td><td>算能自定义的基于Caffe的深度学习推理框架，用于将模型与原始框架解耦以便验证模型转换精度和完成量化</td></tr><tr><td>BMNetC</td><td>面向Caffe的 BMCompiler 前端工具</td></tr><tr><td>BMNetD</td><td>面向Darknet的BMCompiler前端工具</td></tr><tr><td>BMNetM</td><td>面向MxNet的 BMCompiler 前端工具</td></tr><tr><td>BMNetO</td><td>面向ONNX的BMCompiler前端工具</td></tr><tr><td>BMNetP</td><td>面向PyTorch的 BMCompiler 前端工具</td></tr><tr><td>BMNetT</td><td>面向TensorFlow的BMCompiler 前端工具</td></tr><tr><td>BMNetU</td><td>INT8量化模型的BMCompiler前端工具</td></tr><tr><td>BMPaddle</td><td>面向Paddle Paddle的BMCompiler前端工具</td></tr><tr><td>Umodel</td><td>算能自定义的UFamework下的模型格式，为量化模型时使用的中间模型格式</td></tr><tr><td>BModel</td><td>面向算能TPU处理器的深度神经网络模型文件格式，其中包含目标网络的权重（weight）、TPU指令流等</td></tr><tr><td>BMLang</td><td>面向TPU的高级编程模型，用户开发时无需了解底层TPU硬件信息</td></tr><tr><td>TPUKernel(OKKernel,BMKernel)</td><td>基于TPU原子操作(根据芯片指令集封装的一套接口)的开发库，需熟悉芯片架构、存储细节</td></tr><tr><td>SAIL</td><td>支持Python/C++接口的Sophon Inference推理库，是对BMCV、BMDecoder、 BMLib、BMRuntime等的进一步封装</td></tr><tr><td>winograd</td><td>一种卷积的加速算法</td></tr></tbody></table>

## 授权

​BMNNSDK/SophonSDK是算能科技自主研发的原创深度学习开发工具包，未经算能科技事先书面授权，其它第三方公司或个人不得以任何形式或方式复制、发布和传播。

## 帮助与支持

​ 在使用过程中，如有关于SophonSDK的任何问题或者意见和建议，欢迎到[官方技术论坛](https://developer.sophgo.com/forum/index.html)提问反馈。


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://sophgo-doc.gitbook.io/sophonsdk3/master.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.