✏️
SophonSDK3开发指南
  • SophonSDK3 开发指南
  • 1 SDK软件包
    • 1.1 SDK 简介
    • 1.2 资料简介
    • 1.3 获取SDK
    • 1.4 安装SDK
      • 1.4.1 环境配置-Linux
      • 1.4.2 环境配置-Windows
      • 1.4.3 环境配置-SoC
    • 1.5 更新SDK
    • 1.6 SDK更新记录
    • 1.7 SDK已知问题
  • 2 快速入门
    • 2.1 移植开发综述
    • 2.2 重要概念
    • 2.3 样例程序
  • 3 网络模型迁移
    • 3.1 模型迁移概述
    • 3.2 FP32 模型生成
    • 3.3 INT8 模型生成
      • 3.3.1 准备lmdb数据集
      • 3.3.2 生成FP32 Umodel
      • 3.3.3 生成INT8 Umodel
      • 3.3.4 精度测试
      • 3.3.5 生成INT8 Bmodel
      • 3.3.6 auto_cali一键量化工具
  • 4 算法移植
    • 4.1 算法移植概述
    • 4.2 C/C++编程详解
    • 4.3 Python编程详解
    • 4.4 解码模块
    • 4.5 图形运算加速模块
    • 4.6 模型推理
  • 5 打包和发布
    • 5.1 概述
    • 5.2 PCIE加速卡模式
    • 5.3 SOC模式
  • 附录
由 GitBook 提供支持
在本页
  1. 3 网络模型迁移
  2. 3.3 INT8 模型生成

3.3.4 精度测试

上一页3.3.3 生成INT8 Umodel下一页3.3.5 生成INT8 Bmodel

最后更新于2年前

精度测试是一个可选的操作步骤,用以验证经过 int8 量化后,网络的精度情况。

该步骤可以安排在部署描述的网络部署之前,并配合量化网络反复进行,以达到预期的精度。

根据不同的网络类型,精度测试可能是不同的,精度测试常常意味着要进行完整的前处理和后处理以及精度计算程序开发。

Calibration-tools 对外提供了UFramework 的应用接口,可以对 umodel 进行 float32 或者 int8 推理,从而计算网络推理精度。

在生成新的int8 bmodel后,网络可能需要验证精度损失,SDK提供不同类型网络的精度比对方式。

  • 分类网络,通过修改网络输出层添加top-k:参考《量化工具用户开发手册》。

  • 检测网络,通过ufw测试特定图片,与fp32网络比对:参考《量化工具用户开发手册》。

  • 通过图形界面检查精度差异:参考《量化工具用户开发手册》。

更多关于精度测试以及量化误差分析、量化技巧的内容请参考。

分类网络的精度测试
检测网络的精度测试
量化误差定性分析
《Quantization-Tools-User_Guide》