3.3.6 auto_cali一键量化工具

对于常见以图片作为输入的CV类推理网络,推荐使用auto_cali一键量化工具。这个工具是分步量化的整合,操作更加简单,支持使用LMDB或者原始图片完成量化,可以减少分步量化过程中手工输入引起的错误等,其功能如下:

  • 一键完成从原始框架(TensorFlow/PyTorch/Caffe/Darknet/MxNet/PaddlePaddle/ONNX)到BM1684芯片bmodel的转换

  • 可根据预设的优化参数组合根据int8模型精度结果自动进行量化策略搜索,找到满足精度要求的最佳量化策略

具体请参考:《Quantization-Tools-User_Guide》中的auto_calib

最后更新于