QQ:3306410167
QQ:202004841
0755-88291180
13424403025
sales03@spotpear.cn
services04@spotpear.cn
微信: spotpear
微信: zhoujie13424403025
Luckfox Pico RV1103 1106系列支持QAT量化后的模型转.rknn吗?
现在默认是采用PTQ量化方式。
Rockchip RKNN支持列表手册有没有?
♥ 请认真作答,如牛头不对马嘴或发布违规及广告内容,发现一律封号处理!
应该是支持的,static quantization 和 qat quantization 都是支持的
举报
担心做QAT量化之后,转成rknn,会不会不能在npu上跑?自动切到CPU上。
我只看到了INT8+FP16混合量化
这么细的东西我们也没测过,介绍也少
RKNN只能跑在NPU上吧
具体可以实测一下,这一块 可以去github上问官方
https://github.com/rockchip-linux/rknn-toolkit2
RKNN支持列表手册: 你可以看看这个
https://cdn.static.spotpear.cn/uploads/picture/learn/risc-v/luck-fox-pico/Document/05_RKNN_Compiler_Support_Operator_List_v1.6.0.pdf