Luckfox Pico RV1103 1106系列支持QAT量化后的模型转.rknn吗?

2024-01-30 09:57:48 提问

Luckfox Pico RV1103 1106系列支持QAT量化后的模型转.rknn吗?

现在默认是采用PTQ量化方式。


Rockchip RKNN支持列表手册有没有?

Luckfox Pico QAT量化 Luckfox Pico rknn RKNN支持列表
我来答
浏览 1165 次
已有5个回答
斑梨用户8
回答时间:
2024-01-30 09:59:13

应该是支持的,static quantization 和 qat quantization 都是支持的

点赞0

举报

斑梨游客bc2b7
回答时间:
2024-01-30 09:59:26

担心做QAT量化之后,转成rknn,会不会不能在npu上跑?自动切到CPU上。

点赞0

举报

斑梨用户8
回答时间:
2024-01-30 09:59:49

我只看到了INT8+FP16混合量化

这么细的东西我们也没测过,介绍也少

RKNN只能跑在NPU上吧

点赞0

举报

斑梨用户8
回答时间:
2024-01-30 10:01:39

具体可以实测一下,这一块 可以去github上问官方

https://github.com/rockchip-linux/rknn-toolkit2

点赞0

举报

斑梨用户8
回答时间:
2024-01-30 10:08:05
点赞0

举报