create_quant_retrain_model【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√功能说明量化感知训练接口将输入的待量化的图结构按照给定的量化配置文件进行量化处理在传入的图结构中插入量化相关的算子数据和权重的量化感知训练层以及找N的层生成量化因子记录文件record_file返回修改后可用于量化感知训练的torch.nn.Module模型。函数原型quant_retrain_model create_quant_retrain_model (config_file, model, record_file, input_data)参数说明参数名输入/输出说明config_file输入含义用户生成的量化感知训练配置文件用于指定模型network中量化层的配置情况。数据类型stringmodel输入含义待进行量化感知训练的模型已加载权重。数据类型torch.nn.Modulerecord_file输入含义量化因子记录文件路径及名称。数据类型stringinput_data输入含义模型的输入数据。一个torch.tensor会被等价为tuple(torch.tensor)。数据类型tuple返回值说明返回修改后可用于量化感知训练的torch.nn.Module模型。调用示例import amct_pytorch as amct # 建立待进行量化感知训练的网络图结构 model build_model() model.load_state_dict(torch.load(state_dict_path)) input_data tuple([torch.randn(input_shape)]) scale_offset_record_file os.path.join(TMP, scale_offset_record.txt) # 插入量化API quant_retrain_model amct.create_quant_retrain_model( config_json_file, model, scale_offset_record_file, input_data)【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考