README_CN.md

English | 简体中文

ResNet模型 Python部署示例

在部署前，需确认以下两个步骤

• 1. 软硬件环境满足要求，参考FastDeploy环境要求
• 2. FastDeploy Python whl包安装，参考FastDeploy Python安装

本目录下提供infer.py快速完成ResNet50_vd在CPU/GPU，以及GPU上通过TensorRT加速部署的示例。执行如下脚本即可完成

#下载部署示例代码
git clone https://github.com/PaddlePaddle/FastDeploy.git
cd  FastDeploy/examples/vision/classification/resnet/python

# 下载ResNet50_vd模型文件和测试图片
wget https://bj.bcebos.com/paddlehub/fastdeploy/resnet50.onnx
wget https://gitee.com/paddlepaddle/PaddleClas/raw/release/2.4/deploy/images/ImageNet/ILSVRC2012_val_00000010.jpeg

# CPU推理
python infer.py --model resnet50.onnx --image ILSVRC2012_val_00000010.jpeg --device cpu --topk 1
# GPU推理
python infer.py --model resnet50.onnx --image ILSVRC2012_val_00000010.jpeg --device gpu --topk 1
# GPU上使用TensorRT推理 （注意：TensorRT推理第一次运行，有序列化模型的操作，有一定耗时，需要耐心等待）
python infer.py --model resnet50.onnx --image ILSVRC2012_val_00000010.jpeg --device gpu --use_trt True --topk 1

运行完成后返回结果如下所示

ClassifyResult(
label_ids: 332,
scores: 0.825349,
)

ResNet Python接口

fd.vision.classification.ResNet(model_file, params_file, runtime_option=None, model_format=ModelFormat.ONNX)

参数

• model_file(str): 模型文件路径
• params_file(str): 参数文件路径
• runtime_option(RuntimeOption): 后端推理配置，默认为None，即采用默认配置
• model_format(ModelFormat): 模型格式，默认为ONNX格式

predict函数

ResNet.predict(input_image, topk=1)

模型预测结口，输入图像直接输出检测结果。

参数

• input_image(np.ndarray): 输入数据，注意需为HWC，BGR格式
• topk(int):返回预测概率最高的topk个分类结果，默认为1

返回

返回fastdeploy.vision.ClassifyResult结构体，结构体说明参考文档视觉模型预测结果

其它文档

• ResNet 模型介绍
• ResNet C++部署
• 模型预测结果说明
• 如何切换模型推理后端引擎