• Home
  • Line#
  • Scopes#
  • Navigate#
  • Raw
  • Download
1# IPreparedModel
2
3
4## 概述
5
6定义模型编译后的对象,包含编译后模型导出、模型推理接口。
7
8**Since:**
9
103.2
11
12**Version:**
13
142.0
15
16**相关模块:**
17
18[NNRt](_n_n_rt.md)
19
20
21## 汇总
22
23
24### Public 成员函数
25
26  | 名称 | 描述 |
27| -------- | -------- |
28| [ExportModelCache](#exportmodelcache) ([out] struct [SharedBuffer](_shared_buffer.md)[] modelCache) | 导出模型缓存。  |
29| [GetInputDimRanges](#getinputdimranges) ([out] unsigned int[][] minInputDims, [out] unsigned int[][] maxInputDims) | 获取模型输入支持的维度范围。如果模型输入为固定维度,则维度最大值与最小值相同。  |
30| [Run](#run) ([in] struct [IOTensor](_i_o_tensor.md)[] inputs, [in] struct [IOTensor](_i_o_tensor.md)[] outputs, [out] int[][] outputsDims) | 推理模型  |
31
32
33## 成员函数说明
34
35
36### ExportModelCache()
37
38
39```
40IPreparedModel::ExportModelCache ([out] struct SharedBuffer[] modelCache)
41```
42**描述:**
43导出模型缓存。
44
45**参数:**
46
47  | 名称 | 描述 |
48| -------- | -------- |
49| modelCache | 模型缓存数组,元素顺序与导出时元素顺序一致,SharedBuffer定义请查看[SharedBuffer](_shared_buffer.md)。 |
50
51**返回:**
52
53返回0表示成功
54
55返回非0表示失败,负数为HDF标准错误码,正数为NNRt定义的专用错误码(请查看[NNRT_ReturnCode](_n_n_rt.md#nnrt_returncode))
56
57
58### GetInputDimRanges()
59
60
61```
62IPreparedModel::GetInputDimRanges ([out] unsigned int minInputDims[][], [out] unsigned int maxInputDims[][] )
63```
64**描述:**
65获取模型输入支持的维度范围。如果模型输入为固定维度,则维度最大值与最小值相同。
66
67**参数:**
68
69  | 名称 | 描述 |
70| -------- | -------- |
71| minInputDims | 二维数组存放模型输入数据的最小维度值,数组第1维表示模型输入tensor的数量,第2维表示输入tensor的维度数量。  |
72| maxInputDims | 二维数组存放模型输入数据的最大维度值,数组第1维表示模型输入tensor的数量,第2维表示输入tensor的维度数量。 |
73
74**返回:**
75
76返回0表示成功
77
78返回非0表示失败,负数为HDF标准错误码,正数为NNRt定义的专用错误码(请查看[NNRT_ReturnCode](_n_n_rt.md#nnrt_returncode))
79
80
81### Run()
82
83
84```
85IPreparedModel::Run ([in] struct IOTensor[] inputs, [in] struct IOTensor[] outputs, [out] int outputsDims[][] )
86```
87**描述:**
88推理模型
89
90**参数:**
91
92  | 名称 | 描述 |
93| -------- | -------- |
94| inputs | 模型推理的输入数据,输入的顺序与模型中定义的输入顺序一致,输入数据类型参考IOTensor定义[IOTensor](_i_o_tensor.md)。  |
95| outputs | 模型推理的输出数据,推理完后需要往outputs的sharedBuffer中写入输出数据,IOTensor定义请查看[IOTensor](_i_o_tensor.md)。  |
96| outputsDims | 模型推理输出数据的形状,输出顺序与outputs顺序一一对应。  |
97| isOutputBufferEnough | 模型推理输出数据的SharedBuffer空间是否足够,足够的话返回true,不足则返回false,输出顺序与outputs顺序一一对应。 |
98
99**返回:**
100
101返回0表示成功
102
103返回非0表示失败,负数为HDF标准错误码,正数为NNRt定义的专用错误码(请查看[NNRT_ReturnCode](_n_n_rt.md#nnrt_returncode))
104