• Home
  • Line#
  • Scopes#
  • Navigate#
  • Raw
  • Download
1# IPreparedModel
2
3
4## 概述
5
6NNRt模块的包路径。
7
8定义模型编译后的对象,包含编译后模型导出、模型推理接口。
9
10**起始版本:** 3.2
11
12**相关模块:**[NNRt](_n_n_rt_v20.md)
13
14
15## 汇总
16
17
18### Public 成员函数
19
20| 名称 | 描述 |
21| -------- | -------- |
22| [ExportModelCache](#exportmodelcache) ([out] struct [SharedBuffer](_shared_buffer_v20.md)[] modelCache) | 导出模型缓存。 |
23| [GetInputDimRanges](#getinputdimranges) ([out] unsigned int[][] minInputDims, [out] unsigned int[][] maxInputDims) | 获取模型输入支持的维度范围。如果模型输入为固定维度,则维度最大值与最小值相同。 |
24| [Run](#run) ([in] struct [IOTensor](_i_o_tensor_v20.md)[] inputs, [in] struct [IOTensor](_i_o_tensor_v20.md)[] outputs, [out] int[][] outputsDims) | 推理模型 |
25
26
27## 成员函数说明
28
29
30### ExportModelCache()
31
32```
33IPreparedModel::ExportModelCache ([out] struct SharedBuffer[] modelCache)
34```
35
36**描述**
37
38导出模型缓存。
39
40**起始版本:** 3.2
41
42**参数:**
43
44| 名称 | 描述 |
45| -------- | -------- |
46| modelCache | 模型缓存数组,元素顺序与导出时元素顺序一致,SharedBuffer定义请查看[SharedBuffer](_shared_buffer_v20.md)。 |
47
48**返回:**
49
50返回0表示成功
51
52返回非0表示失败,负数为HDF标准错误码,正数为NNRt定义的专用错误码(请查看[NNRT_ReturnCode](_n_n_rt_v20.md#nnrt_returncode))
53
54
55### GetInputDimRanges()
56
57```
58IPreparedModel::GetInputDimRanges ([out] unsigned int minInputDims[][], [out] unsigned int maxInputDims[][] )
59```
60
61**描述**
62
63获取模型输入支持的维度范围。如果模型输入为固定维度,则维度最大值与最小值相同。
64
65**起始版本:** 3.2
66
67**参数:**
68
69| 名称 | 描述 |
70| -------- | -------- |
71| minInputDims | 二维数组存放模型输入数据的最小维度值,数组第1维表示模型输入tensor的数量,第2维表示输入tensor的维度数量。 |
72| maxInputDims | 二维数组存放模型输入数据的最大维度值,数组第1维表示模型输入tensor的数量,第2维表示输入tensor的维度数量。 |
73
74**返回:**
75
76返回0表示成功
77
78返回非0表示失败,负数为HDF标准错误码,正数为NNRt定义的专用错误码(请查看[NNRT_ReturnCode](_n_n_rt_v20.md#nnrt_returncode))
79
80
81### Run()
82
83```
84IPreparedModel::Run ([in] struct IOTensor[] inputs, [in] struct IOTensor[] outputs, [out] int outputsDims[][] )
85```
86
87**描述**
88
89推理模型
90
91**起始版本:** 3.2
92
93**参数:**
94
95| 名称 | 描述 |
96| -------- | -------- |
97| inputs | 模型推理的输入数据,输入的顺序与模型中定义的输入顺序一致,输入数据类型参考IOTensor定义[IOTensor](_i_o_tensor_v20.md)。 |
98| outputs | 模型推理的输出数据,推理完后需要往outputs的sharedBuffer中写入输出数据,IOTensor定义请查看[IOTensor](_i_o_tensor_v20.md)。 |
99| outputsDims | 模型推理输出数据的形状,输出顺序与outputs顺序一一对应。 |
100| isOutputBufferEnough | 模型推理输出数据的SharedBuffer空间是否足够,足够的话返回true,不足则返回false,输出顺序与outputs顺序一一对应。 |
101
102**返回:**
103
104返回0表示成功
105
106返回非0表示失败,负数为HDF标准错误码,正数为NNRt定义的专用错误码(请查看[NNRT_ReturnCode](_n_n_rt_v20.md#nnrt_returncode))
107