Lines Matching +full:int16 +full:- +full:matrix
8 For the purposes of this document, all scalars are stored in little-endian. The
18 |------|-------|
21 | int16 | <kbd>[bb]</kbd> |
35 |------|-------|
37 | vec3\<float> | <kbd>[bbbb][bbbb][bbbb][----]</kbd> |
40 | vec3\<int8> | <kbd>[bbb-]</kbd> |
42 | vec2\<int16> | <kbd>[bbbb]</kbd> |
43 | vec3\<int16> | <kbd>[bbbb][bb--]</kbd> |
44 | vec4\<int16> | <kbd>[bbbb][bbbb]</kbd> |
46 | vec3\<int32> | <kbd>[bbbb][bbbb][bbbb][----]</kbd> |
53 |------|-------|
54 | int8[] | <kbd>[b---][----][----][----]</kbd> |
55 | int16[] | <kbd>[bb--][----][----][----]</kbd> |
56 | int32[] | <kbd>[bbbb][----][----][----]</kbd> |
57 | int64[] | <kbd>[bbbb][bbbb][----][----]</kbd> |
58 | float[] | <kbd>[bbbb][----][----][----]</kbd> |
62 |------|-------|
64 | int16[] | <kbd>[bb]</kbd> |
73 |------|-------|
74 | vec2\<float>[] | <kbd>[bbbb][bbbb][----][----]</kbd> |
75 | vec3\<float>[] | <kbd>[bbbb][bbbb][bbbb][----]</kbd> |
77 | vec2\<int8>[] | <kbd>[bb--][----][----][----]</kbd> |
78 | vec2\<int16>[] | <kbd>[bbbb][----][----][----]</kbd> |
79 | vec2\<int32>[] | <kbd>[bbbb][bbbb][----][----]</kbd> |
80 | vec3\<int8>[] | <kbd>[bbb-][----][----][----]</kbd> |
81 | vec3\<int16>[] | <kbd>[bbbb][bb--][----][----]</kbd> |
82 | vec3\<int32>[] | <kbd>[bbbb][bbbb][bbbb][----]</kbd> |
83 | vec4\<int8>[] | <kbd>[bbbb][----][----][----]</kbd> |
84 | vec4\<int16>[] | <kbd>[bbbb][bbbb][----][----]</kbd> |
89 |------|-------|
91 | vec3\<float>[] | <kbd>[bbbb][bbbb][bbbb][----]</kbd> |
94 | vec2\<int16>[] | <kbd>[bbbb]</kbd> |
96 | vec3\<int8>[] | <kbd>[bbb-]</kbd> |
97 | vec3\<int16>[] | <kbd>[bbbb][bb--]</kbd> |
98 | vec3\<int32>[] | <kbd>[bbbb][bbbb][bbbb][----]</kbd> |
100 | vec4\<int16>[] | <kbd>[bbbb][bbbb]</kbd> |
104 ## Matrices (All matrices are column-major matrices, format is matCxR)
111 |------|-------|
112 | mat2x2\<int8> | <kbd>[bb--][----][----][----]<br/>[bb--][----][----][----]</kbd> |
113 | mat2x2\<fp16> | <kbd>[bbbb][----][----][----]<br/>[bbbb][----][----][----]</kbd> |
114 | mat2x2\<float> | <kbd>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][----][----]</kbd> |
115 | mat2x3\<float> | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]</kbd> |
117 | mat3x2\<float> | <kbd>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][----…
118 …<float> | <kbd>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][----][----]<…
119 …oat> | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/…
123 |------|-------|
126 | mat2x3\<float> | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]</kbd> |
130 | mat3x3\<float> | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb…
132 …oat> | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/…
135 ## Matrix Array (All matrices are column-major matrices).
137 In the examples shown the array stride is equal to the base alignment of the matrix
142 |------|-------|
143 | mat2x2\<int8>[] | <kbd>[bb--][----][----][----]<br/>[bb--][----][----][----]</kbd> |
144 | mat2x2\<fp16>[] | <kbd>[bbbb][----][----][----]<br/>[bbbb][----][----][----]</kbd> |
145 | mat2x2\<float>[] | <kbd>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][----][----]</kbd> |
146 | mat2x3\<float>[] | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]</kbd> |
148 | mat3x2\<float>[] | <kbd>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][--…
149 …loat>[] | <kbd>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][----][----]<br/>[bbbb][bbbb][----][----]<…
150 …t>[] | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/…
154 |------|-------|
157 | mat2x3\<float>[] | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]</kbd> |
161 | mat3x3\<float>[] | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bb…
163 …t>[] | <kbd>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/>[bbbb][bbbb][bbbb][----]<br/…
176 |-----|:--------------------:|-------|
177 | 140 | 16 | <kbd>{w [bbbb]}<br/>{x [bbbb]}<br/> [----][----]</kbd> |
195 |-----|:--------------------:|-------|
196 …bbbb]}<br/> {b [bbbb]}<br/> [----][----]<br/>{y [bbbb][----][----][----]…
215 |-----|:---------------------:|-------|
216 | 140 | 32 | <kbd>{w [bbbb][----]}<br/>{x [bbbb][bbbb]}<br/>{y [bbbb][----]}<br/> [----][----]</kbd…
217 | 430 | 24 | <kbd>{w [bbbb][----]}<br/>{x [bbbb][bbbb]}<br/>{y [bbbb][----]}</kbd> |
236 |-----|:--------------------:|-------|
237 | 140 | 32 | <kbd>{w [bbbb][----][----][----]}<br/>{x [bbbb][bbbb][bbbb]}<br/>{y [bbbb]}</kbd> |
238 | 430 | 32 | <kbd>{w [bbbb][----][----][----]}<br/>{x [bbbb][bbbb][bbbb]}<br/>{y [bbbb]}</kbd> |
256 |-----|:--------------------:|-------|
257 | 140 | 48 | <kbd>{w [bbbb][----][----][----]}<br/>{x [bbbb][bbbb][bbbb][----]}<br/>{y [bbbb][bbbb]…
258 | 430 | 48 | <kbd>{w [bbbb][----][----][----]}<br/>{x [bbbb][bbbb][bbbb][----]}<br/>{y [bbbb][bbbb]…
277 |-----|:---------------------:|-------|
278 …kbd>{w [bbbb][----][----][----]}<br/>{x [bbbb][bbbb][----][----]<br/> [bbbb][bbbb][--…
279 | 430 | 32 | <kbd>{w [bbbb][----]}<br/>{x [bbbb][bbbb][bbbb][bbbb]}<br/>{y [bbbb][----]}</kbd> |
300 |-----|:--------------------:|-------|
301 …----][----][----]}<br/>{x a{[bbbb]}<br/> b{[bbbb]}<br/> c{[bbbb]}<br /> …
322 |-----|:--------------------:|-------|
323 …----][----][----]}<br/>{x {a [bbbb]}<br/> {b [bbbb]}<br/> […