• Home
  • Line#
  • Scopes#
  • Navigate#
  • Raw
  • Download
1 /*
2  * Copyright (c) 2019-2020 Arm Limited.
3  *
4  * SPDX-License-Identifier: MIT
5  *
6  * Permission is hereby granted, free of charge, to any person obtaining a copy
7  * of this software and associated documentation files (the "Software"), to
8  * deal in the Software without restriction, including without limitation the
9  * rights to use, copy, modify, merge, publish, distribute, sublicense, and/or
10  * sell copies of the Software, and to permit persons to whom the Software is
11  * furnished to do so, subject to the following conditions:
12  *
13  * The above copyright notice and this permission notice shall be included in all
14  * copies or substantial portions of the Software.
15  *
16  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
17  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
18  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE
19  * AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
20  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
21  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
22  * SOFTWARE.
23  */
24 #ifdef __ARM_FEATURE_SVE
25 
26 #include <cstdint>
27 #include "../../asmlib.hpp"
28 
29 namespace arm_gemm {
30 
sve_interleaved_s8s32_mmla_8x3VL(const int8_t * Apanel,const int8_t * Bpanel,int32_t * Cpanel,int ablocks,int bblocks,int K)31 void sve_interleaved_s8s32_mmla_8x3VL(const int8_t *Apanel, const int8_t *Bpanel, int32_t *Cpanel, int ablocks, int bblocks, int K) {
32     const int8_t *a_ptr = Apanel;
33     int32_t *c_ptr = Cpanel;
34 
35     K /= 8;
36     const long loops_count = (K / 2) - 1;
37     const long tails_count = K % 2;
38 
39     for (int yb=0; yb<ablocks; yb++) {
40         const int8_t *a_ptr0 = a_ptr;
41         const int8_t *b_ptr = Bpanel;
42 
43         for (int xb=0; xb<bblocks; xb++) {
44             a_ptr = a_ptr0;
45             long loops = loops_count;
46             long tails = tails_count;
47 
48             __asm __volatile (
49                 "mov z8.s, #0\n"
50                 "ptrue p0.b\n"
51                 "mov z9.s, #0\n"
52                 "mov z10.s, #0\n"
53                 "mov z11.s, #0\n"
54                 "ld1rqb z0.b, p0/z, [%[a_ptr]]\n"
55                 "mov z12.s, #0\n"
56                 "ld1b z4.b, p0/z, [%[b_ptr]]\n"
57                 "mov z13.s, #0\n"
58                 "ld1rqb z1.b, p0/z, [%[a_ptr], #0x10]\n"
59                 "mov z14.s, #0\n"
60                 "ld1b z5.b, p0/z, [%[b_ptr], #1, MUL VL]\n"
61                 "mov z15.s, #0\n"
62                 "ld1rqb z2.b, p0/z, [%[a_ptr], #0x20]\n"
63                 "mov z16.s, #0\n"
64                 "ld1b z6.b, p0/z, [%[b_ptr], #2, MUL VL]\n"
65                 "mov z17.s, #0\n"
66                 "add %[a_ptr], %[a_ptr], #0x40\n"
67                 "mov z18.s, #0\n"
68                 "addvl %[b_ptr], %[b_ptr], #4\n"
69                 "mov z19.s, #0\n"
70                 "mov z20.s, #0\n"
71                 "mov z21.s, #0\n"
72                 "mov z22.s, #0\n"
73                 "mov z23.s, #0\n"
74                 "mov z24.s, #0\n"
75                 "mov z25.s, #0\n"
76                 "mov z26.s, #0\n"
77                 "mov z27.s, #0\n"
78                 "mov z28.s, #0\n"
79                 "mov z29.s, #0\n"
80                 "mov z30.s, #0\n"
81                 "mov z31.s, #0\n"
82                 "cbz %[loops], 1f\n"
83                 "2:\n"
84                 ".inst 0x45049808 // smmla z8.s, z0.b, z4.b\n"
85                 "ld1b z7.b, p0/z, [%[b_ptr], #-1, MUL VL]\n"
86                 ".inst 0x4504982e // smmla z14.s, z1.b, z4.b\n"
87                 "ld1rqb z3.b, p0/z, [%[a_ptr], #-0x10]\n"
88                 ".inst 0x45049854 // smmla z20.s, z2.b, z4.b\n"
89                 "subs %[loops], %[loops], #0x1\n"
90                 ".inst 0x45059809 // smmla z9.s, z0.b, z5.b\n"
91                 ".inst 0x4504987a // smmla z26.s, z3.b, z4.b\n"
92                 "ld1b z4.b, p0/z, [%[b_ptr]]\n"
93                 ".inst 0x4505982f // smmla z15.s, z1.b, z5.b\n"
94                 ".inst 0x45059855 // smmla z21.s, z2.b, z5.b\n"
95                 ".inst 0x4505987b // smmla z27.s, z3.b, z5.b\n"
96                 "ld1b z5.b, p0/z, [%[b_ptr], #1, MUL VL]\n"
97                 ".inst 0x4506980a // smmla z10.s, z0.b, z6.b\n"
98                 ".inst 0x45069830 // smmla z16.s, z1.b, z6.b\n"
99                 ".inst 0x45069856 // smmla z22.s, z2.b, z6.b\n"
100                 ".inst 0x4506987c // smmla z28.s, z3.b, z6.b\n"
101                 "ld1b z6.b, p0/z, [%[b_ptr], #2, MUL VL]\n"
102                 ".inst 0x4507980b // smmla z11.s, z0.b, z7.b\n"
103                 ".inst 0x45079831 // smmla z17.s, z1.b, z7.b\n"
104                 ".inst 0x45079857 // smmla z23.s, z2.b, z7.b\n"
105                 ".inst 0x4507987d // smmla z29.s, z3.b, z7.b\n"
106                 "ld1b z7.b, p0/z, [%[b_ptr], #3, MUL VL]\n"
107                 ".inst 0x4504980c // smmla z12.s, z0.b, z4.b\n"
108                 ".inst 0x45049832 // smmla z18.s, z1.b, z4.b\n"
109                 ".inst 0x45049858 // smmla z24.s, z2.b, z4.b\n"
110                 ".inst 0x4504987e // smmla z30.s, z3.b, z4.b\n"
111                 "ld1b z4.b, p0/z, [%[b_ptr], #4, MUL VL]\n"
112                 ".inst 0x4505980d // smmla z13.s, z0.b, z5.b\n"
113                 "ld1rqb z0.b, p0/z, [%[a_ptr]]\n"
114                 ".inst 0x45059833 // smmla z19.s, z1.b, z5.b\n"
115                 "ld1rqb z1.b, p0/z, [%[a_ptr], #0x10]\n"
116                 ".inst 0x45059859 // smmla z25.s, z2.b, z5.b\n"
117                 "ld1rqb z2.b, p0/z, [%[a_ptr], #0x20]\n"
118                 ".inst 0x4505987f // smmla z31.s, z3.b, z5.b\n"
119                 "ld1b z5.b, p0/z, [%[b_ptr], #5, MUL VL]\n"
120                 ".inst 0x45069808 // smmla z8.s, z0.b, z6.b\n"
121                 "ld1rqb z3.b, p0/z, [%[a_ptr], #0x30]\n"
122                 ".inst 0x4506982e // smmla z14.s, z1.b, z6.b\n"
123                 "add %[a_ptr], %[a_ptr], #0x80\n"
124                 ".inst 0x45069854 // smmla z20.s, z2.b, z6.b\n"
125                 "addvl %[b_ptr], %[b_ptr], #12\n"
126                 ".inst 0x4506987a // smmla z26.s, z3.b, z6.b\n"
127                 ".inst 0x45079809 // smmla z9.s, z0.b, z7.b\n"
128                 ".inst 0x4507982f // smmla z15.s, z1.b, z7.b\n"
129                 "ld1b z6.b, p0/z, [%[b_ptr], #-6, MUL VL]\n"
130                 ".inst 0x45079855 // smmla z21.s, z2.b, z7.b\n"
131                 ".inst 0x4507987b // smmla z27.s, z3.b, z7.b\n"
132                 "ld1b z7.b, p0/z, [%[b_ptr], #-5, MUL VL]\n"
133                 ".inst 0x4504980a // smmla z10.s, z0.b, z4.b\n"
134                 ".inst 0x45049830 // smmla z16.s, z1.b, z4.b\n"
135                 ".inst 0x45049856 // smmla z22.s, z2.b, z4.b\n"
136                 ".inst 0x4504987c // smmla z28.s, z3.b, z4.b\n"
137                 "ld1b z4.b, p0/z, [%[b_ptr], #-4, MUL VL]\n"
138                 ".inst 0x4505980b // smmla z11.s, z0.b, z5.b\n"
139                 ".inst 0x45059831 // smmla z17.s, z1.b, z5.b\n"
140                 ".inst 0x45059857 // smmla z23.s, z2.b, z5.b\n"
141                 ".inst 0x4505987d // smmla z29.s, z3.b, z5.b\n"
142                 "ld1b z5.b, p0/z, [%[b_ptr], #-3, MUL VL]\n"
143                 ".inst 0x4506980c // smmla z12.s, z0.b, z6.b\n"
144                 ".inst 0x45069832 // smmla z18.s, z1.b, z6.b\n"
145                 ".inst 0x45069858 // smmla z24.s, z2.b, z6.b\n"
146                 ".inst 0x4506987e // smmla z30.s, z3.b, z6.b\n"
147                 "ld1b z6.b, p0/z, [%[b_ptr], #-2, MUL VL]\n"
148                 ".inst 0x4507980d // smmla z13.s, z0.b, z7.b\n"
149                 "ld1rqb z0.b, p0/z, [%[a_ptr], #-0x40]\n"
150                 ".inst 0x45079833 // smmla z19.s, z1.b, z7.b\n"
151                 "ld1rqb z1.b, p0/z, [%[a_ptr], #-0x30]\n"
152                 ".inst 0x45079859 // smmla z25.s, z2.b, z7.b\n"
153                 "ld1rqb z2.b, p0/z, [%[a_ptr], #-0x20]\n"
154                 ".inst 0x4507987f // smmla z31.s, z3.b, z7.b\n"
155                 "b.ne 2b\n"
156                 "1:\n"
157                 "cbz %[tails], 3f\n"
158                 ".inst 0x45049808 // smmla z8.s, z0.b, z4.b\n"
159                 "ld1b z7.b, p0/z, [%[b_ptr], #-1, MUL VL]\n"
160                 ".inst 0x4504982e // smmla z14.s, z1.b, z4.b\n"
161                 "ld1rqb z3.b, p0/z, [%[a_ptr], #-0x10]\n"
162                 ".inst 0x45049854 // smmla z20.s, z2.b, z4.b\n"
163                 ".inst 0x45059809 // smmla z9.s, z0.b, z5.b\n"
164                 ".inst 0x4505982f // smmla z15.s, z1.b, z5.b\n"
165                 ".inst 0x4504987a // smmla z26.s, z3.b, z4.b\n"
166                 "ld1b z4.b, p0/z, [%[b_ptr]]\n"
167                 ".inst 0x45059855 // smmla z21.s, z2.b, z5.b\n"
168                 ".inst 0x4505987b // smmla z27.s, z3.b, z5.b\n"
169                 "ld1b z5.b, p0/z, [%[b_ptr], #1, MUL VL]\n"
170                 ".inst 0x4506980a // smmla z10.s, z0.b, z6.b\n"
171                 ".inst 0x45069830 // smmla z16.s, z1.b, z6.b\n"
172                 ".inst 0x45069856 // smmla z22.s, z2.b, z6.b\n"
173                 ".inst 0x4506987c // smmla z28.s, z3.b, z6.b\n"
174                 "ld1b z6.b, p0/z, [%[b_ptr], #2, MUL VL]\n"
175                 ".inst 0x4507980b // smmla z11.s, z0.b, z7.b\n"
176                 ".inst 0x45079831 // smmla z17.s, z1.b, z7.b\n"
177                 ".inst 0x45079857 // smmla z23.s, z2.b, z7.b\n"
178                 ".inst 0x4507987d // smmla z29.s, z3.b, z7.b\n"
179                 "ld1b z7.b, p0/z, [%[b_ptr], #3, MUL VL]\n"
180                 ".inst 0x4504980c // smmla z12.s, z0.b, z4.b\n"
181                 ".inst 0x45049832 // smmla z18.s, z1.b, z4.b\n"
182                 ".inst 0x45049858 // smmla z24.s, z2.b, z4.b\n"
183                 ".inst 0x4504987e // smmla z30.s, z3.b, z4.b\n"
184                 "ld1b z4.b, p0/z, [%[b_ptr], #4, MUL VL]\n"
185                 ".inst 0x4505980d // smmla z13.s, z0.b, z5.b\n"
186                 "ld1rqb z0.b, p0/z, [%[a_ptr]]\n"
187                 ".inst 0x45059833 // smmla z19.s, z1.b, z5.b\n"
188                 "ld1rqb z1.b, p0/z, [%[a_ptr], #0x10]\n"
189                 ".inst 0x45059859 // smmla z25.s, z2.b, z5.b\n"
190                 "ld1rqb z2.b, p0/z, [%[a_ptr], #0x20]\n"
191                 ".inst 0x4505987f // smmla z31.s, z3.b, z5.b\n"
192                 "ld1b z5.b, p0/z, [%[b_ptr], #5, MUL VL]\n"
193                 ".inst 0x45069808 // smmla z8.s, z0.b, z6.b\n"
194                 "ld1rqb z3.b, p0/z, [%[a_ptr], #0x30]\n"
195                 ".inst 0x4506982e // smmla z14.s, z1.b, z6.b\n"
196                 "add %[a_ptr], %[a_ptr], #0x80\n"
197                 ".inst 0x45069854 // smmla z20.s, z2.b, z6.b\n"
198                 "addvl %[b_ptr], %[b_ptr], #14\n"
199                 ".inst 0x4506987a // smmla z26.s, z3.b, z6.b\n"
200                 ".inst 0x45079809 // smmla z9.s, z0.b, z7.b\n"
201                 ".inst 0x4507982f // smmla z15.s, z1.b, z7.b\n"
202                 "ld1b z6.b, p0/z, [%[b_ptr], #-8, MUL VL]\n"
203                 ".inst 0x45079855 // smmla z21.s, z2.b, z7.b\n"
204                 ".inst 0x4507987b // smmla z27.s, z3.b, z7.b\n"
205                 "ld1b z7.b, p0/z, [%[b_ptr], #-7, MUL VL]\n"
206                 ".inst 0x4504980a // smmla z10.s, z0.b, z4.b\n"
207                 ".inst 0x45049830 // smmla z16.s, z1.b, z4.b\n"
208                 ".inst 0x45049856 // smmla z22.s, z2.b, z4.b\n"
209                 ".inst 0x4504987c // smmla z28.s, z3.b, z4.b\n"
210                 "ld1b z4.b, p0/z, [%[b_ptr], #-6, MUL VL]\n"
211                 ".inst 0x4505980b // smmla z11.s, z0.b, z5.b\n"
212                 ".inst 0x45059831 // smmla z17.s, z1.b, z5.b\n"
213                 ".inst 0x45059857 // smmla z23.s, z2.b, z5.b\n"
214                 ".inst 0x4505987d // smmla z29.s, z3.b, z5.b\n"
215                 "ld1b z5.b, p0/z, [%[b_ptr], #-5, MUL VL]\n"
216                 ".inst 0x4506980c // smmla z12.s, z0.b, z6.b\n"
217                 ".inst 0x45069832 // smmla z18.s, z1.b, z6.b\n"
218                 ".inst 0x45069858 // smmla z24.s, z2.b, z6.b\n"
219                 ".inst 0x4506987e // smmla z30.s, z3.b, z6.b\n"
220                 "ld1b z6.b, p0/z, [%[b_ptr], #-4, MUL VL]\n"
221                 ".inst 0x4507980d // smmla z13.s, z0.b, z7.b\n"
222                 "ld1rqb z0.b, p0/z, [%[a_ptr], #-0x40]\n"
223                 ".inst 0x45079833 // smmla z19.s, z1.b, z7.b\n"
224                 "ld1rqb z1.b, p0/z, [%[a_ptr], #-0x30]\n"
225                 ".inst 0x45079859 // smmla z25.s, z2.b, z7.b\n"
226                 "ld1rqb z2.b, p0/z, [%[a_ptr], #-0x20]\n"
227                 ".inst 0x4507987f // smmla z31.s, z3.b, z7.b\n"
228                 "ld1b z7.b, p0/z, [%[b_ptr], #-3, MUL VL]\n"
229                 ".inst 0x45049808 // smmla z8.s, z0.b, z4.b\n"
230                 "ld1rqb z3.b, p0/z, [%[a_ptr], #-0x10]\n"
231                 ".inst 0x4504982e // smmla z14.s, z1.b, z4.b\n"
232                 ".inst 0x45049854 // smmla z20.s, z2.b, z4.b\n"
233                 ".inst 0x45059809 // smmla z9.s, z0.b, z5.b\n"
234                 ".inst 0x4504987a // smmla z26.s, z3.b, z4.b\n"
235                 "ld1b z4.b, p0/z, [%[b_ptr], #-2, MUL VL]\n"
236                 ".inst 0x4505982f // smmla z15.s, z1.b, z5.b\n"
237                 ".inst 0x45059855 // smmla z21.s, z2.b, z5.b\n"
238                 ".inst 0x4505987b // smmla z27.s, z3.b, z5.b\n"
239                 "ld1b z5.b, p0/z, [%[b_ptr], #-1, MUL VL]\n"
240                 ".inst 0x4506980a // smmla z10.s, z0.b, z6.b\n"
241                 ".inst 0x45069830 // smmla z16.s, z1.b, z6.b\n"
242                 ".inst 0x45069856 // smmla z22.s, z2.b, z6.b\n"
243                 ".inst 0x4506987c // smmla z28.s, z3.b, z6.b\n"
244                 "uzp1 z6.d, z14.d, z15.d\n"
245                 ".inst 0x4507980b // smmla z11.s, z0.b, z7.b\n"
246                 ".inst 0x45079831 // smmla z17.s, z1.b, z7.b\n"
247                 ".inst 0x45079857 // smmla z23.s, z2.b, z7.b\n"
248                 ".inst 0x4507987d // smmla z29.s, z3.b, z7.b\n"
249                 ".inst 0x4504980c // smmla z12.s, z0.b, z4.b\n"
250                 "uzp1 z7.d, z16.d, z17.d\n"
251                 ".inst 0x45049832 // smmla z18.s, z1.b, z4.b\n"
252                 ".inst 0x45049858 // smmla z24.s, z2.b, z4.b\n"
253                 ".inst 0x4504987e // smmla z30.s, z3.b, z4.b\n"
254                 "uzp2 z4.d, z10.d, z11.d\n"
255                 ".inst 0x4505980d // smmla z13.s, z0.b, z5.b\n"
256                 "uzp1 z0.d, z8.d, z9.d\n"
257                 ".inst 0x45059833 // smmla z19.s, z1.b, z5.b\n"
258                 "uzp1 z1.d, z10.d, z11.d\n"
259                 ".inst 0x45059859 // smmla z25.s, z2.b, z5.b\n"
260                 "st1w z0.s, p0, [%[c_ptr]]\n"
261                 "uzp1 z2.d, z12.d, z13.d\n"
262                 "uzp1 z0.d, z18.d, z19.d\n"
263                 ".inst 0x4505987f // smmla z31.s, z3.b, z5.b\n"
264                 "st1w z1.s, p0, [%[c_ptr], #1, MUL VL]\n"
265                 "uzp2 z3.d, z8.d, z9.d\n"
266                 "uzp2 z5.d, z12.d, z13.d\n"
267                 "uzp2 z1.d, z14.d, z15.d\n"
268                 "st1w z2.s, p0, [%[c_ptr], #2, MUL VL]\n"
269                 "b 4f\n"
270                 "3:\n"
271                 ".inst 0x45049808 // smmla z8.s, z0.b, z4.b\n"
272                 "ld1b z7.b, p0/z, [%[b_ptr], #-1, MUL VL]\n"
273                 ".inst 0x4504982e // smmla z14.s, z1.b, z4.b\n"
274                 "ld1rqb z3.b, p0/z, [%[a_ptr], #-0x10]\n"
275                 ".inst 0x45049854 // smmla z20.s, z2.b, z4.b\n"
276                 "add %[a_ptr], %[a_ptr], #0x40\n"
277                 ".inst 0x45059809 // smmla z9.s, z0.b, z5.b\n"
278                 "addvl %[b_ptr], %[b_ptr], #8\n"
279                 ".inst 0x4504987a // smmla z26.s, z3.b, z4.b\n"
280                 ".inst 0x4505982f // smmla z15.s, z1.b, z5.b\n"
281                 ".inst 0x45059855 // smmla z21.s, z2.b, z5.b\n"
282                 "ld1b z4.b, p0/z, [%[b_ptr], #-8, MUL VL]\n"
283                 ".inst 0x4505987b // smmla z27.s, z3.b, z5.b\n"
284                 "ld1b z5.b, p0/z, [%[b_ptr], #-7, MUL VL]\n"
285                 ".inst 0x4506980a // smmla z10.s, z0.b, z6.b\n"
286                 ".inst 0x45069830 // smmla z16.s, z1.b, z6.b\n"
287                 ".inst 0x45069856 // smmla z22.s, z2.b, z6.b\n"
288                 ".inst 0x4506987c // smmla z28.s, z3.b, z6.b\n"
289                 "ld1b z6.b, p0/z, [%[b_ptr], #-6, MUL VL]\n"
290                 ".inst 0x4507980b // smmla z11.s, z0.b, z7.b\n"
291                 ".inst 0x45079831 // smmla z17.s, z1.b, z7.b\n"
292                 ".inst 0x45079857 // smmla z23.s, z2.b, z7.b\n"
293                 ".inst 0x4507987d // smmla z29.s, z3.b, z7.b\n"
294                 "ld1b z7.b, p0/z, [%[b_ptr], #-5, MUL VL]\n"
295                 ".inst 0x4504980c // smmla z12.s, z0.b, z4.b\n"
296                 ".inst 0x45049832 // smmla z18.s, z1.b, z4.b\n"
297                 ".inst 0x45049858 // smmla z24.s, z2.b, z4.b\n"
298                 ".inst 0x4504987e // smmla z30.s, z3.b, z4.b\n"
299                 "ld1b z4.b, p0/z, [%[b_ptr], #-4, MUL VL]\n"
300                 ".inst 0x4505980d // smmla z13.s, z0.b, z5.b\n"
301                 "ld1rqb z0.b, p0/z, [%[a_ptr], #-0x40]\n"
302                 ".inst 0x45059833 // smmla z19.s, z1.b, z5.b\n"
303                 "ld1rqb z1.b, p0/z, [%[a_ptr], #-0x30]\n"
304                 ".inst 0x45059859 // smmla z25.s, z2.b, z5.b\n"
305                 "ld1rqb z2.b, p0/z, [%[a_ptr], #-0x20]\n"
306                 ".inst 0x4505987f // smmla z31.s, z3.b, z5.b\n"
307                 "ld1b z5.b, p0/z, [%[b_ptr], #-3, MUL VL]\n"
308                 ".inst 0x45069808 // smmla z8.s, z0.b, z6.b\n"
309                 "ld1rqb z3.b, p0/z, [%[a_ptr], #-0x10]\n"
310                 ".inst 0x4506982e // smmla z14.s, z1.b, z6.b\n"
311                 ".inst 0x45069854 // smmla z20.s, z2.b, z6.b\n"
312                 ".inst 0x45079809 // smmla z9.s, z0.b, z7.b\n"
313                 ".inst 0x4506987a // smmla z26.s, z3.b, z6.b\n"
314                 "ld1b z6.b, p0/z, [%[b_ptr], #-2, MUL VL]\n"
315                 ".inst 0x4507982f // smmla z15.s, z1.b, z7.b\n"
316                 ".inst 0x45079855 // smmla z21.s, z2.b, z7.b\n"
317                 ".inst 0x4507987b // smmla z27.s, z3.b, z7.b\n"
318                 "ld1b z7.b, p0/z, [%[b_ptr], #-1, MUL VL]\n"
319                 ".inst 0x4504980a // smmla z10.s, z0.b, z4.b\n"
320                 ".inst 0x45049830 // smmla z16.s, z1.b, z4.b\n"
321                 ".inst 0x45049856 // smmla z22.s, z2.b, z4.b\n"
322                 ".inst 0x4504987c // smmla z28.s, z3.b, z4.b\n"
323                 ".inst 0x4505980b // smmla z11.s, z0.b, z5.b\n"
324                 ".inst 0x45059831 // smmla z17.s, z1.b, z5.b\n"
325                 ".inst 0x45059857 // smmla z23.s, z2.b, z5.b\n"
326                 ".inst 0x4505987d // smmla z29.s, z3.b, z5.b\n"
327                 "uzp2 z4.d, z10.d, z11.d\n"
328                 ".inst 0x4506980c // smmla z12.s, z0.b, z6.b\n"
329                 ".inst 0x45069832 // smmla z18.s, z1.b, z6.b\n"
330                 ".inst 0x45069858 // smmla z24.s, z2.b, z6.b\n"
331                 ".inst 0x4506987e // smmla z30.s, z3.b, z6.b\n"
332                 "uzp1 z6.d, z14.d, z15.d\n"
333                 ".inst 0x4507980d // smmla z13.s, z0.b, z7.b\n"
334                 "uzp1 z0.d, z8.d, z9.d\n"
335                 ".inst 0x45079833 // smmla z19.s, z1.b, z7.b\n"
336                 "uzp1 z1.d, z10.d, z11.d\n"
337                 "uzp2 z5.d, z12.d, z13.d\n"
338                 "st1w z0.s, p0, [%[c_ptr]]\n"
339                 ".inst 0x45079859 // smmla z25.s, z2.b, z7.b\n"
340                 "uzp1 z2.d, z12.d, z13.d\n"
341                 "uzp1 z0.d, z18.d, z19.d\n"
342                 "st1w z1.s, p0, [%[c_ptr], #1, MUL VL]\n"
343                 "uzp2 z1.d, z14.d, z15.d\n"
344                 ".inst 0x4507987f // smmla z31.s, z3.b, z7.b\n"
345                 "uzp2 z3.d, z8.d, z9.d\n"
346                 "st1w z2.s, p0, [%[c_ptr], #2, MUL VL]\n"
347                 "uzp1 z7.d, z16.d, z17.d\n"
348                 "4:\n"
349                 "uzp2 z2.d, z16.d, z17.d\n"
350                 "st1w z3.s, p0, [%[c_ptr], #3, MUL VL]\n"
351                 "uzp2 z3.d, z18.d, z19.d\n"
352                 "st1w z4.s, p0, [%[c_ptr], #4, MUL VL]\n"
353                 "uzp1 z4.d, z20.d, z21.d\n"
354                 "st1w z5.s, p0, [%[c_ptr], #5, MUL VL]\n"
355                 "uzp1 z5.d, z22.d, z23.d\n"
356                 "st1w z6.s, p0, [%[c_ptr], #6, MUL VL]\n"
357                 "uzp1 z6.d, z24.d, z25.d\n"
358                 "st1w z7.s, p0, [%[c_ptr], #7, MUL VL]\n"
359                 "addvl %[c_ptr], %[c_ptr], #16\n"
360                 "uzp2 z7.d, z20.d, z21.d\n"
361                 "st1w z0.s, p0, [%[c_ptr], #-8, MUL VL]\n"
362                 "uzp2 z0.d, z22.d, z23.d\n"
363                 "st1w z1.s, p0, [%[c_ptr], #-7, MUL VL]\n"
364                 "uzp2 z1.d, z24.d, z25.d\n"
365                 "st1w z2.s, p0, [%[c_ptr], #-6, MUL VL]\n"
366                 "uzp1 z2.d, z26.d, z27.d\n"
367                 "st1w z3.s, p0, [%[c_ptr], #-5, MUL VL]\n"
368                 "uzp1 z3.d, z28.d, z29.d\n"
369                 "st1w z4.s, p0, [%[c_ptr], #-4, MUL VL]\n"
370                 "uzp1 z4.d, z30.d, z31.d\n"
371                 "st1w z5.s, p0, [%[c_ptr], #-3, MUL VL]\n"
372                 "uzp2 z5.d, z26.d, z27.d\n"
373                 "st1w z6.s, p0, [%[c_ptr], #-2, MUL VL]\n"
374                 "uzp2 z6.d, z28.d, z29.d\n"
375                 "st1w z7.s, p0, [%[c_ptr], #-1, MUL VL]\n"
376                 "uzp2 z7.d, z30.d, z31.d\n"
377                 "st1w z0.s, p0, [%[c_ptr]]\n"
378                 "st1w z1.s, p0, [%[c_ptr], #1, MUL VL]\n"
379                 "st1w z2.s, p0, [%[c_ptr], #2, MUL VL]\n"
380                 "st1w z3.s, p0, [%[c_ptr], #3, MUL VL]\n"
381                 "st1w z4.s, p0, [%[c_ptr], #4, MUL VL]\n"
382                 "st1w z5.s, p0, [%[c_ptr], #5, MUL VL]\n"
383                 "st1w z6.s, p0, [%[c_ptr], #6, MUL VL]\n"
384                 "st1w z7.s, p0, [%[c_ptr], #7, MUL VL]\n"
385                 "addvl %[c_ptr], %[c_ptr], #8\n"
386             : [a_ptr] "+r" (a_ptr), [b_ptr] "+r" (b_ptr), [c_ptr] "+r" (c_ptr),
387               [loops] "+r" (loops), [tails] "+r" (tails)
388             :
389             : "z0", "z1", "z2", "z3", "z4", "z5", "z6", "z7", "z8", "z9", "z10", "z11", "z12", "z13", "z14", "z15", "z16", "z17", "z18", "z19", "z20", "z21", "z22", "z23", "z24", "z25", "z26", "z27", "z28", "z29", "z30", "z31", "cc", "memory"
390             );
391         }
392     }
393 }
394 
395 } // namespace arm_gemm
396 
397 #endif // __ARM_FEATURE_SVE
398