target/arm/helper-sve.h

   1 /*
   2  *  AArch64 SVE specific helper definitions
   3  *
   4  *  Copyright (c) 2018 Linaro, Ltd
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with this library; if not, see <http://www.gnu.org/licenses/>.
  18  */
  19
  20 DEF_HELPER_FLAGS_2(sve_predtest1, TCG_CALL_NO_WG, i32, i64, i64)
  21 DEF_HELPER_FLAGS_3(sve_predtest, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
  22
  23 DEF_HELPER_FLAGS_3(sve_pfirst, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
  24 DEF_HELPER_FLAGS_3(sve_pnext, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
  25
  26 DEF_HELPER_FLAGS_5(sve_and_zpzz_b, TCG_CALL_NO_RWG,
  27                    void, ptr, ptr, ptr, ptr, i32)
  28 DEF_HELPER_FLAGS_5(sve_and_zpzz_h, TCG_CALL_NO_RWG,
  29                    void, ptr, ptr, ptr, ptr, i32)
  30 DEF_HELPER_FLAGS_5(sve_and_zpzz_s, TCG_CALL_NO_RWG,
  31                    void, ptr, ptr, ptr, ptr, i32)
  32 DEF_HELPER_FLAGS_5(sve_and_zpzz_d, TCG_CALL_NO_RWG,
  33                    void, ptr, ptr, ptr, ptr, i32)
  34
  35 DEF_HELPER_FLAGS_5(sve_eor_zpzz_b, TCG_CALL_NO_RWG,
  36                    void, ptr, ptr, ptr, ptr, i32)
  37 DEF_HELPER_FLAGS_5(sve_eor_zpzz_h, TCG_CALL_NO_RWG,
  38                    void, ptr, ptr, ptr, ptr, i32)
  39 DEF_HELPER_FLAGS_5(sve_eor_zpzz_s, TCG_CALL_NO_RWG,
  40                    void, ptr, ptr, ptr, ptr, i32)
  41 DEF_HELPER_FLAGS_5(sve_eor_zpzz_d, TCG_CALL_NO_RWG,
  42                    void, ptr, ptr, ptr, ptr, i32)
  43
  44 DEF_HELPER_FLAGS_5(sve_orr_zpzz_b, TCG_CALL_NO_RWG,
  45                    void, ptr, ptr, ptr, ptr, i32)
  46 DEF_HELPER_FLAGS_5(sve_orr_zpzz_h, TCG_CALL_NO_RWG,
  47                    void, ptr, ptr, ptr, ptr, i32)
  48 DEF_HELPER_FLAGS_5(sve_orr_zpzz_s, TCG_CALL_NO_RWG,
  49                    void, ptr, ptr, ptr, ptr, i32)
  50 DEF_HELPER_FLAGS_5(sve_orr_zpzz_d, TCG_CALL_NO_RWG,
  51                    void, ptr, ptr, ptr, ptr, i32)
  52
  53 DEF_HELPER_FLAGS_5(sve_bic_zpzz_b, TCG_CALL_NO_RWG,
  54                    void, ptr, ptr, ptr, ptr, i32)
  55 DEF_HELPER_FLAGS_5(sve_bic_zpzz_h, TCG_CALL_NO_RWG,
  56                    void, ptr, ptr, ptr, ptr, i32)
  57 DEF_HELPER_FLAGS_5(sve_bic_zpzz_s, TCG_CALL_NO_RWG,
  58                    void, ptr, ptr, ptr, ptr, i32)
  59 DEF_HELPER_FLAGS_5(sve_bic_zpzz_d, TCG_CALL_NO_RWG,
  60                    void, ptr, ptr, ptr, ptr, i32)
  61
  62 DEF_HELPER_FLAGS_5(sve_add_zpzz_b, TCG_CALL_NO_RWG,
  63                    void, ptr, ptr, ptr, ptr, i32)
  64 DEF_HELPER_FLAGS_5(sve_add_zpzz_h, TCG_CALL_NO_RWG,
  65                    void, ptr, ptr, ptr, ptr, i32)
  66 DEF_HELPER_FLAGS_5(sve_add_zpzz_s, TCG_CALL_NO_RWG,
  67                    void, ptr, ptr, ptr, ptr, i32)
  68 DEF_HELPER_FLAGS_5(sve_add_zpzz_d, TCG_CALL_NO_RWG,
  69                    void, ptr, ptr, ptr, ptr, i32)
  70
  71 DEF_HELPER_FLAGS_5(sve_sub_zpzz_b, TCG_CALL_NO_RWG,
  72                    void, ptr, ptr, ptr, ptr, i32)
  73 DEF_HELPER_FLAGS_5(sve_sub_zpzz_h, TCG_CALL_NO_RWG,
  74                    void, ptr, ptr, ptr, ptr, i32)
  75 DEF_HELPER_FLAGS_5(sve_sub_zpzz_s, TCG_CALL_NO_RWG,
  76                    void, ptr, ptr, ptr, ptr, i32)
  77 DEF_HELPER_FLAGS_5(sve_sub_zpzz_d, TCG_CALL_NO_RWG,
  78                    void, ptr, ptr, ptr, ptr, i32)
  79
  80 DEF_HELPER_FLAGS_5(sve_smax_zpzz_b, TCG_CALL_NO_RWG,
  81                    void, ptr, ptr, ptr, ptr, i32)
  82 DEF_HELPER_FLAGS_5(sve_smax_zpzz_h, TCG_CALL_NO_RWG,
  83                    void, ptr, ptr, ptr, ptr, i32)
  84 DEF_HELPER_FLAGS_5(sve_smax_zpzz_s, TCG_CALL_NO_RWG,
  85                    void, ptr, ptr, ptr, ptr, i32)
  86 DEF_HELPER_FLAGS_5(sve_smax_zpzz_d, TCG_CALL_NO_RWG,
  87                    void, ptr, ptr, ptr, ptr, i32)
  88
  89 DEF_HELPER_FLAGS_5(sve_umax_zpzz_b, TCG_CALL_NO_RWG,
  90                    void, ptr, ptr, ptr, ptr, i32)
  91 DEF_HELPER_FLAGS_5(sve_umax_zpzz_h, TCG_CALL_NO_RWG,
  92                    void, ptr, ptr, ptr, ptr, i32)
  93 DEF_HELPER_FLAGS_5(sve_umax_zpzz_s, TCG_CALL_NO_RWG,
  94                    void, ptr, ptr, ptr, ptr, i32)
  95 DEF_HELPER_FLAGS_5(sve_umax_zpzz_d, TCG_CALL_NO_RWG,
  96                    void, ptr, ptr, ptr, ptr, i32)
  97
  98 DEF_HELPER_FLAGS_5(sve_smin_zpzz_b, TCG_CALL_NO_RWG,
  99                    void, ptr, ptr, ptr, ptr, i32)
 100 DEF_HELPER_FLAGS_5(sve_smin_zpzz_h, TCG_CALL_NO_RWG,
 101                    void, ptr, ptr, ptr, ptr, i32)
 102 DEF_HELPER_FLAGS_5(sve_smin_zpzz_s, TCG_CALL_NO_RWG,
 103                    void, ptr, ptr, ptr, ptr, i32)
 104 DEF_HELPER_FLAGS_5(sve_smin_zpzz_d, TCG_CALL_NO_RWG,
 105                    void, ptr, ptr, ptr, ptr, i32)
 106
 107 DEF_HELPER_FLAGS_5(sve_umin_zpzz_b, TCG_CALL_NO_RWG,
 108                    void, ptr, ptr, ptr, ptr, i32)
 109 DEF_HELPER_FLAGS_5(sve_umin_zpzz_h, TCG_CALL_NO_RWG,
 110                    void, ptr, ptr, ptr, ptr, i32)
 111 DEF_HELPER_FLAGS_5(sve_umin_zpzz_s, TCG_CALL_NO_RWG,
 112                    void, ptr, ptr, ptr, ptr, i32)
 113 DEF_HELPER_FLAGS_5(sve_umin_zpzz_d, TCG_CALL_NO_RWG,
 114                    void, ptr, ptr, ptr, ptr, i32)
 115
 116 DEF_HELPER_FLAGS_5(sve_sabd_zpzz_b, TCG_CALL_NO_RWG,
 117                    void, ptr, ptr, ptr, ptr, i32)
 118 DEF_HELPER_FLAGS_5(sve_sabd_zpzz_h, TCG_CALL_NO_RWG,
 119                    void, ptr, ptr, ptr, ptr, i32)
 120 DEF_HELPER_FLAGS_5(sve_sabd_zpzz_s, TCG_CALL_NO_RWG,
 121                    void, ptr, ptr, ptr, ptr, i32)
 122 DEF_HELPER_FLAGS_5(sve_sabd_zpzz_d, TCG_CALL_NO_RWG,
 123                    void, ptr, ptr, ptr, ptr, i32)
 124
 125 DEF_HELPER_FLAGS_5(sve_uabd_zpzz_b, TCG_CALL_NO_RWG,
 126                    void, ptr, ptr, ptr, ptr, i32)
 127 DEF_HELPER_FLAGS_5(sve_uabd_zpzz_h, TCG_CALL_NO_RWG,
 128                    void, ptr, ptr, ptr, ptr, i32)
 129 DEF_HELPER_FLAGS_5(sve_uabd_zpzz_s, TCG_CALL_NO_RWG,
 130                    void, ptr, ptr, ptr, ptr, i32)
 131 DEF_HELPER_FLAGS_5(sve_uabd_zpzz_d, TCG_CALL_NO_RWG,
 132                    void, ptr, ptr, ptr, ptr, i32)
 133
 134 DEF_HELPER_FLAGS_5(sve_mul_zpzz_b, TCG_CALL_NO_RWG,
 135                    void, ptr, ptr, ptr, ptr, i32)
 136 DEF_HELPER_FLAGS_5(sve_mul_zpzz_h, TCG_CALL_NO_RWG,
 137                    void, ptr, ptr, ptr, ptr, i32)
 138 DEF_HELPER_FLAGS_5(sve_mul_zpzz_s, TCG_CALL_NO_RWG,
 139                    void, ptr, ptr, ptr, ptr, i32)
 140 DEF_HELPER_FLAGS_5(sve_mul_zpzz_d, TCG_CALL_NO_RWG,
 141                    void, ptr, ptr, ptr, ptr, i32)
 142
 143 DEF_HELPER_FLAGS_5(sve_smulh_zpzz_b, TCG_CALL_NO_RWG,
 144                    void, ptr, ptr, ptr, ptr, i32)
 145 DEF_HELPER_FLAGS_5(sve_smulh_zpzz_h, TCG_CALL_NO_RWG,
 146                    void, ptr, ptr, ptr, ptr, i32)
 147 DEF_HELPER_FLAGS_5(sve_smulh_zpzz_s, TCG_CALL_NO_RWG,
 148                    void, ptr, ptr, ptr, ptr, i32)
 149 DEF_HELPER_FLAGS_5(sve_smulh_zpzz_d, TCG_CALL_NO_RWG,
 150                    void, ptr, ptr, ptr, ptr, i32)
 151
 152 DEF_HELPER_FLAGS_5(sve_umulh_zpzz_b, TCG_CALL_NO_RWG,
 153                    void, ptr, ptr, ptr, ptr, i32)
 154 DEF_HELPER_FLAGS_5(sve_umulh_zpzz_h, TCG_CALL_NO_RWG,
 155                    void, ptr, ptr, ptr, ptr, i32)
 156 DEF_HELPER_FLAGS_5(sve_umulh_zpzz_s, TCG_CALL_NO_RWG,
 157                    void, ptr, ptr, ptr, ptr, i32)
 158 DEF_HELPER_FLAGS_5(sve_umulh_zpzz_d, TCG_CALL_NO_RWG,
 159                    void, ptr, ptr, ptr, ptr, i32)
 160
 161 DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_s, TCG_CALL_NO_RWG,
 162                    void, ptr, ptr, ptr, ptr, i32)
 163 DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_d, TCG_CALL_NO_RWG,
 164                    void, ptr, ptr, ptr, ptr, i32)
 165
 166 DEF_HELPER_FLAGS_5(sve_udiv_zpzz_s, TCG_CALL_NO_RWG,
 167                    void, ptr, ptr, ptr, ptr, i32)
 168 DEF_HELPER_FLAGS_5(sve_udiv_zpzz_d, TCG_CALL_NO_RWG,
 169                    void, ptr, ptr, ptr, ptr, i32)
 170
 171 DEF_HELPER_FLAGS_5(sve_asr_zpzz_b, TCG_CALL_NO_RWG,
 172                    void, ptr, ptr, ptr, ptr, i32)
 173 DEF_HELPER_FLAGS_5(sve_asr_zpzz_h, TCG_CALL_NO_RWG,
 174                    void, ptr, ptr, ptr, ptr, i32)
 175 DEF_HELPER_FLAGS_5(sve_asr_zpzz_s, TCG_CALL_NO_RWG,
 176                    void, ptr, ptr, ptr, ptr, i32)
 177 DEF_HELPER_FLAGS_5(sve_asr_zpzz_d, TCG_CALL_NO_RWG,
 178                    void, ptr, ptr, ptr, ptr, i32)
 179
 180 DEF_HELPER_FLAGS_5(sve_lsr_zpzz_b, TCG_CALL_NO_RWG,
 181                    void, ptr, ptr, ptr, ptr, i32)
 182 DEF_HELPER_FLAGS_5(sve_lsr_zpzz_h, TCG_CALL_NO_RWG,
 183                    void, ptr, ptr, ptr, ptr, i32)
 184 DEF_HELPER_FLAGS_5(sve_lsr_zpzz_s, TCG_CALL_NO_RWG,
 185                    void, ptr, ptr, ptr, ptr, i32)
 186 DEF_HELPER_FLAGS_5(sve_lsr_zpzz_d, TCG_CALL_NO_RWG,
 187                    void, ptr, ptr, ptr, ptr, i32)
 188
 189 DEF_HELPER_FLAGS_5(sve_lsl_zpzz_b, TCG_CALL_NO_RWG,
 190                    void, ptr, ptr, ptr, ptr, i32)
 191 DEF_HELPER_FLAGS_5(sve_lsl_zpzz_h, TCG_CALL_NO_RWG,
 192                    void, ptr, ptr, ptr, ptr, i32)
 193 DEF_HELPER_FLAGS_5(sve_lsl_zpzz_s, TCG_CALL_NO_RWG,
 194                    void, ptr, ptr, ptr, ptr, i32)
 195 DEF_HELPER_FLAGS_5(sve_lsl_zpzz_d, TCG_CALL_NO_RWG,
 196                    void, ptr, ptr, ptr, ptr, i32)
 197
 198 DEF_HELPER_FLAGS_5(sve_sel_zpzz_b, TCG_CALL_NO_RWG,
 199                    void, ptr, ptr, ptr, ptr, i32)
 200 DEF_HELPER_FLAGS_5(sve_sel_zpzz_h, TCG_CALL_NO_RWG,
 201                    void, ptr, ptr, ptr, ptr, i32)
 202 DEF_HELPER_FLAGS_5(sve_sel_zpzz_s, TCG_CALL_NO_RWG,
 203                    void, ptr, ptr, ptr, ptr, i32)
 204 DEF_HELPER_FLAGS_5(sve_sel_zpzz_d, TCG_CALL_NO_RWG,
 205                    void, ptr, ptr, ptr, ptr, i32)
 206
 207 DEF_HELPER_FLAGS_5(sve_asr_zpzw_b, TCG_CALL_NO_RWG,
 208                    void, ptr, ptr, ptr, ptr, i32)
 209 DEF_HELPER_FLAGS_5(sve_asr_zpzw_h, TCG_CALL_NO_RWG,
 210                    void, ptr, ptr, ptr, ptr, i32)
 211 DEF_HELPER_FLAGS_5(sve_asr_zpzw_s, TCG_CALL_NO_RWG,
 212                    void, ptr, ptr, ptr, ptr, i32)
 213
 214 DEF_HELPER_FLAGS_5(sve_lsr_zpzw_b, TCG_CALL_NO_RWG,
 215                    void, ptr, ptr, ptr, ptr, i32)
 216 DEF_HELPER_FLAGS_5(sve_lsr_zpzw_h, TCG_CALL_NO_RWG,
 217                    void, ptr, ptr, ptr, ptr, i32)
 218 DEF_HELPER_FLAGS_5(sve_lsr_zpzw_s, TCG_CALL_NO_RWG,
 219                    void, ptr, ptr, ptr, ptr, i32)
 220
 221 DEF_HELPER_FLAGS_5(sve_lsl_zpzw_b, TCG_CALL_NO_RWG,
 222                    void, ptr, ptr, ptr, ptr, i32)
 223 DEF_HELPER_FLAGS_5(sve_lsl_zpzw_h, TCG_CALL_NO_RWG,
 224                    void, ptr, ptr, ptr, ptr, i32)
 225 DEF_HELPER_FLAGS_5(sve_lsl_zpzw_s, TCG_CALL_NO_RWG,
 226                    void, ptr, ptr, ptr, ptr, i32)
 227
 228 DEF_HELPER_FLAGS_3(sve_orv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 229 DEF_HELPER_FLAGS_3(sve_orv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 230 DEF_HELPER_FLAGS_3(sve_orv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 231 DEF_HELPER_FLAGS_3(sve_orv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 232
 233 DEF_HELPER_FLAGS_3(sve_eorv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 234 DEF_HELPER_FLAGS_3(sve_eorv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 235 DEF_HELPER_FLAGS_3(sve_eorv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 236 DEF_HELPER_FLAGS_3(sve_eorv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 237
 238 DEF_HELPER_FLAGS_3(sve_andv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 239 DEF_HELPER_FLAGS_3(sve_andv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 240 DEF_HELPER_FLAGS_3(sve_andv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 241 DEF_HELPER_FLAGS_3(sve_andv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 242
 243 DEF_HELPER_FLAGS_3(sve_saddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 244 DEF_HELPER_FLAGS_3(sve_saddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 245 DEF_HELPER_FLAGS_3(sve_saddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 246
 247 DEF_HELPER_FLAGS_3(sve_uaddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 248 DEF_HELPER_FLAGS_3(sve_uaddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 249 DEF_HELPER_FLAGS_3(sve_uaddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 250 DEF_HELPER_FLAGS_3(sve_uaddv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 251
 252 DEF_HELPER_FLAGS_3(sve_smaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 253 DEF_HELPER_FLAGS_3(sve_smaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 254 DEF_HELPER_FLAGS_3(sve_smaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 255 DEF_HELPER_FLAGS_3(sve_smaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 256
 257 DEF_HELPER_FLAGS_3(sve_umaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 258 DEF_HELPER_FLAGS_3(sve_umaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 259 DEF_HELPER_FLAGS_3(sve_umaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 260 DEF_HELPER_FLAGS_3(sve_umaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 261
 262 DEF_HELPER_FLAGS_3(sve_sminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 263 DEF_HELPER_FLAGS_3(sve_sminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 264 DEF_HELPER_FLAGS_3(sve_sminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 265 DEF_HELPER_FLAGS_3(sve_sminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 266
 267 DEF_HELPER_FLAGS_3(sve_uminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 268 DEF_HELPER_FLAGS_3(sve_uminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 269 DEF_HELPER_FLAGS_3(sve_uminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 270 DEF_HELPER_FLAGS_3(sve_uminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 271
 272 DEF_HELPER_FLAGS_3(sve_clr_b, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 273 DEF_HELPER_FLAGS_3(sve_clr_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 274 DEF_HELPER_FLAGS_3(sve_clr_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 275 DEF_HELPER_FLAGS_3(sve_clr_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 276
 277 DEF_HELPER_FLAGS_4(sve_movz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 278 DEF_HELPER_FLAGS_4(sve_movz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 279 DEF_HELPER_FLAGS_4(sve_movz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 280 DEF_HELPER_FLAGS_4(sve_movz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 281
 282 DEF_HELPER_FLAGS_4(sve_asr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 283 DEF_HELPER_FLAGS_4(sve_asr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 284 DEF_HELPER_FLAGS_4(sve_asr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 285 DEF_HELPER_FLAGS_4(sve_asr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 286
 287 DEF_HELPER_FLAGS_4(sve_lsr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 288 DEF_HELPER_FLAGS_4(sve_lsr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 289 DEF_HELPER_FLAGS_4(sve_lsr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 290 DEF_HELPER_FLAGS_4(sve_lsr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 291
 292 DEF_HELPER_FLAGS_4(sve_lsl_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 293 DEF_HELPER_FLAGS_4(sve_lsl_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 294 DEF_HELPER_FLAGS_4(sve_lsl_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 295 DEF_HELPER_FLAGS_4(sve_lsl_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 296
 297 DEF_HELPER_FLAGS_4(sve_asrd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 298 DEF_HELPER_FLAGS_4(sve_asrd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 299 DEF_HELPER_FLAGS_4(sve_asrd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 300 DEF_HELPER_FLAGS_4(sve_asrd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 301
 302 DEF_HELPER_FLAGS_4(sve_cls_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 303 DEF_HELPER_FLAGS_4(sve_cls_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 304 DEF_HELPER_FLAGS_4(sve_cls_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 305 DEF_HELPER_FLAGS_4(sve_cls_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 306
 307 DEF_HELPER_FLAGS_4(sve_clz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 308 DEF_HELPER_FLAGS_4(sve_clz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 309 DEF_HELPER_FLAGS_4(sve_clz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 310 DEF_HELPER_FLAGS_4(sve_clz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 311
 312 DEF_HELPER_FLAGS_4(sve_cnt_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 313 DEF_HELPER_FLAGS_4(sve_cnt_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 314 DEF_HELPER_FLAGS_4(sve_cnt_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 315 DEF_HELPER_FLAGS_4(sve_cnt_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 316
 317 DEF_HELPER_FLAGS_4(sve_cnot_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 318 DEF_HELPER_FLAGS_4(sve_cnot_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 319 DEF_HELPER_FLAGS_4(sve_cnot_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 320 DEF_HELPER_FLAGS_4(sve_cnot_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 321
 322 DEF_HELPER_FLAGS_4(sve_fabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 323 DEF_HELPER_FLAGS_4(sve_fabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 324 DEF_HELPER_FLAGS_4(sve_fabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 325
 326 DEF_HELPER_FLAGS_4(sve_fneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 327 DEF_HELPER_FLAGS_4(sve_fneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 328 DEF_HELPER_FLAGS_4(sve_fneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 329
 330 DEF_HELPER_FLAGS_4(sve_not_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 331 DEF_HELPER_FLAGS_4(sve_not_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 332 DEF_HELPER_FLAGS_4(sve_not_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 333 DEF_HELPER_FLAGS_4(sve_not_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 334
 335 DEF_HELPER_FLAGS_4(sve_sxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 336 DEF_HELPER_FLAGS_4(sve_sxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 337 DEF_HELPER_FLAGS_4(sve_sxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 338
 339 DEF_HELPER_FLAGS_4(sve_uxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 340 DEF_HELPER_FLAGS_4(sve_uxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 341 DEF_HELPER_FLAGS_4(sve_uxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 342
 343 DEF_HELPER_FLAGS_4(sve_sxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 344 DEF_HELPER_FLAGS_4(sve_sxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 345
 346 DEF_HELPER_FLAGS_4(sve_uxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 347 DEF_HELPER_FLAGS_4(sve_uxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 348
 349 DEF_HELPER_FLAGS_4(sve_sxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 350 DEF_HELPER_FLAGS_4(sve_uxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 351
 352 DEF_HELPER_FLAGS_4(sve_abs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 353 DEF_HELPER_FLAGS_4(sve_abs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 354 DEF_HELPER_FLAGS_4(sve_abs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 355 DEF_HELPER_FLAGS_4(sve_abs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 356
 357 DEF_HELPER_FLAGS_4(sve_neg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 358 DEF_HELPER_FLAGS_4(sve_neg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 359 DEF_HELPER_FLAGS_4(sve_neg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 360 DEF_HELPER_FLAGS_4(sve_neg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 361
 362 DEF_HELPER_FLAGS_6(sve_mla_b, TCG_CALL_NO_RWG,
 363                    void, ptr, ptr, ptr, ptr, ptr, i32)
 364 DEF_HELPER_FLAGS_6(sve_mla_h, TCG_CALL_NO_RWG,
 365                    void, ptr, ptr, ptr, ptr, ptr, i32)
 366 DEF_HELPER_FLAGS_6(sve_mla_s, TCG_CALL_NO_RWG,
 367                    void, ptr, ptr, ptr, ptr, ptr, i32)
 368 DEF_HELPER_FLAGS_6(sve_mla_d, TCG_CALL_NO_RWG,
 369                    void, ptr, ptr, ptr, ptr, ptr, i32)
 370
 371 DEF_HELPER_FLAGS_6(sve_mls_b, TCG_CALL_NO_RWG,
 372                    void, ptr, ptr, ptr, ptr, ptr, i32)
 373 DEF_HELPER_FLAGS_6(sve_mls_h, TCG_CALL_NO_RWG,
 374                    void, ptr, ptr, ptr, ptr, ptr, i32)
 375 DEF_HELPER_FLAGS_6(sve_mls_s, TCG_CALL_NO_RWG,
 376                    void, ptr, ptr, ptr, ptr, ptr, i32)
 377 DEF_HELPER_FLAGS_6(sve_mls_d, TCG_CALL_NO_RWG,
 378                    void, ptr, ptr, ptr, ptr, ptr, i32)
 379
 380 DEF_HELPER_FLAGS_4(sve_index_b, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
 381 DEF_HELPER_FLAGS_4(sve_index_h, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
 382 DEF_HELPER_FLAGS_4(sve_index_s, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
 383 DEF_HELPER_FLAGS_4(sve_index_d, TCG_CALL_NO_RWG, void, ptr, i64, i64, i32)
 384
 385 DEF_HELPER_FLAGS_4(sve_asr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 386 DEF_HELPER_FLAGS_4(sve_asr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 387 DEF_HELPER_FLAGS_4(sve_asr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 388
 389 DEF_HELPER_FLAGS_4(sve_lsr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 390 DEF_HELPER_FLAGS_4(sve_lsr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 391 DEF_HELPER_FLAGS_4(sve_lsr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 392
 393 DEF_HELPER_FLAGS_4(sve_lsl_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 394 DEF_HELPER_FLAGS_4(sve_lsl_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 395 DEF_HELPER_FLAGS_4(sve_lsl_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 396
 397 DEF_HELPER_FLAGS_4(sve_adr_p32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 398 DEF_HELPER_FLAGS_4(sve_adr_p64, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 399 DEF_HELPER_FLAGS_4(sve_adr_s32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 400 DEF_HELPER_FLAGS_4(sve_adr_u32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 401
 402 DEF_HELPER_FLAGS_3(sve_fexpa_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 403 DEF_HELPER_FLAGS_3(sve_fexpa_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 404 DEF_HELPER_FLAGS_3(sve_fexpa_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 405
 406 DEF_HELPER_FLAGS_4(sve_ftssel_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 407 DEF_HELPER_FLAGS_4(sve_ftssel_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 408 DEF_HELPER_FLAGS_4(sve_ftssel_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 409
 410 DEF_HELPER_FLAGS_4(sve_sqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
 411 DEF_HELPER_FLAGS_4(sve_sqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
 412 DEF_HELPER_FLAGS_4(sve_sqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
 413 DEF_HELPER_FLAGS_4(sve_sqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
 414
 415 DEF_HELPER_FLAGS_4(sve_uqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
 416 DEF_HELPER_FLAGS_4(sve_uqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
 417 DEF_HELPER_FLAGS_4(sve_uqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
 418 DEF_HELPER_FLAGS_4(sve_uqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 419 DEF_HELPER_FLAGS_4(sve_uqsubi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 420
 421 DEF_HELPER_FLAGS_5(sve_cpy_m_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
 422 DEF_HELPER_FLAGS_5(sve_cpy_m_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
 423 DEF_HELPER_FLAGS_5(sve_cpy_m_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
 424 DEF_HELPER_FLAGS_5(sve_cpy_m_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
 425
 426 DEF_HELPER_FLAGS_4(sve_cpy_z_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 427 DEF_HELPER_FLAGS_4(sve_cpy_z_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 428 DEF_HELPER_FLAGS_4(sve_cpy_z_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 429 DEF_HELPER_FLAGS_4(sve_cpy_z_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 430
 431 DEF_HELPER_FLAGS_4(sve_ext, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 432
 433 DEF_HELPER_FLAGS_4(sve_insr_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 434 DEF_HELPER_FLAGS_4(sve_insr_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 435 DEF_HELPER_FLAGS_4(sve_insr_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 436 DEF_HELPER_FLAGS_4(sve_insr_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 437
 438 DEF_HELPER_FLAGS_3(sve_rev_b, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 439 DEF_HELPER_FLAGS_3(sve_rev_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 440 DEF_HELPER_FLAGS_3(sve_rev_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 441 DEF_HELPER_FLAGS_3(sve_rev_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 442
 443 DEF_HELPER_FLAGS_4(sve_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 444 DEF_HELPER_FLAGS_4(sve_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 445 DEF_HELPER_FLAGS_4(sve_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 446 DEF_HELPER_FLAGS_4(sve_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 447
 448 DEF_HELPER_FLAGS_3(sve_sunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 449 DEF_HELPER_FLAGS_3(sve_sunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 450 DEF_HELPER_FLAGS_3(sve_sunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 451
 452 DEF_HELPER_FLAGS_3(sve_uunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 453 DEF_HELPER_FLAGS_3(sve_uunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 454 DEF_HELPER_FLAGS_3(sve_uunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 455
 456 DEF_HELPER_FLAGS_4(sve_zip_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 457 DEF_HELPER_FLAGS_4(sve_uzp_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 458 DEF_HELPER_FLAGS_4(sve_trn_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 459 DEF_HELPER_FLAGS_3(sve_rev_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 460 DEF_HELPER_FLAGS_3(sve_punpk_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
 461
 462 DEF_HELPER_FLAGS_4(sve_zip_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 463 DEF_HELPER_FLAGS_4(sve_zip_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 464 DEF_HELPER_FLAGS_4(sve_zip_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 465 DEF_HELPER_FLAGS_4(sve_zip_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 466
 467 DEF_HELPER_FLAGS_4(sve_uzp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 468 DEF_HELPER_FLAGS_4(sve_uzp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 469 DEF_HELPER_FLAGS_4(sve_uzp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 470 DEF_HELPER_FLAGS_4(sve_uzp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 471
 472 DEF_HELPER_FLAGS_4(sve_trn_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 473 DEF_HELPER_FLAGS_4(sve_trn_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 474 DEF_HELPER_FLAGS_4(sve_trn_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 475 DEF_HELPER_FLAGS_4(sve_trn_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 476
 477 DEF_HELPER_FLAGS_4(sve_compact_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 478 DEF_HELPER_FLAGS_4(sve_compact_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 479
 480 DEF_HELPER_FLAGS_2(sve_last_active_element, TCG_CALL_NO_RWG, s32, ptr, i32)
 481
 482 DEF_HELPER_FLAGS_4(sve_revb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 483 DEF_HELPER_FLAGS_4(sve_revb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 484 DEF_HELPER_FLAGS_4(sve_revb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 485
 486 DEF_HELPER_FLAGS_4(sve_revh_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 487 DEF_HELPER_FLAGS_4(sve_revh_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 488
 489 DEF_HELPER_FLAGS_4(sve_revw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 490
 491 DEF_HELPER_FLAGS_4(sve_rbit_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 492 DEF_HELPER_FLAGS_4(sve_rbit_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 493 DEF_HELPER_FLAGS_4(sve_rbit_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 494 DEF_HELPER_FLAGS_4(sve_rbit_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 495
 496 DEF_HELPER_FLAGS_5(sve_splice, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 497
 498 DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_b, TCG_CALL_NO_RWG,
 499                    i32, ptr, ptr, ptr, ptr, i32)
 500 DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_b, TCG_CALL_NO_RWG,
 501                    i32, ptr, ptr, ptr, ptr, i32)
 502 DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_b, TCG_CALL_NO_RWG,
 503                    i32, ptr, ptr, ptr, ptr, i32)
 504 DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_b, TCG_CALL_NO_RWG,
 505                    i32, ptr, ptr, ptr, ptr, i32)
 506 DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_b, TCG_CALL_NO_RWG,
 507                    i32, ptr, ptr, ptr, ptr, i32)
 508 DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_b, TCG_CALL_NO_RWG,
 509                    i32, ptr, ptr, ptr, ptr, i32)
 510
 511 DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_h, TCG_CALL_NO_RWG,
 512                    i32, ptr, ptr, ptr, ptr, i32)
 513 DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_h, TCG_CALL_NO_RWG,
 514                    i32, ptr, ptr, ptr, ptr, i32)
 515 DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_h, TCG_CALL_NO_RWG,
 516                    i32, ptr, ptr, ptr, ptr, i32)
 517 DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_h, TCG_CALL_NO_RWG,
 518                    i32, ptr, ptr, ptr, ptr, i32)
 519 DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_h, TCG_CALL_NO_RWG,
 520                    i32, ptr, ptr, ptr, ptr, i32)
 521 DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_h, TCG_CALL_NO_RWG,
 522                    i32, ptr, ptr, ptr, ptr, i32)
 523
 524 DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_s, TCG_CALL_NO_RWG,
 525                    i32, ptr, ptr, ptr, ptr, i32)
 526 DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_s, TCG_CALL_NO_RWG,
 527                    i32, ptr, ptr, ptr, ptr, i32)
 528 DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_s, TCG_CALL_NO_RWG,
 529                    i32, ptr, ptr, ptr, ptr, i32)
 530 DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_s, TCG_CALL_NO_RWG,
 531                    i32, ptr, ptr, ptr, ptr, i32)
 532 DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_s, TCG_CALL_NO_RWG,
 533                    i32, ptr, ptr, ptr, ptr, i32)
 534 DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_s, TCG_CALL_NO_RWG,
 535                    i32, ptr, ptr, ptr, ptr, i32)
 536
 537 DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_d, TCG_CALL_NO_RWG,
 538                    i32, ptr, ptr, ptr, ptr, i32)
 539 DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_d, TCG_CALL_NO_RWG,
 540                    i32, ptr, ptr, ptr, ptr, i32)
 541 DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_d, TCG_CALL_NO_RWG,
 542                    i32, ptr, ptr, ptr, ptr, i32)
 543 DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_d, TCG_CALL_NO_RWG,
 544                    i32, ptr, ptr, ptr, ptr, i32)
 545 DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_d, TCG_CALL_NO_RWG,
 546                    i32, ptr, ptr, ptr, ptr, i32)
 547 DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_d, TCG_CALL_NO_RWG,
 548                    i32, ptr, ptr, ptr, ptr, i32)
 549
 550 DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_b, TCG_CALL_NO_RWG,
 551                    i32, ptr, ptr, ptr, ptr, i32)
 552 DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_b, TCG_CALL_NO_RWG,
 553                    i32, ptr, ptr, ptr, ptr, i32)
 554 DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_b, TCG_CALL_NO_RWG,
 555                    i32, ptr, ptr, ptr, ptr, i32)
 556 DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_b, TCG_CALL_NO_RWG,
 557                    i32, ptr, ptr, ptr, ptr, i32)
 558 DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_b, TCG_CALL_NO_RWG,
 559                    i32, ptr, ptr, ptr, ptr, i32)
 560 DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_b, TCG_CALL_NO_RWG,
 561                    i32, ptr, ptr, ptr, ptr, i32)
 562 DEF_HELPER_FLAGS_5(sve_cmple_ppzw_b, TCG_CALL_NO_RWG,
 563                    i32, ptr, ptr, ptr, ptr, i32)
 564 DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_b, TCG_CALL_NO_RWG,
 565                    i32, ptr, ptr, ptr, ptr, i32)
 566 DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_b, TCG_CALL_NO_RWG,
 567                    i32, ptr, ptr, ptr, ptr, i32)
 568 DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_b, TCG_CALL_NO_RWG,
 569                    i32, ptr, ptr, ptr, ptr, i32)
 570
 571 DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_h, TCG_CALL_NO_RWG,
 572                    i32, ptr, ptr, ptr, ptr, i32)
 573 DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_h, TCG_CALL_NO_RWG,
 574                    i32, ptr, ptr, ptr, ptr, i32)
 575 DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_h, TCG_CALL_NO_RWG,
 576                    i32, ptr, ptr, ptr, ptr, i32)
 577 DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_h, TCG_CALL_NO_RWG,
 578                    i32, ptr, ptr, ptr, ptr, i32)
 579 DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_h, TCG_CALL_NO_RWG,
 580                    i32, ptr, ptr, ptr, ptr, i32)
 581 DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_h, TCG_CALL_NO_RWG,
 582                    i32, ptr, ptr, ptr, ptr, i32)
 583 DEF_HELPER_FLAGS_5(sve_cmple_ppzw_h, TCG_CALL_NO_RWG,
 584                    i32, ptr, ptr, ptr, ptr, i32)
 585 DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_h, TCG_CALL_NO_RWG,
 586                    i32, ptr, ptr, ptr, ptr, i32)
 587 DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_h, TCG_CALL_NO_RWG,
 588                    i32, ptr, ptr, ptr, ptr, i32)
 589 DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_h, TCG_CALL_NO_RWG,
 590                    i32, ptr, ptr, ptr, ptr, i32)
 591
 592 DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_s, TCG_CALL_NO_RWG,
 593                    i32, ptr, ptr, ptr, ptr, i32)
 594 DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_s, TCG_CALL_NO_RWG,
 595                    i32, ptr, ptr, ptr, ptr, i32)
 596 DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_s, TCG_CALL_NO_RWG,
 597                    i32, ptr, ptr, ptr, ptr, i32)
 598 DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_s, TCG_CALL_NO_RWG,
 599                    i32, ptr, ptr, ptr, ptr, i32)
 600 DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_s, TCG_CALL_NO_RWG,
 601                    i32, ptr, ptr, ptr, ptr, i32)
 602 DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_s, TCG_CALL_NO_RWG,
 603                    i32, ptr, ptr, ptr, ptr, i32)
 604 DEF_HELPER_FLAGS_5(sve_cmple_ppzw_s, TCG_CALL_NO_RWG,
 605                    i32, ptr, ptr, ptr, ptr, i32)
 606 DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_s, TCG_CALL_NO_RWG,
 607                    i32, ptr, ptr, ptr, ptr, i32)
 608 DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_s, TCG_CALL_NO_RWG,
 609                    i32, ptr, ptr, ptr, ptr, i32)
 610 DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_s, TCG_CALL_NO_RWG,
 611                    i32, ptr, ptr, ptr, ptr, i32)
 612
 613 DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 614 DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 615 DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 616 DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 617 DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 618 DEF_HELPER_FLAGS_4(sve_cmple_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 619 DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 620 DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 621 DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 622 DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 623
 624 DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 625 DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 626 DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 627 DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 628 DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 629 DEF_HELPER_FLAGS_4(sve_cmple_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 630 DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 631 DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 632 DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 633 DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 634
 635 DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 636 DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 637 DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 638 DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 639 DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 640 DEF_HELPER_FLAGS_4(sve_cmple_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 641 DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 642 DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 643 DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 644 DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 645
 646 DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 647 DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 648 DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 649 DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 650 DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 651 DEF_HELPER_FLAGS_4(sve_cmple_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 652 DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 653 DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 654 DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 655 DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 656
 657 DEF_HELPER_FLAGS_5(sve_and_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 658 DEF_HELPER_FLAGS_5(sve_bic_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 659 DEF_HELPER_FLAGS_5(sve_eor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 660 DEF_HELPER_FLAGS_5(sve_sel_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 661 DEF_HELPER_FLAGS_5(sve_orr_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 662 DEF_HELPER_FLAGS_5(sve_orn_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 663 DEF_HELPER_FLAGS_5(sve_nor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 664 DEF_HELPER_FLAGS_5(sve_nand_pppp, TCG_CALL_NO_RWG,
 665                    void, ptr, ptr, ptr, ptr, i32)
 666
 667 DEF_HELPER_FLAGS_5(sve_brkpa, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 668 DEF_HELPER_FLAGS_5(sve_brkpb, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
 669 DEF_HELPER_FLAGS_5(sve_brkpas, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
 670 DEF_HELPER_FLAGS_5(sve_brkpbs, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
 671
 672 DEF_HELPER_FLAGS_4(sve_brka_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 673 DEF_HELPER_FLAGS_4(sve_brkb_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 674 DEF_HELPER_FLAGS_4(sve_brka_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 675 DEF_HELPER_FLAGS_4(sve_brkb_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 676
 677 DEF_HELPER_FLAGS_4(sve_brkas_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 678 DEF_HELPER_FLAGS_4(sve_brkbs_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 679 DEF_HELPER_FLAGS_4(sve_brkas_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 680 DEF_HELPER_FLAGS_4(sve_brkbs_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 681
 682 DEF_HELPER_FLAGS_4(sve_brkn, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
 683 DEF_HELPER_FLAGS_4(sve_brkns, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
 684
 685 DEF_HELPER_FLAGS_3(sve_cntp, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
 686
 687 DEF_HELPER_FLAGS_3(sve_while, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
 688
 689 DEF_HELPER_FLAGS_4(sve_subri_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 690 DEF_HELPER_FLAGS_4(sve_subri_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 691 DEF_HELPER_FLAGS_4(sve_subri_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 692 DEF_HELPER_FLAGS_4(sve_subri_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 693
 694 DEF_HELPER_FLAGS_4(sve_smaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 695 DEF_HELPER_FLAGS_4(sve_smaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 696 DEF_HELPER_FLAGS_4(sve_smaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 697 DEF_HELPER_FLAGS_4(sve_smaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 698
 699 DEF_HELPER_FLAGS_4(sve_smini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 700 DEF_HELPER_FLAGS_4(sve_smini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 701 DEF_HELPER_FLAGS_4(sve_smini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 702 DEF_HELPER_FLAGS_4(sve_smini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 703
 704 DEF_HELPER_FLAGS_4(sve_umaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 705 DEF_HELPER_FLAGS_4(sve_umaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 706 DEF_HELPER_FLAGS_4(sve_umaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 707 DEF_HELPER_FLAGS_4(sve_umaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 708
 709 DEF_HELPER_FLAGS_4(sve_umini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 710 DEF_HELPER_FLAGS_4(sve_umini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 711 DEF_HELPER_FLAGS_4(sve_umini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 712 DEF_HELPER_FLAGS_4(sve_umini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
 713
 714 DEF_HELPER_FLAGS_5(gvec_recps_h, TCG_CALL_NO_RWG,
 715                    void, ptr, ptr, ptr, ptr, i32)
 716 DEF_HELPER_FLAGS_5(gvec_recps_s, TCG_CALL_NO_RWG,
 717                    void, ptr, ptr, ptr, ptr, i32)
 718 DEF_HELPER_FLAGS_5(gvec_recps_d, TCG_CALL_NO_RWG,
 719                    void, ptr, ptr, ptr, ptr, i32)
 720
 721 DEF_HELPER_FLAGS_5(gvec_rsqrts_h, TCG_CALL_NO_RWG,
 722                    void, ptr, ptr, ptr, ptr, i32)
 723 DEF_HELPER_FLAGS_5(gvec_rsqrts_s, TCG_CALL_NO_RWG,
 724                    void, ptr, ptr, ptr, ptr, i32)
 725 DEF_HELPER_FLAGS_5(gvec_rsqrts_d, TCG_CALL_NO_RWG,
 726                    void, ptr, ptr, ptr, ptr, i32)
 727
 728 DEF_HELPER_FLAGS_4(sve_faddv_h, TCG_CALL_NO_RWG,
 729                    i64, ptr, ptr, ptr, i32)
 730 DEF_HELPER_FLAGS_4(sve_faddv_s, TCG_CALL_NO_RWG,
 731                    i64, ptr, ptr, ptr, i32)
 732 DEF_HELPER_FLAGS_4(sve_faddv_d, TCG_CALL_NO_RWG,
 733                    i64, ptr, ptr, ptr, i32)
 734
 735 DEF_HELPER_FLAGS_4(sve_fmaxnmv_h, TCG_CALL_NO_RWG,
 736                    i64, ptr, ptr, ptr, i32)
 737 DEF_HELPER_FLAGS_4(sve_fmaxnmv_s, TCG_CALL_NO_RWG,
 738                    i64, ptr, ptr, ptr, i32)
 739 DEF_HELPER_FLAGS_4(sve_fmaxnmv_d, TCG_CALL_NO_RWG,
 740                    i64, ptr, ptr, ptr, i32)
 741
 742 DEF_HELPER_FLAGS_4(sve_fminnmv_h, TCG_CALL_NO_RWG,
 743                    i64, ptr, ptr, ptr, i32)
 744 DEF_HELPER_FLAGS_4(sve_fminnmv_s, TCG_CALL_NO_RWG,
 745                    i64, ptr, ptr, ptr, i32)
 746 DEF_HELPER_FLAGS_4(sve_fminnmv_d, TCG_CALL_NO_RWG,
 747                    i64, ptr, ptr, ptr, i32)
 748
 749 DEF_HELPER_FLAGS_4(sve_fmaxv_h, TCG_CALL_NO_RWG,
 750                    i64, ptr, ptr, ptr, i32)
 751 DEF_HELPER_FLAGS_4(sve_fmaxv_s, TCG_CALL_NO_RWG,
 752                    i64, ptr, ptr, ptr, i32)
 753 DEF_HELPER_FLAGS_4(sve_fmaxv_d, TCG_CALL_NO_RWG,
 754                    i64, ptr, ptr, ptr, i32)
 755
 756 DEF_HELPER_FLAGS_4(sve_fminv_h, TCG_CALL_NO_RWG,
 757                    i64, ptr, ptr, ptr, i32)
 758 DEF_HELPER_FLAGS_4(sve_fminv_s, TCG_CALL_NO_RWG,
 759                    i64, ptr, ptr, ptr, i32)
 760 DEF_HELPER_FLAGS_4(sve_fminv_d, TCG_CALL_NO_RWG,
 761                    i64, ptr, ptr, ptr, i32)
 762
 763 DEF_HELPER_FLAGS_5(sve_fadda_h, TCG_CALL_NO_RWG,
 764                    i64, i64, ptr, ptr, ptr, i32)
 765 DEF_HELPER_FLAGS_5(sve_fadda_s, TCG_CALL_NO_RWG,
 766                    i64, i64, ptr, ptr, ptr, i32)
 767 DEF_HELPER_FLAGS_5(sve_fadda_d, TCG_CALL_NO_RWG,
 768                    i64, i64, ptr, ptr, ptr, i32)
 769
 770 DEF_HELPER_FLAGS_5(sve_fcmge0_h, TCG_CALL_NO_RWG,
 771                    void, ptr, ptr, ptr, ptr, i32)
 772 DEF_HELPER_FLAGS_5(sve_fcmge0_s, TCG_CALL_NO_RWG,
 773                    void, ptr, ptr, ptr, ptr, i32)
 774 DEF_HELPER_FLAGS_5(sve_fcmge0_d, TCG_CALL_NO_RWG,
 775                    void, ptr, ptr, ptr, ptr, i32)
 776
 777 DEF_HELPER_FLAGS_5(sve_fcmgt0_h, TCG_CALL_NO_RWG,
 778                    void, ptr, ptr, ptr, ptr, i32)
 779 DEF_HELPER_FLAGS_5(sve_fcmgt0_s, TCG_CALL_NO_RWG,
 780                    void, ptr, ptr, ptr, ptr, i32)
 781 DEF_HELPER_FLAGS_5(sve_fcmgt0_d, TCG_CALL_NO_RWG,
 782                    void, ptr, ptr, ptr, ptr, i32)
 783
 784 DEF_HELPER_FLAGS_5(sve_fcmlt0_h, TCG_CALL_NO_RWG,
 785                    void, ptr, ptr, ptr, ptr, i32)
 786 DEF_HELPER_FLAGS_5(sve_fcmlt0_s, TCG_CALL_NO_RWG,
 787                    void, ptr, ptr, ptr, ptr, i32)
 788 DEF_HELPER_FLAGS_5(sve_fcmlt0_d, TCG_CALL_NO_RWG,
 789                    void, ptr, ptr, ptr, ptr, i32)
 790
 791 DEF_HELPER_FLAGS_5(sve_fcmle0_h, TCG_CALL_NO_RWG,
 792                    void, ptr, ptr, ptr, ptr, i32)
 793 DEF_HELPER_FLAGS_5(sve_fcmle0_s, TCG_CALL_NO_RWG,
 794                    void, ptr, ptr, ptr, ptr, i32)
 795 DEF_HELPER_FLAGS_5(sve_fcmle0_d, TCG_CALL_NO_RWG,
 796                    void, ptr, ptr, ptr, ptr, i32)
 797
 798 DEF_HELPER_FLAGS_5(sve_fcmeq0_h, TCG_CALL_NO_RWG,
 799                    void, ptr, ptr, ptr, ptr, i32)
 800 DEF_HELPER_FLAGS_5(sve_fcmeq0_s, TCG_CALL_NO_RWG,
 801                    void, ptr, ptr, ptr, ptr, i32)
 802 DEF_HELPER_FLAGS_5(sve_fcmeq0_d, TCG_CALL_NO_RWG,
 803                    void, ptr, ptr, ptr, ptr, i32)
 804
 805 DEF_HELPER_FLAGS_5(sve_fcmne0_h, TCG_CALL_NO_RWG,
 806                    void, ptr, ptr, ptr, ptr, i32)
 807 DEF_HELPER_FLAGS_5(sve_fcmne0_s, TCG_CALL_NO_RWG,
 808                    void, ptr, ptr, ptr, ptr, i32)
 809 DEF_HELPER_FLAGS_5(sve_fcmne0_d, TCG_CALL_NO_RWG,
 810                    void, ptr, ptr, ptr, ptr, i32)
 811
 812 DEF_HELPER_FLAGS_6(sve_fadd_h, TCG_CALL_NO_RWG,
 813                    void, ptr, ptr, ptr, ptr, ptr, i32)
 814 DEF_HELPER_FLAGS_6(sve_fadd_s, TCG_CALL_NO_RWG,
 815                    void, ptr, ptr, ptr, ptr, ptr, i32)
 816 DEF_HELPER_FLAGS_6(sve_fadd_d, TCG_CALL_NO_RWG,
 817                    void, ptr, ptr, ptr, ptr, ptr, i32)
 818
 819 DEF_HELPER_FLAGS_6(sve_fsub_h, TCG_CALL_NO_RWG,
 820                    void, ptr, ptr, ptr, ptr, ptr, i32)
 821 DEF_HELPER_FLAGS_6(sve_fsub_s, TCG_CALL_NO_RWG,
 822                    void, ptr, ptr, ptr, ptr, ptr, i32)
 823 DEF_HELPER_FLAGS_6(sve_fsub_d, TCG_CALL_NO_RWG,
 824                    void, ptr, ptr, ptr, ptr, ptr, i32)
 825
 826 DEF_HELPER_FLAGS_6(sve_fmul_h, TCG_CALL_NO_RWG,
 827                    void, ptr, ptr, ptr, ptr, ptr, i32)
 828 DEF_HELPER_FLAGS_6(sve_fmul_s, TCG_CALL_NO_RWG,
 829                    void, ptr, ptr, ptr, ptr, ptr, i32)
 830 DEF_HELPER_FLAGS_6(sve_fmul_d, TCG_CALL_NO_RWG,
 831                    void, ptr, ptr, ptr, ptr, ptr, i32)
 832
 833 DEF_HELPER_FLAGS_6(sve_fdiv_h, TCG_CALL_NO_RWG,
 834                    void, ptr, ptr, ptr, ptr, ptr, i32)
 835 DEF_HELPER_FLAGS_6(sve_fdiv_s, TCG_CALL_NO_RWG,
 836                    void, ptr, ptr, ptr, ptr, ptr, i32)
 837 DEF_HELPER_FLAGS_6(sve_fdiv_d, TCG_CALL_NO_RWG,
 838                    void, ptr, ptr, ptr, ptr, ptr, i32)
 839
 840 DEF_HELPER_FLAGS_6(sve_fmin_h, TCG_CALL_NO_RWG,
 841                    void, ptr, ptr, ptr, ptr, ptr, i32)
 842 DEF_HELPER_FLAGS_6(sve_fmin_s, TCG_CALL_NO_RWG,
 843                    void, ptr, ptr, ptr, ptr, ptr, i32)
 844 DEF_HELPER_FLAGS_6(sve_fmin_d, TCG_CALL_NO_RWG,
 845                    void, ptr, ptr, ptr, ptr, ptr, i32)
 846
 847 DEF_HELPER_FLAGS_6(sve_fmax_h, TCG_CALL_NO_RWG,
 848                    void, ptr, ptr, ptr, ptr, ptr, i32)
 849 DEF_HELPER_FLAGS_6(sve_fmax_s, TCG_CALL_NO_RWG,
 850                    void, ptr, ptr, ptr, ptr, ptr, i32)
 851 DEF_HELPER_FLAGS_6(sve_fmax_d, TCG_CALL_NO_RWG,
 852                    void, ptr, ptr, ptr, ptr, ptr, i32)
 853
 854 DEF_HELPER_FLAGS_6(sve_fminnum_h, TCG_CALL_NO_RWG,
 855                    void, ptr, ptr, ptr, ptr, ptr, i32)
 856 DEF_HELPER_FLAGS_6(sve_fminnum_s, TCG_CALL_NO_RWG,
 857                    void, ptr, ptr, ptr, ptr, ptr, i32)
 858 DEF_HELPER_FLAGS_6(sve_fminnum_d, TCG_CALL_NO_RWG,
 859                    void, ptr, ptr, ptr, ptr, ptr, i32)
 860
 861 DEF_HELPER_FLAGS_6(sve_fmaxnum_h, TCG_CALL_NO_RWG,
 862                    void, ptr, ptr, ptr, ptr, ptr, i32)
 863 DEF_HELPER_FLAGS_6(sve_fmaxnum_s, TCG_CALL_NO_RWG,
 864                    void, ptr, ptr, ptr, ptr, ptr, i32)
 865 DEF_HELPER_FLAGS_6(sve_fmaxnum_d, TCG_CALL_NO_RWG,
 866                    void, ptr, ptr, ptr, ptr, ptr, i32)
 867
 868 DEF_HELPER_FLAGS_6(sve_fabd_h, TCG_CALL_NO_RWG,
 869                    void, ptr, ptr, ptr, ptr, ptr, i32)
 870 DEF_HELPER_FLAGS_6(sve_fabd_s, TCG_CALL_NO_RWG,
 871                    void, ptr, ptr, ptr, ptr, ptr, i32)
 872 DEF_HELPER_FLAGS_6(sve_fabd_d, TCG_CALL_NO_RWG,
 873                    void, ptr, ptr, ptr, ptr, ptr, i32)
 874
 875 DEF_HELPER_FLAGS_6(sve_fscalbn_h, TCG_CALL_NO_RWG,
 876                    void, ptr, ptr, ptr, ptr, ptr, i32)
 877 DEF_HELPER_FLAGS_6(sve_fscalbn_s, TCG_CALL_NO_RWG,
 878                    void, ptr, ptr, ptr, ptr, ptr, i32)
 879 DEF_HELPER_FLAGS_6(sve_fscalbn_d, TCG_CALL_NO_RWG,
 880                    void, ptr, ptr, ptr, ptr, ptr, i32)
 881
 882 DEF_HELPER_FLAGS_6(sve_fmulx_h, TCG_CALL_NO_RWG,
 883                    void, ptr, ptr, ptr, ptr, ptr, i32)
 884 DEF_HELPER_FLAGS_6(sve_fmulx_s, TCG_CALL_NO_RWG,
 885                    void, ptr, ptr, ptr, ptr, ptr, i32)
 886 DEF_HELPER_FLAGS_6(sve_fmulx_d, TCG_CALL_NO_RWG,
 887                    void, ptr, ptr, ptr, ptr, ptr, i32)
 888
 889 DEF_HELPER_FLAGS_6(sve_fadds_h, TCG_CALL_NO_RWG,
 890                    void, ptr, ptr, ptr, i64, ptr, i32)
 891 DEF_HELPER_FLAGS_6(sve_fadds_s, TCG_CALL_NO_RWG,
 892                    void, ptr, ptr, ptr, i64, ptr, i32)
 893 DEF_HELPER_FLAGS_6(sve_fadds_d, TCG_CALL_NO_RWG,
 894                    void, ptr, ptr, ptr, i64, ptr, i32)
 895
 896 DEF_HELPER_FLAGS_6(sve_fsubs_h, TCG_CALL_NO_RWG,
 897                    void, ptr, ptr, ptr, i64, ptr, i32)
 898 DEF_HELPER_FLAGS_6(sve_fsubs_s, TCG_CALL_NO_RWG,
 899                    void, ptr, ptr, ptr, i64, ptr, i32)
 900 DEF_HELPER_FLAGS_6(sve_fsubs_d, TCG_CALL_NO_RWG,
 901                    void, ptr, ptr, ptr, i64, ptr, i32)
 902
 903 DEF_HELPER_FLAGS_6(sve_fmuls_h, TCG_CALL_NO_RWG,
 904                    void, ptr, ptr, ptr, i64, ptr, i32)
 905 DEF_HELPER_FLAGS_6(sve_fmuls_s, TCG_CALL_NO_RWG,
 906                    void, ptr, ptr, ptr, i64, ptr, i32)
 907 DEF_HELPER_FLAGS_6(sve_fmuls_d, TCG_CALL_NO_RWG,
 908                    void, ptr, ptr, ptr, i64, ptr, i32)
 909
 910 DEF_HELPER_FLAGS_6(sve_fsubrs_h, TCG_CALL_NO_RWG,
 911                    void, ptr, ptr, ptr, i64, ptr, i32)
 912 DEF_HELPER_FLAGS_6(sve_fsubrs_s, TCG_CALL_NO_RWG,
 913                    void, ptr, ptr, ptr, i64, ptr, i32)
 914 DEF_HELPER_FLAGS_6(sve_fsubrs_d, TCG_CALL_NO_RWG,
 915                    void, ptr, ptr, ptr, i64, ptr, i32)
 916
 917 DEF_HELPER_FLAGS_6(sve_fmaxnms_h, TCG_CALL_NO_RWG,
 918                    void, ptr, ptr, ptr, i64, ptr, i32)
 919 DEF_HELPER_FLAGS_6(sve_fmaxnms_s, TCG_CALL_NO_RWG,
 920                    void, ptr, ptr, ptr, i64, ptr, i32)
 921 DEF_HELPER_FLAGS_6(sve_fmaxnms_d, TCG_CALL_NO_RWG,
 922                    void, ptr, ptr, ptr, i64, ptr, i32)
 923
 924 DEF_HELPER_FLAGS_6(sve_fminnms_h, TCG_CALL_NO_RWG,
 925                    void, ptr, ptr, ptr, i64, ptr, i32)
 926 DEF_HELPER_FLAGS_6(sve_fminnms_s, TCG_CALL_NO_RWG,
 927                    void, ptr, ptr, ptr, i64, ptr, i32)
 928 DEF_HELPER_FLAGS_6(sve_fminnms_d, TCG_CALL_NO_RWG,
 929                    void, ptr, ptr, ptr, i64, ptr, i32)
 930
 931 DEF_HELPER_FLAGS_6(sve_fmaxs_h, TCG_CALL_NO_RWG,
 932                    void, ptr, ptr, ptr, i64, ptr, i32)
 933 DEF_HELPER_FLAGS_6(sve_fmaxs_s, TCG_CALL_NO_RWG,
 934                    void, ptr, ptr, ptr, i64, ptr, i32)
 935 DEF_HELPER_FLAGS_6(sve_fmaxs_d, TCG_CALL_NO_RWG,
 936                    void, ptr, ptr, ptr, i64, ptr, i32)
 937
 938 DEF_HELPER_FLAGS_6(sve_fmins_h, TCG_CALL_NO_RWG,
 939                    void, ptr, ptr, ptr, i64, ptr, i32)
 940 DEF_HELPER_FLAGS_6(sve_fmins_s, TCG_CALL_NO_RWG,
 941                    void, ptr, ptr, ptr, i64, ptr, i32)
 942 DEF_HELPER_FLAGS_6(sve_fmins_d, TCG_CALL_NO_RWG,
 943                    void, ptr, ptr, ptr, i64, ptr, i32)
 944
 945 DEF_HELPER_FLAGS_5(sve_fcvt_sh, TCG_CALL_NO_RWG,
 946                    void, ptr, ptr, ptr, ptr, i32)
 947 DEF_HELPER_FLAGS_5(sve_fcvt_dh, TCG_CALL_NO_RWG,
 948                    void, ptr, ptr, ptr, ptr, i32)
 949 DEF_HELPER_FLAGS_5(sve_fcvt_hs, TCG_CALL_NO_RWG,
 950                    void, ptr, ptr, ptr, ptr, i32)
 951 DEF_HELPER_FLAGS_5(sve_fcvt_ds, TCG_CALL_NO_RWG,
 952                    void, ptr, ptr, ptr, ptr, i32)
 953 DEF_HELPER_FLAGS_5(sve_fcvt_hd, TCG_CALL_NO_RWG,
 954                    void, ptr, ptr, ptr, ptr, i32)
 955 DEF_HELPER_FLAGS_5(sve_fcvt_sd, TCG_CALL_NO_RWG,
 956                    void, ptr, ptr, ptr, ptr, i32)
 957
 958 DEF_HELPER_FLAGS_5(sve_fcvtzs_hh, TCG_CALL_NO_RWG,
 959                    void, ptr, ptr, ptr, ptr, i32)
 960 DEF_HELPER_FLAGS_5(sve_fcvtzs_hs, TCG_CALL_NO_RWG,
 961                    void, ptr, ptr, ptr, ptr, i32)
 962 DEF_HELPER_FLAGS_5(sve_fcvtzs_ss, TCG_CALL_NO_RWG,
 963                    void, ptr, ptr, ptr, ptr, i32)
 964 DEF_HELPER_FLAGS_5(sve_fcvtzs_ds, TCG_CALL_NO_RWG,
 965                    void, ptr, ptr, ptr, ptr, i32)
 966 DEF_HELPER_FLAGS_5(sve_fcvtzs_hd, TCG_CALL_NO_RWG,
 967                    void, ptr, ptr, ptr, ptr, i32)
 968 DEF_HELPER_FLAGS_5(sve_fcvtzs_sd, TCG_CALL_NO_RWG,
 969                    void, ptr, ptr, ptr, ptr, i32)
 970 DEF_HELPER_FLAGS_5(sve_fcvtzs_dd, TCG_CALL_NO_RWG,
 971                    void, ptr, ptr, ptr, ptr, i32)
 972
 973 DEF_HELPER_FLAGS_5(sve_fcvtzu_hh, TCG_CALL_NO_RWG,
 974                    void, ptr, ptr, ptr, ptr, i32)
 975 DEF_HELPER_FLAGS_5(sve_fcvtzu_hs, TCG_CALL_NO_RWG,
 976                    void, ptr, ptr, ptr, ptr, i32)
 977 DEF_HELPER_FLAGS_5(sve_fcvtzu_ss, TCG_CALL_NO_RWG,
 978                    void, ptr, ptr, ptr, ptr, i32)
 979 DEF_HELPER_FLAGS_5(sve_fcvtzu_ds, TCG_CALL_NO_RWG,
 980                    void, ptr, ptr, ptr, ptr, i32)
 981 DEF_HELPER_FLAGS_5(sve_fcvtzu_hd, TCG_CALL_NO_RWG,
 982                    void, ptr, ptr, ptr, ptr, i32)
 983 DEF_HELPER_FLAGS_5(sve_fcvtzu_sd, TCG_CALL_NO_RWG,
 984                    void, ptr, ptr, ptr, ptr, i32)
 985 DEF_HELPER_FLAGS_5(sve_fcvtzu_dd, TCG_CALL_NO_RWG,
 986                    void, ptr, ptr, ptr, ptr, i32)
 987
 988 DEF_HELPER_FLAGS_5(sve_frint_h, TCG_CALL_NO_RWG,
 989                    void, ptr, ptr, ptr, ptr, i32)
 990 DEF_HELPER_FLAGS_5(sve_frint_s, TCG_CALL_NO_RWG,
 991                    void, ptr, ptr, ptr, ptr, i32)
 992 DEF_HELPER_FLAGS_5(sve_frint_d, TCG_CALL_NO_RWG,
 993                    void, ptr, ptr, ptr, ptr, i32)
 994
 995 DEF_HELPER_FLAGS_5(sve_frintx_h, TCG_CALL_NO_RWG,
 996                    void, ptr, ptr, ptr, ptr, i32)
 997 DEF_HELPER_FLAGS_5(sve_frintx_s, TCG_CALL_NO_RWG,
 998                    void, ptr, ptr, ptr, ptr, i32)
 999 DEF_HELPER_FLAGS_5(sve_frintx_d, TCG_CALL_NO_RWG,
1000                    void, ptr, ptr, ptr, ptr, i32)
1001
1002 DEF_HELPER_FLAGS_5(sve_frecpx_h, TCG_CALL_NO_RWG,
1003                    void, ptr, ptr, ptr, ptr, i32)
1004 DEF_HELPER_FLAGS_5(sve_frecpx_s, TCG_CALL_NO_RWG,
1005                    void, ptr, ptr, ptr, ptr, i32)
1006 DEF_HELPER_FLAGS_5(sve_frecpx_d, TCG_CALL_NO_RWG,
1007                    void, ptr, ptr, ptr, ptr, i32)
1008
1009 DEF_HELPER_FLAGS_5(sve_fsqrt_h, TCG_CALL_NO_RWG,
1010                    void, ptr, ptr, ptr, ptr, i32)
1011 DEF_HELPER_FLAGS_5(sve_fsqrt_s, TCG_CALL_NO_RWG,
1012                    void, ptr, ptr, ptr, ptr, i32)
1013 DEF_HELPER_FLAGS_5(sve_fsqrt_d, TCG_CALL_NO_RWG,
1014                    void, ptr, ptr, ptr, ptr, i32)
1015
1016 DEF_HELPER_FLAGS_5(sve_scvt_hh, TCG_CALL_NO_RWG,
1017                    void, ptr, ptr, ptr, ptr, i32)
1018 DEF_HELPER_FLAGS_5(sve_scvt_sh, TCG_CALL_NO_RWG,
1019                    void, ptr, ptr, ptr, ptr, i32)
1020 DEF_HELPER_FLAGS_5(sve_scvt_dh, TCG_CALL_NO_RWG,
1021                    void, ptr, ptr, ptr, ptr, i32)
1022 DEF_HELPER_FLAGS_5(sve_scvt_ss, TCG_CALL_NO_RWG,
1023                    void, ptr, ptr, ptr, ptr, i32)
1024 DEF_HELPER_FLAGS_5(sve_scvt_sd, TCG_CALL_NO_RWG,
1025                    void, ptr, ptr, ptr, ptr, i32)
1026 DEF_HELPER_FLAGS_5(sve_scvt_ds, TCG_CALL_NO_RWG,
1027                    void, ptr, ptr, ptr, ptr, i32)
1028 DEF_HELPER_FLAGS_5(sve_scvt_dd, TCG_CALL_NO_RWG,
1029                    void, ptr, ptr, ptr, ptr, i32)
1030
1031 DEF_HELPER_FLAGS_5(sve_ucvt_hh, TCG_CALL_NO_RWG,
1032                    void, ptr, ptr, ptr, ptr, i32)
1033 DEF_HELPER_FLAGS_5(sve_ucvt_sh, TCG_CALL_NO_RWG,
1034                    void, ptr, ptr, ptr, ptr, i32)
1035 DEF_HELPER_FLAGS_5(sve_ucvt_dh, TCG_CALL_NO_RWG,
1036                    void, ptr, ptr, ptr, ptr, i32)
1037 DEF_HELPER_FLAGS_5(sve_ucvt_ss, TCG_CALL_NO_RWG,
1038                    void, ptr, ptr, ptr, ptr, i32)
1039 DEF_HELPER_FLAGS_5(sve_ucvt_sd, TCG_CALL_NO_RWG,
1040                    void, ptr, ptr, ptr, ptr, i32)
1041 DEF_HELPER_FLAGS_5(sve_ucvt_ds, TCG_CALL_NO_RWG,
1042                    void, ptr, ptr, ptr, ptr, i32)
1043 DEF_HELPER_FLAGS_5(sve_ucvt_dd, TCG_CALL_NO_RWG,
1044                    void, ptr, ptr, ptr, ptr, i32)
1045
1046 DEF_HELPER_FLAGS_6(sve_fcmge_h, TCG_CALL_NO_RWG,
1047                    void, ptr, ptr, ptr, ptr, ptr, i32)
1048 DEF_HELPER_FLAGS_6(sve_fcmge_s, TCG_CALL_NO_RWG,
1049                    void, ptr, ptr, ptr, ptr, ptr, i32)
1050 DEF_HELPER_FLAGS_6(sve_fcmge_d, TCG_CALL_NO_RWG,
1051                    void, ptr, ptr, ptr, ptr, ptr, i32)
1052
1053 DEF_HELPER_FLAGS_6(sve_fcmgt_h, TCG_CALL_NO_RWG,
1054                    void, ptr, ptr, ptr, ptr, ptr, i32)
1055 DEF_HELPER_FLAGS_6(sve_fcmgt_s, TCG_CALL_NO_RWG,
1056                    void, ptr, ptr, ptr, ptr, ptr, i32)
1057 DEF_HELPER_FLAGS_6(sve_fcmgt_d, TCG_CALL_NO_RWG,
1058                    void, ptr, ptr, ptr, ptr, ptr, i32)
1059
1060 DEF_HELPER_FLAGS_6(sve_fcmeq_h, TCG_CALL_NO_RWG,
1061                    void, ptr, ptr, ptr, ptr, ptr, i32)
1062 DEF_HELPER_FLAGS_6(sve_fcmeq_s, TCG_CALL_NO_RWG,
1063                    void, ptr, ptr, ptr, ptr, ptr, i32)
1064 DEF_HELPER_FLAGS_6(sve_fcmeq_d, TCG_CALL_NO_RWG,
1065                    void, ptr, ptr, ptr, ptr, ptr, i32)
1066
1067 DEF_HELPER_FLAGS_6(sve_fcmne_h, TCG_CALL_NO_RWG,
1068                    void, ptr, ptr, ptr, ptr, ptr, i32)
1069 DEF_HELPER_FLAGS_6(sve_fcmne_s, TCG_CALL_NO_RWG,
1070                    void, ptr, ptr, ptr, ptr, ptr, i32)
1071 DEF_HELPER_FLAGS_6(sve_fcmne_d, TCG_CALL_NO_RWG,
1072                    void, ptr, ptr, ptr, ptr, ptr, i32)
1073
1074 DEF_HELPER_FLAGS_6(sve_fcmuo_h, TCG_CALL_NO_RWG,
1075                    void, ptr, ptr, ptr, ptr, ptr, i32)
1076 DEF_HELPER_FLAGS_6(sve_fcmuo_s, TCG_CALL_NO_RWG,
1077                    void, ptr, ptr, ptr, ptr, ptr, i32)
1078 DEF_HELPER_FLAGS_6(sve_fcmuo_d, TCG_CALL_NO_RWG,
1079                    void, ptr, ptr, ptr, ptr, ptr, i32)
1080
1081 DEF_HELPER_FLAGS_6(sve_facge_h, TCG_CALL_NO_RWG,
1082                    void, ptr, ptr, ptr, ptr, ptr, i32)
1083 DEF_HELPER_FLAGS_6(sve_facge_s, TCG_CALL_NO_RWG,
1084                    void, ptr, ptr, ptr, ptr, ptr, i32)
1085 DEF_HELPER_FLAGS_6(sve_facge_d, TCG_CALL_NO_RWG,
1086                    void, ptr, ptr, ptr, ptr, ptr, i32)
1087
1088 DEF_HELPER_FLAGS_6(sve_facgt_h, TCG_CALL_NO_RWG,
1089                    void, ptr, ptr, ptr, ptr, ptr, i32)
1090 DEF_HELPER_FLAGS_6(sve_facgt_s, TCG_CALL_NO_RWG,
1091                    void, ptr, ptr, ptr, ptr, ptr, i32)
1092 DEF_HELPER_FLAGS_6(sve_facgt_d, TCG_CALL_NO_RWG,
1093                    void, ptr, ptr, ptr, ptr, ptr, i32)
1094
1095 DEF_HELPER_FLAGS_6(sve_fcadd_h, TCG_CALL_NO_RWG,
1096                    void, ptr, ptr, ptr, ptr, ptr, i32)
1097 DEF_HELPER_FLAGS_6(sve_fcadd_s, TCG_CALL_NO_RWG,
1098                    void, ptr, ptr, ptr, ptr, ptr, i32)
1099 DEF_HELPER_FLAGS_6(sve_fcadd_d, TCG_CALL_NO_RWG,
1100                    void, ptr, ptr, ptr, ptr, ptr, i32)
1101
1102 DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_h, TCG_CALL_NO_RWG,
1103                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1104 DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_s, TCG_CALL_NO_RWG,
1105                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1106 DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_d, TCG_CALL_NO_RWG,
1107                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1108
1109 DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_h, TCG_CALL_NO_RWG,
1110                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1111 DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_s, TCG_CALL_NO_RWG,
1112                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1113 DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_d, TCG_CALL_NO_RWG,
1114                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1115
1116 DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_h, TCG_CALL_NO_RWG,
1117                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1118 DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_s, TCG_CALL_NO_RWG,
1119                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1120 DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_d, TCG_CALL_NO_RWG,
1121                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1122
1123 DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_h, TCG_CALL_NO_RWG,
1124                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1125 DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_s, TCG_CALL_NO_RWG,
1126                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1127 DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_d, TCG_CALL_NO_RWG,
1128                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1129
1130 DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_h, TCG_CALL_NO_RWG,
1131                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1132 DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_s, TCG_CALL_NO_RWG,
1133                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1134 DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_d, TCG_CALL_NO_RWG,
1135                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
1136
1137 DEF_HELPER_FLAGS_5(sve_ftmad_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
1138 DEF_HELPER_FLAGS_5(sve_ftmad_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
1139 DEF_HELPER_FLAGS_5(sve_ftmad_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
1140
1141 DEF_HELPER_FLAGS_4(sve_ld1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1142 DEF_HELPER_FLAGS_4(sve_ld2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1143 DEF_HELPER_FLAGS_4(sve_ld3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1144 DEF_HELPER_FLAGS_4(sve_ld4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1145
1146 DEF_HELPER_FLAGS_4(sve_ld1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1147 DEF_HELPER_FLAGS_4(sve_ld2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1148 DEF_HELPER_FLAGS_4(sve_ld3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1149 DEF_HELPER_FLAGS_4(sve_ld4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1150
1151 DEF_HELPER_FLAGS_4(sve_ld1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1152 DEF_HELPER_FLAGS_4(sve_ld2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1153 DEF_HELPER_FLAGS_4(sve_ld3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1154 DEF_HELPER_FLAGS_4(sve_ld4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1155
1156 DEF_HELPER_FLAGS_4(sve_ld1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1157 DEF_HELPER_FLAGS_4(sve_ld2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1158 DEF_HELPER_FLAGS_4(sve_ld3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1159 DEF_HELPER_FLAGS_4(sve_ld4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1160
1161 DEF_HELPER_FLAGS_4(sve_ld1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1162 DEF_HELPER_FLAGS_4(sve_ld2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1163 DEF_HELPER_FLAGS_4(sve_ld3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1164 DEF_HELPER_FLAGS_4(sve_ld4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1165
1166 DEF_HELPER_FLAGS_4(sve_ld1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1167 DEF_HELPER_FLAGS_4(sve_ld2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1168 DEF_HELPER_FLAGS_4(sve_ld3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1169 DEF_HELPER_FLAGS_4(sve_ld4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1170
1171 DEF_HELPER_FLAGS_4(sve_ld1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1172 DEF_HELPER_FLAGS_4(sve_ld2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1173 DEF_HELPER_FLAGS_4(sve_ld3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1174 DEF_HELPER_FLAGS_4(sve_ld4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1175
1176 DEF_HELPER_FLAGS_4(sve_ld1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1177 DEF_HELPER_FLAGS_4(sve_ld1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1178 DEF_HELPER_FLAGS_4(sve_ld1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1179 DEF_HELPER_FLAGS_4(sve_ld1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1180 DEF_HELPER_FLAGS_4(sve_ld1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1181 DEF_HELPER_FLAGS_4(sve_ld1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1182
1183 DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1184 DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1185 DEF_HELPER_FLAGS_4(sve_ld1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1186 DEF_HELPER_FLAGS_4(sve_ld1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1187
1188 DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1189 DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1190 DEF_HELPER_FLAGS_4(sve_ld1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1191 DEF_HELPER_FLAGS_4(sve_ld1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1192
1193 DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1194 DEF_HELPER_FLAGS_4(sve_ld1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1195
1196 DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1197 DEF_HELPER_FLAGS_4(sve_ld1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1198
1199 DEF_HELPER_FLAGS_4(sve_ld1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1200 DEF_HELPER_FLAGS_4(sve_ld2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1201 DEF_HELPER_FLAGS_4(sve_ld3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1202 DEF_HELPER_FLAGS_4(sve_ld4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1203
1204 DEF_HELPER_FLAGS_4(sve_ld1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1205 DEF_HELPER_FLAGS_4(sve_ld2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1206 DEF_HELPER_FLAGS_4(sve_ld3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1207 DEF_HELPER_FLAGS_4(sve_ld4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1208
1209 DEF_HELPER_FLAGS_4(sve_ld1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1210 DEF_HELPER_FLAGS_4(sve_ld2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1211 DEF_HELPER_FLAGS_4(sve_ld3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1212 DEF_HELPER_FLAGS_4(sve_ld4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1213
1214 DEF_HELPER_FLAGS_4(sve_ld1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1215 DEF_HELPER_FLAGS_4(sve_ld2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1216 DEF_HELPER_FLAGS_4(sve_ld3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1217 DEF_HELPER_FLAGS_4(sve_ld4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1218
1219 DEF_HELPER_FLAGS_4(sve_ld1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1220 DEF_HELPER_FLAGS_4(sve_ld2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1221 DEF_HELPER_FLAGS_4(sve_ld3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1222 DEF_HELPER_FLAGS_4(sve_ld4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1223
1224 DEF_HELPER_FLAGS_4(sve_ld1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1225 DEF_HELPER_FLAGS_4(sve_ld2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1226 DEF_HELPER_FLAGS_4(sve_ld3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1227 DEF_HELPER_FLAGS_4(sve_ld4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1228
1229 DEF_HELPER_FLAGS_4(sve_ld1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1230 DEF_HELPER_FLAGS_4(sve_ld2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1231 DEF_HELPER_FLAGS_4(sve_ld3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1232 DEF_HELPER_FLAGS_4(sve_ld4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1233
1234 DEF_HELPER_FLAGS_4(sve_ld1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1235 DEF_HELPER_FLAGS_4(sve_ld1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1236 DEF_HELPER_FLAGS_4(sve_ld1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1237 DEF_HELPER_FLAGS_4(sve_ld1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1238 DEF_HELPER_FLAGS_4(sve_ld1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1239 DEF_HELPER_FLAGS_4(sve_ld1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1240
1241 DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1242 DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1243 DEF_HELPER_FLAGS_4(sve_ld1hss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1244 DEF_HELPER_FLAGS_4(sve_ld1hds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1245
1246 DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1247 DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1248 DEF_HELPER_FLAGS_4(sve_ld1hss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1249 DEF_HELPER_FLAGS_4(sve_ld1hds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1250
1251 DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1252 DEF_HELPER_FLAGS_4(sve_ld1sds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1253
1254 DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1255 DEF_HELPER_FLAGS_4(sve_ld1sds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1256
1257 DEF_HELPER_FLAGS_4(sve_ldff1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1258 DEF_HELPER_FLAGS_4(sve_ldff1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1259 DEF_HELPER_FLAGS_4(sve_ldff1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1260 DEF_HELPER_FLAGS_4(sve_ldff1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1261 DEF_HELPER_FLAGS_4(sve_ldff1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1262 DEF_HELPER_FLAGS_4(sve_ldff1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1263 DEF_HELPER_FLAGS_4(sve_ldff1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1264
1265 DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1266 DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1267 DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1268 DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1269 DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1270
1271 DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1272 DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1273 DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1274 DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1275 DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1276
1277 DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1278 DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1279 DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1280
1281 DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1282 DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1283 DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1284
1285 DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1286 DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1287
1288 DEF_HELPER_FLAGS_4(sve_ldnf1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1289 DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1290 DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1291 DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1292 DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1293 DEF_HELPER_FLAGS_4(sve_ldnf1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1294 DEF_HELPER_FLAGS_4(sve_ldnf1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1295
1296 DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1297 DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1298 DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1299 DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1300 DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1301
1302 DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1303 DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1304 DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1305 DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1306 DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1307
1308 DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1309 DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1310 DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1311
1312 DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1313 DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1314 DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1315
1316 DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1317 DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1318
1319 DEF_HELPER_FLAGS_4(sve_st1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1320 DEF_HELPER_FLAGS_4(sve_st2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1321 DEF_HELPER_FLAGS_4(sve_st3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1322 DEF_HELPER_FLAGS_4(sve_st4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1323
1324 DEF_HELPER_FLAGS_4(sve_st1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1325 DEF_HELPER_FLAGS_4(sve_st2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1326 DEF_HELPER_FLAGS_4(sve_st3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1327 DEF_HELPER_FLAGS_4(sve_st4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1328
1329 DEF_HELPER_FLAGS_4(sve_st1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1330 DEF_HELPER_FLAGS_4(sve_st2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1331 DEF_HELPER_FLAGS_4(sve_st3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1332 DEF_HELPER_FLAGS_4(sve_st4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1333
1334 DEF_HELPER_FLAGS_4(sve_st1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1335 DEF_HELPER_FLAGS_4(sve_st2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1336 DEF_HELPER_FLAGS_4(sve_st3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1337 DEF_HELPER_FLAGS_4(sve_st4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1338
1339 DEF_HELPER_FLAGS_4(sve_st1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1340 DEF_HELPER_FLAGS_4(sve_st2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1341 DEF_HELPER_FLAGS_4(sve_st3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1342 DEF_HELPER_FLAGS_4(sve_st4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1343
1344 DEF_HELPER_FLAGS_4(sve_st1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1345 DEF_HELPER_FLAGS_4(sve_st2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1346 DEF_HELPER_FLAGS_4(sve_st3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1347 DEF_HELPER_FLAGS_4(sve_st4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1348
1349 DEF_HELPER_FLAGS_4(sve_st1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1350 DEF_HELPER_FLAGS_4(sve_st2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1351 DEF_HELPER_FLAGS_4(sve_st3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1352 DEF_HELPER_FLAGS_4(sve_st4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1353
1354 DEF_HELPER_FLAGS_4(sve_st1bh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1355 DEF_HELPER_FLAGS_4(sve_st1bs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1356 DEF_HELPER_FLAGS_4(sve_st1bd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1357
1358 DEF_HELPER_FLAGS_4(sve_st1hs_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1359 DEF_HELPER_FLAGS_4(sve_st1hd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1360 DEF_HELPER_FLAGS_4(sve_st1hs_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1361 DEF_HELPER_FLAGS_4(sve_st1hd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1362
1363 DEF_HELPER_FLAGS_4(sve_st1sd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1364 DEF_HELPER_FLAGS_4(sve_st1sd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1365
1366 DEF_HELPER_FLAGS_6(sve_ldbsu_zsu, TCG_CALL_NO_WG,
1367                    void, env, ptr, ptr, ptr, tl, i32)
1368 DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu, TCG_CALL_NO_WG,
1369                    void, env, ptr, ptr, ptr, tl, i32)
1370 DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu, TCG_CALL_NO_WG,
1371                    void, env, ptr, ptr, ptr, tl, i32)
1372 DEF_HELPER_FLAGS_6(sve_ldss_le_zsu, TCG_CALL_NO_WG,
1373                    void, env, ptr, ptr, ptr, tl, i32)
1374 DEF_HELPER_FLAGS_6(sve_ldss_be_zsu, TCG_CALL_NO_WG,
1375                    void, env, ptr, ptr, ptr, tl, i32)
1376 DEF_HELPER_FLAGS_6(sve_ldbss_zsu, TCG_CALL_NO_WG,
1377                    void, env, ptr, ptr, ptr, tl, i32)
1378 DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu, TCG_CALL_NO_WG,
1379                    void, env, ptr, ptr, ptr, tl, i32)
1380 DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu, TCG_CALL_NO_WG,
1381                    void, env, ptr, ptr, ptr, tl, i32)
1382
1383 DEF_HELPER_FLAGS_6(sve_ldbsu_zss, TCG_CALL_NO_WG,
1384                    void, env, ptr, ptr, ptr, tl, i32)
1385 DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss, TCG_CALL_NO_WG,
1386                    void, env, ptr, ptr, ptr, tl, i32)
1387 DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss, TCG_CALL_NO_WG,
1388                    void, env, ptr, ptr, ptr, tl, i32)
1389 DEF_HELPER_FLAGS_6(sve_ldss_le_zss, TCG_CALL_NO_WG,
1390                    void, env, ptr, ptr, ptr, tl, i32)
1391 DEF_HELPER_FLAGS_6(sve_ldss_be_zss, TCG_CALL_NO_WG,
1392                    void, env, ptr, ptr, ptr, tl, i32)
1393 DEF_HELPER_FLAGS_6(sve_ldbss_zss, TCG_CALL_NO_WG,
1394                    void, env, ptr, ptr, ptr, tl, i32)
1395 DEF_HELPER_FLAGS_6(sve_ldhss_le_zss, TCG_CALL_NO_WG,
1396                    void, env, ptr, ptr, ptr, tl, i32)
1397 DEF_HELPER_FLAGS_6(sve_ldhss_be_zss, TCG_CALL_NO_WG,
1398                    void, env, ptr, ptr, ptr, tl, i32)
1399
1400 DEF_HELPER_FLAGS_6(sve_ldbdu_zsu, TCG_CALL_NO_WG,
1401                    void, env, ptr, ptr, ptr, tl, i32)
1402 DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu, TCG_CALL_NO_WG,
1403                    void, env, ptr, ptr, ptr, tl, i32)
1404 DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu, TCG_CALL_NO_WG,
1405                    void, env, ptr, ptr, ptr, tl, i32)
1406 DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu, TCG_CALL_NO_WG,
1407                    void, env, ptr, ptr, ptr, tl, i32)
1408 DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu, TCG_CALL_NO_WG,
1409                    void, env, ptr, ptr, ptr, tl, i32)
1410 DEF_HELPER_FLAGS_6(sve_lddd_le_zsu, TCG_CALL_NO_WG,
1411                    void, env, ptr, ptr, ptr, tl, i32)
1412 DEF_HELPER_FLAGS_6(sve_lddd_be_zsu, TCG_CALL_NO_WG,
1413                    void, env, ptr, ptr, ptr, tl, i32)
1414 DEF_HELPER_FLAGS_6(sve_ldbds_zsu, TCG_CALL_NO_WG,
1415                    void, env, ptr, ptr, ptr, tl, i32)
1416 DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu, TCG_CALL_NO_WG,
1417                    void, env, ptr, ptr, ptr, tl, i32)
1418 DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu, TCG_CALL_NO_WG,
1419                    void, env, ptr, ptr, ptr, tl, i32)
1420 DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu, TCG_CALL_NO_WG,
1421                    void, env, ptr, ptr, ptr, tl, i32)
1422 DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu, TCG_CALL_NO_WG,
1423                    void, env, ptr, ptr, ptr, tl, i32)
1424
1425 DEF_HELPER_FLAGS_6(sve_ldbdu_zss, TCG_CALL_NO_WG,
1426                    void, env, ptr, ptr, ptr, tl, i32)
1427 DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss, TCG_CALL_NO_WG,
1428                    void, env, ptr, ptr, ptr, tl, i32)
1429 DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss, TCG_CALL_NO_WG,
1430                    void, env, ptr, ptr, ptr, tl, i32)
1431 DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss, TCG_CALL_NO_WG,
1432                    void, env, ptr, ptr, ptr, tl, i32)
1433 DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss, TCG_CALL_NO_WG,
1434                    void, env, ptr, ptr, ptr, tl, i32)
1435 DEF_HELPER_FLAGS_6(sve_lddd_le_zss, TCG_CALL_NO_WG,
1436                    void, env, ptr, ptr, ptr, tl, i32)
1437 DEF_HELPER_FLAGS_6(sve_lddd_be_zss, TCG_CALL_NO_WG,
1438                    void, env, ptr, ptr, ptr, tl, i32)
1439 DEF_HELPER_FLAGS_6(sve_ldbds_zss, TCG_CALL_NO_WG,
1440                    void, env, ptr, ptr, ptr, tl, i32)
1441 DEF_HELPER_FLAGS_6(sve_ldhds_le_zss, TCG_CALL_NO_WG,
1442                    void, env, ptr, ptr, ptr, tl, i32)
1443 DEF_HELPER_FLAGS_6(sve_ldhds_be_zss, TCG_CALL_NO_WG,
1444                    void, env, ptr, ptr, ptr, tl, i32)
1445 DEF_HELPER_FLAGS_6(sve_ldsds_le_zss, TCG_CALL_NO_WG,
1446                    void, env, ptr, ptr, ptr, tl, i32)
1447 DEF_HELPER_FLAGS_6(sve_ldsds_be_zss, TCG_CALL_NO_WG,
1448                    void, env, ptr, ptr, ptr, tl, i32)
1449
1450 DEF_HELPER_FLAGS_6(sve_ldbdu_zd, TCG_CALL_NO_WG,
1451                    void, env, ptr, ptr, ptr, tl, i32)
1452 DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd, TCG_CALL_NO_WG,
1453                    void, env, ptr, ptr, ptr, tl, i32)
1454 DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd, TCG_CALL_NO_WG,
1455                    void, env, ptr, ptr, ptr, tl, i32)
1456 DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd, TCG_CALL_NO_WG,
1457                    void, env, ptr, ptr, ptr, tl, i32)
1458 DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd, TCG_CALL_NO_WG,
1459                    void, env, ptr, ptr, ptr, tl, i32)
1460 DEF_HELPER_FLAGS_6(sve_lddd_le_zd, TCG_CALL_NO_WG,
1461                    void, env, ptr, ptr, ptr, tl, i32)
1462 DEF_HELPER_FLAGS_6(sve_lddd_be_zd, TCG_CALL_NO_WG,
1463                    void, env, ptr, ptr, ptr, tl, i32)
1464 DEF_HELPER_FLAGS_6(sve_ldbds_zd, TCG_CALL_NO_WG,
1465                    void, env, ptr, ptr, ptr, tl, i32)
1466 DEF_HELPER_FLAGS_6(sve_ldhds_le_zd, TCG_CALL_NO_WG,
1467                    void, env, ptr, ptr, ptr, tl, i32)
1468 DEF_HELPER_FLAGS_6(sve_ldhds_be_zd, TCG_CALL_NO_WG,
1469                    void, env, ptr, ptr, ptr, tl, i32)
1470 DEF_HELPER_FLAGS_6(sve_ldsds_le_zd, TCG_CALL_NO_WG,
1471                    void, env, ptr, ptr, ptr, tl, i32)
1472 DEF_HELPER_FLAGS_6(sve_ldsds_be_zd, TCG_CALL_NO_WG,
1473                    void, env, ptr, ptr, ptr, tl, i32)
1474
1475 DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu, TCG_CALL_NO_WG,
1476                    void, env, ptr, ptr, ptr, tl, i32)
1477 DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu, TCG_CALL_NO_WG,
1478                    void, env, ptr, ptr, ptr, tl, i32)
1479 DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu, TCG_CALL_NO_WG,
1480                    void, env, ptr, ptr, ptr, tl, i32)
1481 DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu, TCG_CALL_NO_WG,
1482                    void, env, ptr, ptr, ptr, tl, i32)
1483 DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu, TCG_CALL_NO_WG,
1484                    void, env, ptr, ptr, ptr, tl, i32)
1485 DEF_HELPER_FLAGS_6(sve_ldffbss_zsu, TCG_CALL_NO_WG,
1486                    void, env, ptr, ptr, ptr, tl, i32)
1487 DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu, TCG_CALL_NO_WG,
1488                    void, env, ptr, ptr, ptr, tl, i32)
1489 DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu, TCG_CALL_NO_WG,
1490                    void, env, ptr, ptr, ptr, tl, i32)
1491
1492 DEF_HELPER_FLAGS_6(sve_ldffbsu_zss, TCG_CALL_NO_WG,
1493                    void, env, ptr, ptr, ptr, tl, i32)
1494 DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss, TCG_CALL_NO_WG,
1495                    void, env, ptr, ptr, ptr, tl, i32)
1496 DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss, TCG_CALL_NO_WG,
1497                    void, env, ptr, ptr, ptr, tl, i32)
1498 DEF_HELPER_FLAGS_6(sve_ldffss_le_zss, TCG_CALL_NO_WG,
1499                    void, env, ptr, ptr, ptr, tl, i32)
1500 DEF_HELPER_FLAGS_6(sve_ldffss_be_zss, TCG_CALL_NO_WG,
1501                    void, env, ptr, ptr, ptr, tl, i32)
1502 DEF_HELPER_FLAGS_6(sve_ldffbss_zss, TCG_CALL_NO_WG,
1503                    void, env, ptr, ptr, ptr, tl, i32)
1504 DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss, TCG_CALL_NO_WG,
1505                    void, env, ptr, ptr, ptr, tl, i32)
1506 DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss, TCG_CALL_NO_WG,
1507                    void, env, ptr, ptr, ptr, tl, i32)
1508
1509 DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu, TCG_CALL_NO_WG,
1510                    void, env, ptr, ptr, ptr, tl, i32)
1511 DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu, TCG_CALL_NO_WG,
1512                    void, env, ptr, ptr, ptr, tl, i32)
1513 DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu, TCG_CALL_NO_WG,
1514                    void, env, ptr, ptr, ptr, tl, i32)
1515 DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu, TCG_CALL_NO_WG,
1516                    void, env, ptr, ptr, ptr, tl, i32)
1517 DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu, TCG_CALL_NO_WG,
1518                    void, env, ptr, ptr, ptr, tl, i32)
1519 DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu, TCG_CALL_NO_WG,
1520                    void, env, ptr, ptr, ptr, tl, i32)
1521 DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu, TCG_CALL_NO_WG,
1522                    void, env, ptr, ptr, ptr, tl, i32)
1523 DEF_HELPER_FLAGS_6(sve_ldffbds_zsu, TCG_CALL_NO_WG,
1524                    void, env, ptr, ptr, ptr, tl, i32)
1525 DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu, TCG_CALL_NO_WG,
1526                    void, env, ptr, ptr, ptr, tl, i32)
1527 DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu, TCG_CALL_NO_WG,
1528                    void, env, ptr, ptr, ptr, tl, i32)
1529 DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu, TCG_CALL_NO_WG,
1530                    void, env, ptr, ptr, ptr, tl, i32)
1531 DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu, TCG_CALL_NO_WG,
1532                    void, env, ptr, ptr, ptr, tl, i32)
1533
1534 DEF_HELPER_FLAGS_6(sve_ldffbdu_zss, TCG_CALL_NO_WG,
1535                    void, env, ptr, ptr, ptr, tl, i32)
1536 DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss, TCG_CALL_NO_WG,
1537                    void, env, ptr, ptr, ptr, tl, i32)
1538 DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss, TCG_CALL_NO_WG,
1539                    void, env, ptr, ptr, ptr, tl, i32)
1540 DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss, TCG_CALL_NO_WG,
1541                    void, env, ptr, ptr, ptr, tl, i32)
1542 DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss, TCG_CALL_NO_WG,
1543                    void, env, ptr, ptr, ptr, tl, i32)
1544 DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss, TCG_CALL_NO_WG,
1545                    void, env, ptr, ptr, ptr, tl, i32)
1546 DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss, TCG_CALL_NO_WG,
1547                    void, env, ptr, ptr, ptr, tl, i32)
1548 DEF_HELPER_FLAGS_6(sve_ldffbds_zss, TCG_CALL_NO_WG,
1549                    void, env, ptr, ptr, ptr, tl, i32)
1550 DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss, TCG_CALL_NO_WG,
1551                    void, env, ptr, ptr, ptr, tl, i32)
1552 DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss, TCG_CALL_NO_WG,
1553                    void, env, ptr, ptr, ptr, tl, i32)
1554 DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss, TCG_CALL_NO_WG,
1555                    void, env, ptr, ptr, ptr, tl, i32)
1556 DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss, TCG_CALL_NO_WG,
1557                    void, env, ptr, ptr, ptr, tl, i32)
1558
1559 DEF_HELPER_FLAGS_6(sve_ldffbdu_zd, TCG_CALL_NO_WG,
1560                    void, env, ptr, ptr, ptr, tl, i32)
1561 DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd, TCG_CALL_NO_WG,
1562                    void, env, ptr, ptr, ptr, tl, i32)
1563 DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd, TCG_CALL_NO_WG,
1564                    void, env, ptr, ptr, ptr, tl, i32)
1565 DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd, TCG_CALL_NO_WG,
1566                    void, env, ptr, ptr, ptr, tl, i32)
1567 DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd, TCG_CALL_NO_WG,
1568                    void, env, ptr, ptr, ptr, tl, i32)
1569 DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd, TCG_CALL_NO_WG,
1570                    void, env, ptr, ptr, ptr, tl, i32)
1571 DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd, TCG_CALL_NO_WG,
1572                    void, env, ptr, ptr, ptr, tl, i32)
1573 DEF_HELPER_FLAGS_6(sve_ldffbds_zd, TCG_CALL_NO_WG,
1574                    void, env, ptr, ptr, ptr, tl, i32)
1575 DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd, TCG_CALL_NO_WG,
1576                    void, env, ptr, ptr, ptr, tl, i32)
1577 DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd, TCG_CALL_NO_WG,
1578                    void, env, ptr, ptr, ptr, tl, i32)
1579 DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd, TCG_CALL_NO_WG,
1580                    void, env, ptr, ptr, ptr, tl, i32)
1581 DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd, TCG_CALL_NO_WG,
1582                    void, env, ptr, ptr, ptr, tl, i32)
1583
1584 DEF_HELPER_FLAGS_6(sve_stbs_zsu, TCG_CALL_NO_WG,
1585                    void, env, ptr, ptr, ptr, tl, i32)
1586 DEF_HELPER_FLAGS_6(sve_sths_le_zsu, TCG_CALL_NO_WG,
1587                    void, env, ptr, ptr, ptr, tl, i32)
1588 DEF_HELPER_FLAGS_6(sve_sths_be_zsu, TCG_CALL_NO_WG,
1589                    void, env, ptr, ptr, ptr, tl, i32)
1590 DEF_HELPER_FLAGS_6(sve_stss_le_zsu, TCG_CALL_NO_WG,
1591                    void, env, ptr, ptr, ptr, tl, i32)
1592 DEF_HELPER_FLAGS_6(sve_stss_be_zsu, TCG_CALL_NO_WG,
1593                    void, env, ptr, ptr, ptr, tl, i32)
1594
1595 DEF_HELPER_FLAGS_6(sve_stbs_zss, TCG_CALL_NO_WG,
1596                    void, env, ptr, ptr, ptr, tl, i32)
1597 DEF_HELPER_FLAGS_6(sve_sths_le_zss, TCG_CALL_NO_WG,
1598                    void, env, ptr, ptr, ptr, tl, i32)
1599 DEF_HELPER_FLAGS_6(sve_sths_be_zss, TCG_CALL_NO_WG,
1600                    void, env, ptr, ptr, ptr, tl, i32)
1601 DEF_HELPER_FLAGS_6(sve_stss_le_zss, TCG_CALL_NO_WG,
1602                    void, env, ptr, ptr, ptr, tl, i32)
1603 DEF_HELPER_FLAGS_6(sve_stss_be_zss, TCG_CALL_NO_WG,
1604                    void, env, ptr, ptr, ptr, tl, i32)
1605
1606 DEF_HELPER_FLAGS_6(sve_stbd_zsu, TCG_CALL_NO_WG,
1607                    void, env, ptr, ptr, ptr, tl, i32)
1608 DEF_HELPER_FLAGS_6(sve_sthd_le_zsu, TCG_CALL_NO_WG,
1609                    void, env, ptr, ptr, ptr, tl, i32)
1610 DEF_HELPER_FLAGS_6(sve_sthd_be_zsu, TCG_CALL_NO_WG,
1611                    void, env, ptr, ptr, ptr, tl, i32)
1612 DEF_HELPER_FLAGS_6(sve_stsd_le_zsu, TCG_CALL_NO_WG,
1613                    void, env, ptr, ptr, ptr, tl, i32)
1614 DEF_HELPER_FLAGS_6(sve_stsd_be_zsu, TCG_CALL_NO_WG,
1615                    void, env, ptr, ptr, ptr, tl, i32)
1616 DEF_HELPER_FLAGS_6(sve_stdd_le_zsu, TCG_CALL_NO_WG,
1617                    void, env, ptr, ptr, ptr, tl, i32)
1618 DEF_HELPER_FLAGS_6(sve_stdd_be_zsu, TCG_CALL_NO_WG,
1619                    void, env, ptr, ptr, ptr, tl, i32)
1620
1621 DEF_HELPER_FLAGS_6(sve_stbd_zss, TCG_CALL_NO_WG,
1622                    void, env, ptr, ptr, ptr, tl, i32)
1623 DEF_HELPER_FLAGS_6(sve_sthd_le_zss, TCG_CALL_NO_WG,
1624                    void, env, ptr, ptr, ptr, tl, i32)
1625 DEF_HELPER_FLAGS_6(sve_sthd_be_zss, TCG_CALL_NO_WG,
1626                    void, env, ptr, ptr, ptr, tl, i32)
1627 DEF_HELPER_FLAGS_6(sve_stsd_le_zss, TCG_CALL_NO_WG,
1628                    void, env, ptr, ptr, ptr, tl, i32)
1629 DEF_HELPER_FLAGS_6(sve_stsd_be_zss, TCG_CALL_NO_WG,
1630                    void, env, ptr, ptr, ptr, tl, i32)
1631 DEF_HELPER_FLAGS_6(sve_stdd_le_zss, TCG_CALL_NO_WG,
1632                    void, env, ptr, ptr, ptr, tl, i32)
1633 DEF_HELPER_FLAGS_6(sve_stdd_be_zss, TCG_CALL_NO_WG,
1634                    void, env, ptr, ptr, ptr, tl, i32)
1635
1636 DEF_HELPER_FLAGS_6(sve_stbd_zd, TCG_CALL_NO_WG,
1637                    void, env, ptr, ptr, ptr, tl, i32)
1638 DEF_HELPER_FLAGS_6(sve_sthd_le_zd, TCG_CALL_NO_WG,
1639                    void, env, ptr, ptr, ptr, tl, i32)
1640 DEF_HELPER_FLAGS_6(sve_sthd_be_zd, TCG_CALL_NO_WG,
1641                    void, env, ptr, ptr, ptr, tl, i32)
1642 DEF_HELPER_FLAGS_6(sve_stsd_le_zd, TCG_CALL_NO_WG,
1643                    void, env, ptr, ptr, ptr, tl, i32)
1644 DEF_HELPER_FLAGS_6(sve_stsd_be_zd, TCG_CALL_NO_WG,
1645                    void, env, ptr, ptr, ptr, tl, i32)
1646 DEF_HELPER_FLAGS_6(sve_stdd_le_zd, TCG_CALL_NO_WG,
1647                    void, env, ptr, ptr, ptr, tl, i32)
1648 DEF_HELPER_FLAGS_6(sve_stdd_be_zd, TCG_CALL_NO_WG,
1649                    void, env, ptr, ptr, ptr, tl, i32)
1650
1651 DEF_HELPER_FLAGS_4(sve2_pmull_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)