]> git.proxmox.com Git - qemu.git/blobdiff - target-ppc/op.c
target-ppc: convert crf related instructions to TCG
[qemu.git] / target-ppc / op.c
index ecb991786f7bc72f5dc17eaffe5fa83e5342c884..d9676ba81eef2c354b7ea1c82b4c1d3edf41ef0f 100644 (file)
@@ -1,7 +1,7 @@
 /*
- *  PPC emulation micro-operations for qemu.
- * 
- *  Copyright (c) 2003 Jocelyn Mayer
+ *  PowerPC emulation micro-operations for qemu.
+ *
+ *  Copyright (c) 2003-2007 Jocelyn Mayer
  *
  * This library is free software; you can redistribute it and/or
  * modify it under the terms of the GNU Lesser General Public
  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  */
 
+//#define DEBUG_OP
+
 #include "config.h"
 #include "exec.h"
+#include "host-utils.h"
+#include "helper_regs.h"
+#include "op_helper.h"
 
-#define regs (env)
-extern uint32_t __a;
-extern uint32_t __b;
-extern uint32_t __c;
-extern uint32_t __d;
-extern uint32_t __e;
-extern uint32_t __f;
-#define Ts0 (int32_t)T0
-#define Ts1 (int32_t)T1
-#define Ts2 (int32_t)T2
+/* Generate exceptions */
+void OPPROTO op_raise_exception_err (void)
+{
+    do_raise_exception_err(PARAM1, PARAM2);
+}
 
-#include "op-multi.c"
+void OPPROTO op_debug (void)
+{
+    do_raise_exception(EXCP_DEBUG);
+}
 
-#define PPC_OP(name) void op_##name(void)
+/* Load/store special registers */
+#if defined(TARGET_PPC64)
+void OPPROTO op_store_pri (void)
+{
+    do_store_pri(PARAM1);
+    RETURN();
+}
+#endif
 
-/* PPC state maintenance operations */
-/* set_Rc0 */
-PPC_OP(set_Rc0)
+#if !defined(CONFIG_USER_ONLY)
+/* Segment registers load and store */
+void OPPROTO op_load_sr (void)
 {
-    uint32_t tmp;
+    T0 = env->sr[T1];
+    RETURN();
+}
 
-    if (Ts0 < 0) {
-        tmp = 0x08;
-    } else if (Ts0 > 0) {
-        tmp = 0x04;
-    } else {
-        tmp = 0x02;
-    }
-    set_CRn(0, tmp);
+void OPPROTO op_store_sr (void)
+{
+    do_store_sr(env, T1, T0);
     RETURN();
 }
 
-PPC_OP(set_Rc0_ov)
+#if defined(TARGET_PPC64)
+void OPPROTO op_load_slb (void)
 {
-    uint32_t tmp;
+    T0 = ppc_load_slb(env, T1);
+    RETURN();
+}
 
-    if (Ts0 < 0) {
-        tmp = 0x08;
-    } else if (Ts0 > 0) {
-        tmp = 0x04;
-    } else {
-        tmp = 0x02;
-    }
-    tmp |= xer_ov;
-    set_CRn(0, tmp);
+void OPPROTO op_store_slb (void)
+{
+    ppc_store_slb(env, T1, T0);
     RETURN();
 }
+#endif /* defined(TARGET_PPC64) */
 
-/* reset_Rc0 */
-PPC_OP(reset_Rc0)
+void OPPROTO op_load_sdr1 (void)
 {
-    set_CRn(0, 0x02 | xer_ov);
+    T0 = env->sdr1;
     RETURN();
 }
 
-/* set_Rc0_1 */
-PPC_OP(set_Rc0_1)
+void OPPROTO op_store_sdr1 (void)
 {
-    set_CRn(0, 0x04 | xer_ov);
+    do_store_sdr1(env, T0);
     RETURN();
 }
 
-PPC_OP(set_T0)
+#if defined (TARGET_PPC64)
+void OPPROTO op_load_asr (void)
 {
-    T0 = PARAM(1);
+    T0 = env->asr;
     RETURN();
 }
 
-PPC_OP(set_T1)
+void OPPROTO op_store_asr (void)
 {
-    T1 = PARAM(1);
+    ppc_store_asr(env, T0);
     RETURN();
 }
+#endif
 
-PPC_OP(set_T2)
+void OPPROTO op_load_msr (void)
 {
-    T2 = PARAM(1);
+    T0 = env->msr;
     RETURN();
 }
 
-/* Update time base */
-PPC_OP(update_tb)
+void OPPROTO op_store_msr (void)
 {
-    T0 = regs->spr[SPR_ENCODE(268)];
-    T1 = T0;
-    T0 += PARAM(1);
-    if (T0 < T1) {
-        T1 = regs->spr[SPR_ENCODE(269)] + 1;
-        regs->spr[SPR_ENCODE(269)] = T1;
-    }
-    regs->spr[SPR_ENCODE(268)] = T0;
+    do_store_msr();
     RETURN();
 }
 
-PPC_OP(raise_exception)
+#if defined (TARGET_PPC64)
+void OPPROTO op_store_msr_32 (void)
 {
-    raise_exception(PARAM(1));
+    T0 = (env->msr & ~0xFFFFFFFFULL) | (T0 & 0xFFFFFFFF);
+    do_store_msr();
     RETURN();
 }
+#endif
 
-PPC_OP(exit_tb)
+void OPPROTO op_update_riee (void)
 {
-    EXIT_TB();
+    /* We don't call do_store_msr here as we won't trigger
+     * any special case nor change hflags
+     */
+    T0 &= (1 << MSR_RI) | (1 << MSR_EE);
+    env->msr &= ~(1 << MSR_RI) | (1 << MSR_EE);
+    env->msr |= T0;
+    RETURN();
 }
+#endif
 
-PPC_OP(load_cr)
+/* SPR */
+void OPPROTO op_load_spr (void)
 {
-    T0 = do_load_cr();
+    T0 = env->spr[PARAM1];
     RETURN();
 }
 
-PPC_OP(store_cr)
+void OPPROTO op_store_spr (void)
 {
-    do_store_cr(PARAM(1), T0);
+    env->spr[PARAM1] = T0;
     RETURN();
 }
 
-PPC_OP(load_xer_cr)
+void OPPROTO op_load_dump_spr (void)
 {
-    T0 = (xer_so << 3) | (xer_ov << 2) | (xer_ca << 1);
+    T0 = ppc_load_dump_spr(PARAM1);
     RETURN();
 }
 
-PPC_OP(clear_xer_cr)
+void OPPROTO op_store_dump_spr (void)
 {
-    xer_so = 0;
-    xer_ov = 0;
-    xer_ca = 0;
+    ppc_store_dump_spr(PARAM1, T0);
     RETURN();
 }
 
-PPC_OP(load_xer_bc)
+void OPPROTO op_mask_spr (void)
 {
-    T0 = xer_bc;
+    env->spr[PARAM1] &= ~T0;
     RETURN();
 }
 
-PPC_OP(load_xer)
+void OPPROTO op_load_tbl (void)
 {
-    T0 = do_load_xer();
+    T0 = cpu_ppc_load_tbl(env);
     RETURN();
 }
 
-PPC_OP(store_xer)
+void OPPROTO op_load_tbu (void)
 {
-    do_store_xer(T0);
+    T0 = cpu_ppc_load_tbu(env);
     RETURN();
 }
 
-PPC_OP(load_msr)
+void OPPROTO op_load_atbl (void)
 {
-    T0 = do_load_msr();
+    T0 = cpu_ppc_load_atbl(env);
     RETURN();
 }
 
-PPC_OP(store_msr)
+void OPPROTO op_load_atbu (void)
 {
-    do_store_msr(T0);
+    T0 = cpu_ppc_load_atbu(env);
     RETURN();
 }
 
-PPC_OP(load_lr)
+#if !defined(CONFIG_USER_ONLY)
+void OPPROTO op_store_tbl (void)
 {
-    regs->LR = PARAM(1);
+    cpu_ppc_store_tbl(env, T0);
     RETURN();
 }
 
-/* Set reservation */
-PPC_OP(set_reservation)
+void OPPROTO op_store_tbu (void)
 {
-    regs->reserve = T1 & ~0x03;
+    cpu_ppc_store_tbu(env, T0);
     RETURN();
 }
 
-/* Reset reservation */
-PPC_OP(reset_reservation)
+void OPPROTO op_store_atbl (void)
 {
-    regs->reserve = 0;
+    cpu_ppc_store_atbl(env, T0);
     RETURN();
 }
 
-/* crf operations */
-PPC_OP(getbit_T0)
+void OPPROTO op_store_atbu (void)
 {
-    T0 = (T0 >> PARAM(1)) & 1;
+    cpu_ppc_store_atbu(env, T0);
     RETURN();
 }
 
-PPC_OP(getbit_T1)
+void OPPROTO op_load_decr (void)
 {
-    T1 = (T1 >> PARAM(1)) & 1;
+    T0 = cpu_ppc_load_decr(env);
     RETURN();
 }
 
-PPC_OP(setcrfbit)
+void OPPROTO op_store_decr (void)
 {
-    T1 = (T1 & PARAM(1)) | (T0 << PARAM(2)); 
+    cpu_ppc_store_decr(env, T0);
     RETURN();
 }
 
-/* Branch */
-#define __PPC_OP_B(name, target)                                              \
-PPC_OP(name)                                                                  \
-{                                                                             \
-    regs->nip = (target);                                                     \
-    RETURN();                                                                 \
-}
-
-#define __PPC_OP_BL(name, target)                                             \
-PPC_OP(name)                                                                  \
-{                                                                             \
-    regs->LR = PARAM(1);                                                      \
-    regs->nip = (target);                                                     \
-    RETURN();                                                                 \
-}
-
-#define PPC_OP_B(name, target)                                                \
-__PPC_OP_B(name, target);                                                     \
-__PPC_OP_BL(name##l, target)
-
-#define __PPC_OP_BC(name, cond, target)                                       \
-PPC_OP(name)                                                                  \
-{                                                                             \
-    if (cond) {                                                               \
-        T0 = (target);                                                        \
-    } else {                                                                  \
-        T0 = PARAM(1);                                                        \
-    }                                                                         \
-    regs->nip = T0;                                                           \
-    RETURN();                                                                 \
-}
-
-#define __PPC_OP_BCL(name, cond, target)                                      \
-PPC_OP(name)                                                                  \
-{                                                                             \
-    if (cond) {                                                               \
-        T0 = (target);                                                        \
-        regs->LR = PARAM(1);                                                  \
-    } else {                                                                  \
-        T0 = PARAM(1);                                                        \
-    }                                                                         \
-    regs->nip = T0;                                                           \
-    RETURN();                                                                 \
-}
-
-#define _PPC_OP_BC(name, namel, cond, target)                                 \
-__PPC_OP_BC(name, cond, target);                                              \
-__PPC_OP_BCL(namel, cond, target)
-
-/* Branch to target */
-#define PPC_OP_BC(name, cond)                                                 \
-_PPC_OP_BC(b_##name, bl_##name, cond, PARAM(2))
-
-PPC_OP_B(b, PARAM(1));
-PPC_OP_BC(ctr,        (regs->CTR != 0));
-PPC_OP_BC(ctr_true,   (regs->CTR != 0 && (T0 & PARAM(3)) != 0));
-PPC_OP_BC(ctr_false,  (regs->CTR != 0 && (T0 & PARAM(3)) == 0));
-PPC_OP_BC(ctrz,       (regs->CTR == 0));
-PPC_OP_BC(ctrz_true,  (regs->CTR == 0 && (T0 & PARAM(3)) != 0));
-PPC_OP_BC(ctrz_false, (regs->CTR == 0 && (T0 & PARAM(3)) == 0));
-PPC_OP_BC(true,       ((T0 & PARAM(3)) != 0));
-PPC_OP_BC(false,      ((T0 & PARAM(3)) == 0));
-
-/* Branch to CTR */
-#define PPC_OP_BCCTR(name, cond)                                              \
-_PPC_OP_BC(bctr_##name, bctrl_##name, cond, regs->CTR & ~0x03)
-
-PPC_OP_B(bctr, regs->CTR & ~0x03);
-PPC_OP_BCCTR(ctr,        (regs->CTR != 0));
-PPC_OP_BCCTR(ctr_true,   (regs->CTR != 0 && (T0 & PARAM(2)) != 0));
-PPC_OP_BCCTR(ctr_false,  (regs->CTR != 0 && (T0 & PARAM(2)) == 0));
-PPC_OP_BCCTR(ctrz,       (regs->CTR == 0));
-PPC_OP_BCCTR(ctrz_true,  (regs->CTR == 0 && (T0 & PARAM(2)) != 0));
-PPC_OP_BCCTR(ctrz_false, (regs->CTR == 0 && (T0 & PARAM(2)) == 0));
-PPC_OP_BCCTR(true,       ((T0 & PARAM(2)) != 0));
-PPC_OP_BCCTR(false,      ((T0 & PARAM(2)) == 0));
-
-/* Branch to LR */
-#define PPC_OP_BCLR(name, cond)                                               \
-_PPC_OP_BC(blr_##name, blrl_##name, cond, regs->LR & ~0x03)
-
-PPC_OP_B(blr, regs->LR & ~0x03);
-PPC_OP_BCLR(ctr,        (regs->CTR != 0));
-PPC_OP_BCLR(ctr_true,   (regs->CTR != 0 && (T0 & PARAM(2)) != 0));
-PPC_OP_BCLR(ctr_false,  (regs->CTR != 0 && (T0 & PARAM(2)) == 0));
-PPC_OP_BCLR(ctrz,       (regs->CTR == 0));
-PPC_OP_BCLR(ctrz_true,  (regs->CTR == 0 && (T0 & PARAM(2)) != 0));
-PPC_OP_BCLR(ctrz_false, (regs->CTR == 0 && (T0 & PARAM(2)) == 0));
-PPC_OP_BCLR(true,       ((T0 & PARAM(2)) != 0));
-PPC_OP_BCLR(false,      ((T0 & PARAM(2)) == 0));
+void OPPROTO op_load_ibat (void)
+{
+    T0 = env->IBAT[PARAM1][PARAM2];
+    RETURN();
+}
 
-/* CTR maintenance */
-PPC_OP(dec_ctr)
+void OPPROTO op_store_ibatu (void)
 {
-    regs->CTR--;
+    do_store_ibatu(env, PARAM1, T0);
     RETURN();
 }
 
-/***                           Integer arithmetic                          ***/
-/* add */
-PPC_OP(add)
+void OPPROTO op_store_ibatl (void)
 {
-    T0 += T1;
+#if 1
+    env->IBAT[1][PARAM1] = T0;
+#else
+    do_store_ibatl(env, PARAM1, T0);
+#endif
     RETURN();
 }
 
-PPC_OP(addo)
+void OPPROTO op_load_dbat (void)
 {
-    T2 = T0;
-    T0 += T1;
-    if ((T2 ^ T1 ^ (-1)) & (T2 ^ T0) & (1 << 31)) {
-        xer_so = 1;
-        xer_ov = 1;
-    } else {
-        xer_ov = 0;
-    }
+    T0 = env->DBAT[PARAM1][PARAM2];
     RETURN();
 }
 
-/* add carrying */
-PPC_OP(addc)
+void OPPROTO op_store_dbatu (void)
 {
-    T2 = T0;
-    T0 += T1;
-    if (T0 < T2) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
+    do_store_dbatu(env, PARAM1, T0);
     RETURN();
 }
 
-PPC_OP(addco)
+void OPPROTO op_store_dbatl (void)
 {
-    T2 = T0;
-    T0 += T1;
-    if (T0 < T2) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
-    if ((T2 ^ T1 ^ (-1)) & (T2 ^ T0) & (1 << 31)) {
-        xer_so = 1;
-        xer_ov = 1;
-    } else {
-        xer_ov = 0;
-    }
+#if 1
+    env->DBAT[1][PARAM1] = T0;
+#else
+    do_store_dbatl(env, PARAM1, T0);
+#endif
     RETURN();
 }
+#endif /* !defined(CONFIG_USER_ONLY) */
 
-/* add extended */
-/* candidate for helper (too long) */
-PPC_OP(adde)
+/* FPSCR */
+#ifdef CONFIG_SOFTFLOAT
+void OPPROTO op_reset_fpstatus (void)
 {
-    T2 = T0;
-    T0 += T1 + xer_ca;
-    if (T0 < T2 || (xer_ca == 1 && T0 == T2)) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
+    env->fp_status.float_exception_flags = 0;
     RETURN();
 }
+#endif
 
-PPC_OP(addeo)
+void OPPROTO op_compute_fprf (void)
 {
-    T2 = T0;
-    T0 += T1 + xer_ca;
-    if (T0 < T2 || (xer_ca == 1 && T0 == T2)) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
-    if ((T2 ^ T1 ^ (-1)) & (T2 ^ T0) & (1 << 31)) {
-        xer_so = 1;
-        xer_ov = 1;
-    } else {
-        xer_ov = 0;
+    do_compute_fprf(PARAM1);
+    RETURN();
+}
+
+#ifdef CONFIG_SOFTFLOAT
+void OPPROTO op_float_check_status (void)
+{
+    do_float_check_status();
+    RETURN();
+}
+#else
+void OPPROTO op_float_check_status (void)
+{
+    if (env->exception_index == POWERPC_EXCP_PROGRAM &&
+        (env->error_code & POWERPC_EXCP_FP)) {
+        /* Differred floating-point exception after target FPR update */
+        if (msr_fe0 != 0 || msr_fe1 != 0)
+            do_raise_exception_err(env->exception_index, env->error_code);
     }
     RETURN();
 }
+#endif
 
-/* add immediate */
-PPC_OP(addi)
+void OPPROTO op_load_fpscr_FT0 (void)
 {
-    T0 += PARAM(1);
+    /* The 32 MSB of the target fpr are undefined.
+     * They'll be zero...
+     */
+    CPU_DoubleU u;
+
+    u.l.upper = 0;
+    u.l.lower = env->fpscr;
+    FT0 = u.d;
     RETURN();
 }
 
-/* add immediate carrying */
-PPC_OP(addic)
+void OPPROTO op_fpscr_resetbit (void)
 {
-    T1 = T0;
-    T0 += PARAM(1);
-    if (T0 < T1) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
+    env->fpscr &= PARAM1;
     RETURN();
 }
 
-/* add to minus one extended */
-PPC_OP(addme)
+void OPPROTO op_fpscr_setbit (void)
 {
-    T1 = T0;
-    T0 += xer_ca + (-1);
-    if (T1 != 0)
-        xer_ca = 1;
+    do_fpscr_setbit(PARAM1);
     RETURN();
 }
 
-PPC_OP(addmeo)
+void OPPROTO op_store_fpscr (void)
 {
-    T1 = T0;
-    T0 += xer_ca + (-1);
-    if (T1 & (T1 ^ T0) & (1 << 31)) {
-        xer_so = 1;
-        xer_ov = 1;
-    } else {
-        xer_ov = 0;
-    }
-    if (T1 != 0)
-        xer_ca = 1;
+    do_store_fpscr(PARAM1);
     RETURN();
 }
 
-/* add to zero extended */
-PPC_OP(addze)
+/* Branch */
+void OPPROTO op_setlr (void)
 {
-    T1 = T0;
-    T0 += xer_ca;
-    if (T0 < T1) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
+    env->lr = (uint32_t)PARAM1;
     RETURN();
 }
 
-PPC_OP(addzeo)
+#if defined (TARGET_PPC64)
+void OPPROTO op_setlr_64 (void)
 {
-    T1 = T0;
-    T0 += xer_ca;
-    if ((T1 ^ (-1)) & (T1 ^ T0) & (1 << 31)) {
-        xer_so = 1;
-        xer_ov = 1;
-    } else {
-        xer_ov = 0;
-    }
-    if (T0 < T1) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
+    env->lr = ((uint64_t)PARAM1 << 32) | (uint64_t)PARAM2;
     RETURN();
 }
+#endif
 
-/* divide word */
-/* candidate for helper (too long) */
-PPC_OP(divw)
+void OPPROTO op_jz_T0 (void)
 {
-    if ((Ts0 == INT32_MIN && Ts1 == -1) || Ts1 == 0) {
-        Ts0 = (-1) * (T0 >> 31);
-    } else {
-        Ts0 /= Ts1;
-    }
+    if (!T0)
+        GOTO_LABEL_PARAM(1);
     RETURN();
 }
 
-PPC_OP(divwo)
+void OPPROTO op_btest_T1 (void)
 {
-    if ((Ts0 == INT32_MIN && Ts1 == -1) || Ts1 == 0) {
-        xer_so = 1;
-        xer_ov = 1;
-        T0 = (-1) * (T0 >> 31);
+    if (T0) {
+        env->nip = (uint32_t)(T1 & ~3);
     } else {
-        xer_ov = 0;
-        Ts0 /= Ts1;
+        env->nip = (uint32_t)PARAM1;
     }
     RETURN();
 }
 
-/* divide word unsigned */
-PPC_OP(divwu)
+#if defined (TARGET_PPC64)
+void OPPROTO op_btest_T1_64 (void)
 {
-    if (T1 == 0) {
-        T0 = 0;
+    if (T0) {
+        env->nip = (uint64_t)(T1 & ~3);
     } else {
-        T0 /= T1;
+        env->nip = ((uint64_t)PARAM1 << 32) | (uint64_t)PARAM2;
     }
     RETURN();
 }
+#endif
 
-PPC_OP(divwuo)
+void OPPROTO op_movl_T1_ctr (void)
 {
-    if (T1 == 0) {
-        xer_so = 1;
-        xer_ov = 1;
-        T0 = 0;
-    } else {
-        xer_ov = 0;
-        T0 /= T1;
-    }
+    T1 = env->ctr;
     RETURN();
 }
 
-/* multiply high word */
-PPC_OP(mulhw)
+void OPPROTO op_movl_T1_lr (void)
 {
-    Ts0 = ((int64_t)Ts0 * (int64_t)Ts1) >> 32;
+    T1 = env->lr;
     RETURN();
 }
 
-/* multiply high word unsigned */
-PPC_OP(mulhwu)
+/* tests with result in T0 */
+void OPPROTO op_test_ctr (void)
 {
-    T0 = ((uint64_t)T0 * (uint64_t)T1) >> 32;
+    T0 = (uint32_t)env->ctr;
     RETURN();
 }
 
-/* multiply low immediate */
-PPC_OP(mulli)
+#if defined(TARGET_PPC64)
+void OPPROTO op_test_ctr_64 (void)
 {
-    Ts0 *= SPARAM(1);
+    T0 = (uint64_t)env->ctr;
     RETURN();
 }
+#endif
 
-/* multiply low word */
-PPC_OP(mullw)
+void OPPROTO op_test_ctr_true (void)
 {
-    T0 *= T1;
+    T0 = ((uint32_t)env->ctr != 0 && (T0 & PARAM1) != 0);
     RETURN();
 }
 
-PPC_OP(mullwo)
+#if defined(TARGET_PPC64)
+void OPPROTO op_test_ctr_true_64 (void)
 {
-    int64_t res = (int64_t)Ts0 * (int64_t)Ts1;
+    T0 = ((uint64_t)env->ctr != 0 && (T0 & PARAM1) != 0);
+    RETURN();
+}
+#endif
 
-    if ((int32_t)res != res) {
-        xer_ov = 1;
-        xer_so = 1;
-    } else {
-        xer_ov = 0;
-    }
-    Ts0 = res;
+void OPPROTO op_test_ctr_false (void)
+{
+    T0 = ((uint32_t)env->ctr != 0 && (T0 & PARAM1) == 0);
     RETURN();
 }
 
-/* negate */
-PPC_OP(neg)
+#if defined(TARGET_PPC64)
+void OPPROTO op_test_ctr_false_64 (void)
 {
-    if (T0 != 0x80000000) {
-        Ts0 = -Ts0;
-    }
+    T0 = ((uint64_t)env->ctr != 0 && (T0 & PARAM1) == 0);
     RETURN();
 }
+#endif
 
-PPC_OP(nego)
+void OPPROTO op_test_ctrz (void)
 {
-    if (T0 == 0x80000000) {
-        xer_ov = 1;
-        xer_so = 1;
-    } else {
-        xer_ov = 0;
-        Ts0 = -Ts0;
-    }
+    T0 = ((uint32_t)env->ctr == 0);
     RETURN();
 }
 
-/* substract from */
-PPC_OP(subf)
+#if defined(TARGET_PPC64)
+void OPPROTO op_test_ctrz_64 (void)
 {
-    T0 = T1 - T0;
+    T0 = ((uint64_t)env->ctr == 0);
     RETURN();
 }
+#endif
 
-PPC_OP(subfo)
+void OPPROTO op_test_ctrz_true (void)
 {
-    T2 = T0;
-    T0 = T1 - T0;
-    if (((~T2) ^ T1 ^ (-1)) & ((~T2) ^ T0) & (1 << 31)) {
-        xer_so = 1;
-        xer_ov = 1;
-    } else {
-        xer_ov = 0;
-    }
+    T0 = ((uint32_t)env->ctr == 0 && (T0 & PARAM1) != 0);
     RETURN();
 }
 
-/* substract from carrying */
-PPC_OP(subfc)
+#if defined(TARGET_PPC64)
+void OPPROTO op_test_ctrz_true_64 (void)
 {
-    T0 = T1 - T0;
-    if (T0 <= T1) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
+    T0 = ((uint64_t)env->ctr == 0 && (T0 & PARAM1) != 0);
     RETURN();
 }
+#endif
 
-PPC_OP(subfco)
+void OPPROTO op_test_ctrz_false (void)
 {
-    T2 = T0;
-    T0 = T1 - T0;
-    if (T0 <= T1) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
-    if (((~T2) ^ T1 ^ (-1)) & ((~T2) ^ T0) & (1 << 31)) {
-        xer_so = 1;
-        xer_ov = 1;
-    } else {
-        xer_ov = 0;
-    }
+    T0 = ((uint32_t)env->ctr == 0 && (T0 & PARAM1) == 0);
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_test_ctrz_false_64 (void)
+{
+    T0 = ((uint64_t)env->ctr == 0 && (T0 & PARAM1) == 0);
+    RETURN();
+}
+#endif
+
+void OPPROTO op_test_true (void)
+{
+    T0 = (T0 & PARAM1);
+    RETURN();
+}
+
+void OPPROTO op_test_false (void)
+{
+    T0 = ((T0 & PARAM1) == 0);
+    RETURN();
+}
+
+/* CTR maintenance */
+void OPPROTO op_dec_ctr (void)
+{
+    env->ctr--;
     RETURN();
 }
 
-/* substract from extended */
-/* candidate for helper (too long) */
-PPC_OP(subfe)
+/***                           Integer arithmetic                          ***/
+/* add */
+void OPPROTO op_check_addo (void)
 {
-    T0 = T1 + ~T0 + xer_ca;
-    if (T0 < T1 || (xer_ca == 1 && T0 == T1)) {
-        xer_ca = 1;
+    int ov = (((uint32_t)T2 ^ (uint32_t)T1 ^ UINT32_MAX) &
+              ((uint32_t)T2 ^ (uint32_t)T0)) >> 31;
+    if (ov) {
+        env->xer |= (1 << XER_OV) | (1 << XER_SO);
     } else {
-        xer_ca = 0;
+        env->xer &= ~(1 << XER_OV);
     }
     RETURN();
 }
 
-PPC_OP(subfeo)
+#if defined(TARGET_PPC64)
+void OPPROTO op_check_addo_64 (void)
 {
-    T2 = T0;
-    T0 = T1 + ~T0 + xer_ca;
-    if ((~T2 ^ T1 ^ (-1)) & (~T2 ^ T0) & (1 << 31)) {
-        xer_so = 1;
-        xer_ov = 1;
+    int ov = (((uint64_t)T2 ^ (uint64_t)T1 ^ UINT64_MAX) &
+              ((uint64_t)T2 ^ (uint64_t)T0)) >> 63;
+    if (ov) {
+        env->xer |= (1 << XER_OV) | (1 << XER_SO);
     } else {
-        xer_ov = 0;
+        env->xer &= ~(1 << XER_OV);
     }
-    if (T0 < T1 || (xer_ca == 1 && T0 == T1)) {
-        xer_ca = 1;
+    RETURN();
+}
+#endif
+
+/* add carrying */
+void OPPROTO op_check_addc (void)
+{
+    if (likely((uint32_t)T0 >= (uint32_t)T2)) {
+        env->xer &= ~(1 << XER_CA);
     } else {
-        xer_ca = 0;
+        env->xer |= (1 << XER_CA);
     }
     RETURN();
 }
 
-/* substract from immediate carrying */
-PPC_OP(subfic)
+#if defined(TARGET_PPC64)
+void OPPROTO op_check_addc_64 (void)
 {
-    T0 = PARAM(1) + ~T0 + 1;
-    if (T0 <= PARAM(1)) {
-        xer_ca = 1;
+    if (likely((uint64_t)T0 >= (uint64_t)T2)) {
+        env->xer &= ~(1 << XER_CA);
     } else {
-        xer_ca = 0;
+        env->xer |= (1 << XER_CA);
     }
     RETURN();
 }
+#endif
 
-/* substract from minus one extended */
-PPC_OP(subfme)
+/* add extended */
+void OPPROTO op_adde (void)
 {
-    T0 = ~T0 + xer_ca - 1;
+    do_adde();
+    RETURN();
+}
 
-    if (T0 != -1)
-        xer_ca = 1;
+#if defined(TARGET_PPC64)
+void OPPROTO op_adde_64 (void)
+{
+    do_adde_64();
     RETURN();
 }
+#endif
 
-PPC_OP(subfmeo)
+/* add to minus one extended */
+void OPPROTO op_add_me (void)
 {
-    T1 = T0;
-    T0 = ~T0 + xer_ca - 1;
-    if (~T1 & (~T1 ^ T0) & (1 << 31)) {
-        xer_so = 1;
-        xer_ov = 1;
-    } else {
-        xer_ov = 0;
-    }
-    if (T1 != -1)
-        xer_ca = 1;
+    T0 += xer_ca + (-1);
+    if (likely((uint32_t)T1 != 0))
+        env->xer |= (1 << XER_CA);
     RETURN();
 }
 
-/* substract from zero extended */
-PPC_OP(subfze)
+#if defined(TARGET_PPC64)
+void OPPROTO op_add_me_64 (void)
 {
-    T1 = ~T0;
-    T0 = T1 + xer_ca;
-    if (T0 < T1) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
+    T0 += xer_ca + (-1);
+    if (likely((uint64_t)T1 != 0))
+        env->xer |= (1 << XER_CA);
     RETURN();
 }
+#endif
 
-PPC_OP(subfzeo)
+void OPPROTO op_addmeo (void)
 {
-    T1 = T0;
-    T0 = ~T0 + xer_ca;
-    if ((~T1 ^ (-1)) & ((~T1) ^ T0) & (1 << 31)) {
-        xer_ov = 1;
-        xer_so = 1;
-    } else {
-        xer_ov = 0;
-    }
-    if (T0 < ~T1) {
-        xer_ca = 1;
-    } else {
-        xer_ca = 0;
-    }
+    do_addmeo();
     RETURN();
 }
 
-/***                           Integer comparison                          ***/
-/* compare */
-PPC_OP(cmp)
+void OPPROTO op_addmeo_64 (void)
 {
-    if (Ts0 < Ts1) {
-        T0 = 0x08;
-    } else if (Ts0 > Ts1) {
-        T0 = 0x04;
-    } else {
-        T0 = 0x02;
-    }
+    do_addmeo();
     RETURN();
 }
 
-/* compare immediate */
-PPC_OP(cmpi)
+/* add to zero extended */
+void OPPROTO op_add_ze (void)
 {
-    if (Ts0 < SPARAM(1)) {
-        T0 = 0x08;
-    } else if (Ts0 > SPARAM(1)) {
-        T0 = 0x04;
-    } else {
-        T0 = 0x02;
-    }
+    T0 += xer_ca;
     RETURN();
 }
 
-/* compare logical */
-PPC_OP(cmpl)
+/* divide word */
+void OPPROTO op_divw (void)
 {
-    if (T0 < T1) {
-        T0 = 0x08;
-    } else if (T0 > T1) {
-        T0 = 0x04;
+    if (unlikely(((int32_t)T0 == INT32_MIN && (int32_t)T1 == (int32_t)-1) ||
+                 (int32_t)T1 == 0)) {
+        T0 = (int32_t)(UINT32_MAX * ((uint32_t)T0 >> 31));
     } else {
-        T0 = 0x02;
+        T0 = (int32_t)T0 / (int32_t)T1;
     }
     RETURN();
 }
 
-/* compare logical immediate */
-PPC_OP(cmpli)
+#if defined(TARGET_PPC64)
+void OPPROTO op_divd (void)
 {
-    if (T0 < PARAM(1)) {
-        T0 = 0x08;
-    } else if (T0 > PARAM(1)) {
-        T0 = 0x04;
+    if (unlikely(((int64_t)T0 == INT64_MIN && (int64_t)T1 == (int64_t)-1LL) ||
+                 (int64_t)T1 == 0)) {
+        T0 = (int64_t)(UINT64_MAX * ((uint64_t)T0 >> 63));
     } else {
-        T0 = 0x02;
+        T0 = (int64_t)T0 / (int64_t)T1;
     }
     RETURN();
 }
+#endif
 
-/***                            Integer logical                            ***/
-/* and */
-PPC_OP(and)
+void OPPROTO op_divwo (void)
 {
-    T0 &= T1;
+    do_divwo();
     RETURN();
 }
 
-/* andc */
-PPC_OP(andc)
+#if defined(TARGET_PPC64)
+void OPPROTO op_divdo (void)
 {
-    T0 &= ~T1;
+    do_divdo();
     RETURN();
 }
+#endif
 
-/* andi. */
-PPC_OP(andi_)
+/* divide word unsigned */
+void OPPROTO op_divwu (void)
 {
-    T0 &= PARAM(1);
+    if (unlikely(T1 == 0)) {
+        T0 = 0;
+    } else {
+        T0 = (uint32_t)T0 / (uint32_t)T1;
+    }
     RETURN();
 }
 
-/* count leading zero */
-PPC_OP(cntlzw)
+#if defined(TARGET_PPC64)
+void OPPROTO op_divdu (void)
 {
-    T1 = T0;
-    for (T0 = 32; T1 > 0; T0--)
-        T1 = T1 >> 1;
+    if (unlikely(T1 == 0)) {
+        T0 = 0;
+    } else {
+        T0 /= T1;
+    }
     RETURN();
 }
+#endif
 
-/* eqv */
-PPC_OP(eqv)
+void OPPROTO op_divwuo (void)
 {
-    T0 = ~(T0 ^ T1);
+    do_divwuo();
     RETURN();
 }
 
-/* extend sign byte */
-PPC_OP(extsb)
+#if defined(TARGET_PPC64)
+void OPPROTO op_divduo (void)
 {
-    Ts0 = s_ext8(Ts0);
+    do_divduo();
     RETURN();
 }
+#endif
 
-/* extend sign half word */
-PPC_OP(extsh)
+/* multiply high word */
+void OPPROTO op_mulhw (void)
 {
-    Ts0 = s_ext16(Ts0);
+    T0 = ((int64_t)((int32_t)T0) * (int64_t)((int32_t)T1)) >> 32;
     RETURN();
 }
 
-/* nand */
-PPC_OP(nand)
+#if defined(TARGET_PPC64)
+void OPPROTO op_mulhd (void)
 {
-    T0 = ~(T0 & T1);
+    uint64_t tl, th;
+
+    muls64(&tl, &th, T0, T1);
+    T0 = th;
     RETURN();
 }
+#endif
 
-/* nor */
-PPC_OP(nor)
+/* multiply high word unsigned */
+void OPPROTO op_mulhwu (void)
 {
-    T0 = ~(T0 | T1);
+    T0 = ((uint64_t)(uint32_t)T0 * (uint64_t)(uint32_t)T1) >> 32;
     RETURN();
 }
 
-/* or */
-PPC_OP(or)
+#if defined(TARGET_PPC64)
+void OPPROTO op_mulhdu (void)
 {
-    T0 |= T1;
+    uint64_t tl, th;
+
+    mulu64(&tl, &th, T0, T1);
+    T0 = th;
     RETURN();
 }
+#endif
 
-/* orc */
-PPC_OP(orc)
+/* multiply low immediate */
+void OPPROTO op_mulli (void)
 {
-    T0 |= ~T1;
+    T0 = ((int32_t)T0 * (int32_t)PARAM1);
     RETURN();
 }
 
-/* ori */
-PPC_OP(ori)
+/* multiply low word */
+void OPPROTO op_mullw (void)
 {
-    T0 |= PARAM(1);
+#if defined(TARGET_PPC64)
+    T0 = (int64_t)(int32_t)T0 * (int64_t)(int32_t)T1;
+#else
+    T0 = (int32_t)(T0 * T1);
+#endif
     RETURN();
 }
 
-/* xor */
-PPC_OP(xor)
+#if defined(TARGET_PPC64)
+void OPPROTO op_mulld (void)
 {
-    T0 ^= T1;
+    T0 *= T1;
     RETURN();
 }
+#endif
 
-/* xori */
-PPC_OP(xori)
+void OPPROTO op_mullwo (void)
 {
-    T0 ^= PARAM(1);
+    do_mullwo();
     RETURN();
 }
 
-/***                             Integer rotate                            ***/
-/* rotate left word immediate then mask insert */
-PPC_OP(rlwimi)
+#if defined(TARGET_PPC64)
+void OPPROTO op_mulldo (void)
 {
-    T0 = rotl(T0, PARAM(1) & PARAM(2)) | (T0 & PARAM(3));
+    do_mulldo();
     RETURN();
 }
+#endif
 
-/* rotate left immediate then and with mask insert */
-PPC_OP(rotlwi)
+/* negate */
+void OPPROTO op_neg (void)
 {
-    T0 = rotl(T0, PARAM(1));
+    if (likely(T0 != INT32_MIN)) {
+        T0 = -(int32_t)T0;
+    }
     RETURN();
 }
 
-PPC_OP(slwi)
+#if defined(TARGET_PPC64)
+void OPPROTO op_neg_64 (void)
 {
-    T0 = T0 << PARAM(1);
+    if (likely(T0 != INT64_MIN)) {
+        T0 = -(int64_t)T0;
+    }
     RETURN();
 }
+#endif
 
-PPC_OP(srwi)
+void OPPROTO op_nego (void)
 {
-    T0 = T0 >> PARAM(1);
+    do_nego();
     RETURN();
 }
 
-/* rotate left word then and with mask insert */
-PPC_OP(rlwinm)
+#if defined(TARGET_PPC64)
+void OPPROTO op_nego_64 (void)
 {
-    T0 = rotl(T0, PARAM(1)) & PARAM(2);
+    do_nego_64();
     RETURN();
 }
+#endif
 
-PPC_OP(rotl)
+/* subtract from carrying */
+void OPPROTO op_check_subfc (void)
 {
-    T0 = rotl(T0, T1);
+    if (likely((uint32_t)T0 > (uint32_t)T1)) {
+        env->xer &= ~(1 << XER_CA);
+    } else {
+        env->xer |= (1 << XER_CA);
+    }
     RETURN();
 }
 
-PPC_OP(rlwnm)
+#if defined(TARGET_PPC64)
+void OPPROTO op_check_subfc_64 (void)
 {
-    T0 = rotl(T0, T1) & PARAM(1);
+    if (likely((uint64_t)T0 > (uint64_t)T1)) {
+        env->xer &= ~(1 << XER_CA);
+    } else {
+        env->xer |= (1 << XER_CA);
+    }
     RETURN();
 }
+#endif
 
-/***                             Integer shift                             ***/
-/* shift left word */
-PPC_OP(slw)
+/* subtract from extended */
+void OPPROTO op_subfe (void)
 {
-    if (T1 & 0x20) {
-        T0 = 0;
-    } else {
-        T0 = T0 << T1;
-    }
+    do_subfe();
     RETURN();
 }
 
-/* shift right algebraic word */
-PPC_OP(sraw)
+#if defined(TARGET_PPC64)
+void OPPROTO op_subfe_64 (void)
 {
-    Ts0 = do_sraw(Ts0, T1);
+    do_subfe_64();
     RETURN();
 }
+#endif
 
-/* shift right algebraic word immediate */
-PPC_OP(srawi)
+/* subtract from immediate carrying */
+void OPPROTO op_subfic (void)
 {
-    Ts1 = Ts0;
-    Ts0 = Ts0 >> PARAM(1);
-    if (Ts1 < 0 && (Ts1 & PARAM(2)) != 0) {
-        xer_ca = 1;
+    T0 = (int32_t)PARAM1 + ~T0 + 1;
+    if ((uint32_t)T0 <= (uint32_t)PARAM1) {
+        env->xer |= (1 << XER_CA);
     } else {
-        xer_ca = 0;
+        env->xer &= ~(1 << XER_CA);
     }
     RETURN();
 }
 
-/* shift right word */
-PPC_OP(srw)
+#if defined(TARGET_PPC64)
+void OPPROTO op_subfic_64 (void)
 {
-    if (T1 & 0x20) {
-        T0 = 0;
+    T0 = (int64_t)PARAM1 + ~T0 + 1;
+    if ((uint64_t)T0 <= (uint64_t)PARAM1) {
+        env->xer |= (1 << XER_CA);
     } else {
-        T0 = T0 >> T1;
+        env->xer &= ~(1 << XER_CA);
     }
     RETURN();
 }
+#endif
 
-/***                       Floating-Point arithmetic                       ***/
+/* subtract from minus one extended */
+void OPPROTO op_subfme (void)
+{
+    T0 = ~T0 + xer_ca - 1;
+    if (likely((uint32_t)T0 != UINT32_MAX))
+        env->xer |= (1 << XER_CA);
+    RETURN();
+}
 
-/***                     Floating-Point multiply-and-add                   ***/
+#if defined(TARGET_PPC64)
+void OPPROTO op_subfme_64 (void)
+{
+    T0 = ~T0 + xer_ca - 1;
+    if (likely((uint64_t)T0 != UINT64_MAX))
+        env->xer |= (1 << XER_CA);
+    RETURN();
+}
+#endif
 
-/***                     Floating-Point round & convert                    ***/
+void OPPROTO op_subfmeo (void)
+{
+    do_subfmeo();
+    RETURN();
+}
 
-/***                         Floating-Point compare                        ***/
+#if defined(TARGET_PPC64)
+void OPPROTO op_subfmeo_64 (void)
+{
+    do_subfmeo_64();
+    RETURN();
+}
+#endif
 
-/***                  Floating-Point status & ctrl register                ***/
+/* subtract from zero extended */
+void OPPROTO op_subfze (void)
+{
+    T1 = ~T0;
+    T0 = T1 + xer_ca;
+    if ((uint32_t)T0 < (uint32_t)T1) {
+        env->xer |= (1 << XER_CA);
+    } else {
+        env->xer &= ~(1 << XER_CA);
+    }
+    RETURN();
+}
 
-/***                             Integer load                              ***/
-#define ld16x(x) s_ext16(ld16(x))
-#define PPC_ILD_OPX(name, op)                                                 \
-PPC_OP(l##name##x_z)                                                          \
-{                                                                             \
-    T1 = op(T0);                                                              \
-    RETURN();                                                                 \
-}                                                                             \
-PPC_OP(l##name##x)                                                            \
-{                                                                             \
-    T0 += T1;                                                                 \
-    T1 = op(T0);                                                              \
-    RETURN();                                                                 \
+#if defined(TARGET_PPC64)
+void OPPROTO op_subfze_64 (void)
+{
+    T1 = ~T0;
+    T0 = T1 + xer_ca;
+    if ((uint64_t)T0 < (uint64_t)T1) {
+        env->xer |= (1 << XER_CA);
+    } else {
+        env->xer &= ~(1 << XER_CA);
+    }
+    RETURN();
 }
+#endif
 
-#define PPC_ILD_OP(name, op)                                                  \
-PPC_OP(l##name##_z)                                                           \
-{                                                                             \
-    T1 = op(SPARAM(1));                                                       \
-    RETURN();                                                                 \
-}                                                                             \
-PPC_OP(l##name)                                                               \
-{                                                                             \
-    T0 += SPARAM(1);                                                          \
-    T1 = op(T0);                                                              \
-    RETURN();                                                                 \
-}                                                                             \
-PPC_ILD_OPX(name, op)
+void OPPROTO op_subfzeo (void)
+{
+    do_subfzeo();
+    RETURN();
+}
 
-PPC_ILD_OP(bz, ld8);
-PPC_ILD_OP(ha, ld16x);
-PPC_ILD_OP(hz, ld16);
-PPC_ILD_OP(wz, ld32);
+#if defined(TARGET_PPC64)
+void OPPROTO op_subfzeo_64 (void)
+{
+    do_subfzeo_64();
+    RETURN();
+}
+#endif
 
-/***                              Integer store                            ***/
-#define PPC_IST_OPX(name, op)                                                 \
-PPC_OP(st##name##x_z)                                                         \
-{                                                                             \
-    op(T0, T1);                                                               \
-    RETURN();                                                                 \
-}                                                                             \
-PPC_OP(st##name##x)                                                           \
-{                                                                             \
-    T0 += T1;                                                                 \
-    op(T0, T2);                                                               \
-    RETURN();                                                                 \
+void OPPROTO op_popcntb (void)
+{
+    do_popcntb();
+    RETURN();
 }
 
-#define PPC_IST_OP(name, op)                                                  \
-PPC_OP(st##name##_z)                                                          \
-{                                                                             \
-    op(SPARAM(1), T0);                                                        \
-    RETURN();                                                                 \
-}                                                                             \
-PPC_OP(st##name)                                                              \
-{                                                                             \
-    T0 += SPARAM(1);                                                          \
-    op(T0, T1);                                                               \
-    RETURN();                                                                 \
-}                                                                             \
-PPC_IST_OPX(name, op);
+#if defined(TARGET_PPC64)
+void OPPROTO op_popcntb_64 (void)
+{
+    do_popcntb_64();
+    RETURN();
+}
+#endif
 
-PPC_IST_OP(b, st8);
-PPC_IST_OP(h, st16);
-PPC_IST_OP(w, st32);
+/***                            Integer logical                            ***/
+/* and */
+void OPPROTO op_and (void)
+{
+    T0 &= T1;
+    RETURN();
+}
 
-/***                Integer load and store with byte reverse               ***/
-PPC_ILD_OPX(hbr, ld16r);
-PPC_ILD_OPX(wbr, ld32r);
-PPC_IST_OPX(hbr, st16r);
-PPC_IST_OPX(wbr, st32r);
+/* andc */
+void OPPROTO op_andc (void)
+{
+    T0 &= ~T1;
+    RETURN();
+}
+
+/* count leading zero */
+void OPPROTO op_cntlzw (void)
+{
+    do_cntlzw();
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_cntlzd (void)
+{
+    do_cntlzd();
+    RETURN();
+}
+#endif
+
+/* eqv */
+void OPPROTO op_eqv (void)
+{
+    T0 = ~(T0 ^ T1);
+    RETURN();
+}
+
+/* extend sign byte */
+void OPPROTO op_extsb (void)
+{
+#if defined (TARGET_PPC64)
+    T0 = (int64_t)((int8_t)T0);
+#else
+    T0 = (int32_t)((int8_t)T0);
+#endif
+    RETURN();
+}
+
+/* extend sign half word */
+void OPPROTO op_extsh (void)
+{
+#if defined (TARGET_PPC64)
+    T0 = (int64_t)((int16_t)T0);
+#else
+    T0 = (int32_t)((int16_t)T0);
+#endif
+    RETURN();
+}
+
+#if defined (TARGET_PPC64)
+void OPPROTO op_extsw (void)
+{
+    T0 = (int64_t)((int32_t)T0);
+    RETURN();
+}
+#endif
+
+/* nand */
+void OPPROTO op_nand (void)
+{
+    T0 = ~(T0 & T1);
+    RETURN();
+}
+
+/* nor */
+void OPPROTO op_nor (void)
+{
+    T0 = ~(T0 | T1);
+    RETURN();
+}
+
+/* or */
+void OPPROTO op_or (void)
+{
+    T0 |= T1;
+    RETURN();
+}
+
+/* orc */
+void OPPROTO op_orc (void)
+{
+    T0 |= ~T1;
+    RETURN();
+}
+
+/* ori */
+void OPPROTO op_ori (void)
+{
+    T0 |= (uint32_t)PARAM1;
+    RETURN();
+}
+
+/* xor */
+void OPPROTO op_xor (void)
+{
+    T0 ^= T1;
+    RETURN();
+}
+
+/* xori */
+void OPPROTO op_xori (void)
+{
+    T0 ^= (uint32_t)PARAM1;
+    RETURN();
+}
+
+/***                             Integer rotate                            ***/
+void OPPROTO op_rotl32_T0_T1 (void)
+{
+    T0 = rotl32(T0, T1 & 0x1F);
+    RETURN();
+}
+
+void OPPROTO op_rotli32_T0 (void)
+{
+    T0 = rotl32(T0, PARAM1);
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_rotl64_T0_T1 (void)
+{
+    T0 = rotl64(T0, T1 & 0x3F);
+    RETURN();
+}
+
+void OPPROTO op_rotli64_T0 (void)
+{
+    T0 = rotl64(T0, PARAM1);
+    RETURN();
+}
+#endif
+
+/***                             Integer shift                             ***/
+/* shift left word */
+void OPPROTO op_slw (void)
+{
+    if (T1 & 0x20) {
+        T0 = 0;
+    } else {
+        T0 = (uint32_t)(T0 << T1);
+    }
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_sld (void)
+{
+    if (T1 & 0x40) {
+        T0 = 0;
+    } else {
+        T0 = T0 << T1;
+    }
+    RETURN();
+}
+#endif
+
+/* shift right algebraic word */
+void OPPROTO op_sraw (void)
+{
+    do_sraw();
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_srad (void)
+{
+    do_srad();
+    RETURN();
+}
+#endif
+
+/* shift right algebraic word immediate */
+void OPPROTO op_srawi (void)
+{
+    uint32_t mask = (uint32_t)PARAM2;
+
+    T0 = (int32_t)T0 >> PARAM1;
+    if ((int32_t)T1 < 0 && (T1 & mask) != 0) {
+        env->xer |= (1 << XER_CA);
+    } else {
+        env->xer &= ~(1 << XER_CA);
+    }
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_sradi (void)
+{
+    uint64_t mask = ((uint64_t)PARAM2 << 32) | (uint64_t)PARAM3;
+
+    T0 = (int64_t)T0 >> PARAM1;
+    if ((int64_t)T1 < 0 && ((uint64_t)T1 & mask) != 0) {
+        env->xer |= (1 << XER_CA);
+    } else {
+        env->xer &= ~(1 << XER_CA);
+    }
+    RETURN();
+}
+#endif
+
+/* shift right word */
+void OPPROTO op_srw (void)
+{
+    if (T1 & 0x20) {
+        T0 = 0;
+    } else {
+        T0 = (uint32_t)T0 >> T1;
+    }
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_srd (void)
+{
+    if (T1 & 0x40) {
+        T0 = 0;
+    } else {
+        T0 = (uint64_t)T0 >> T1;
+    }
+    RETURN();
+}
+#endif
+
+void OPPROTO op_sl_T0_T1 (void)
+{
+    T0 = T0 << T1;
+    RETURN();
+}
+
+void OPPROTO op_sli_T0 (void)
+{
+    T0 = T0 << PARAM1;
+    RETURN();
+}
+
+void OPPROTO op_srl_T0_T1 (void)
+{
+    T0 = (uint32_t)T0 >> T1;
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_srl_T0_T1_64 (void)
+{
+    T0 = (uint32_t)T0 >> T1;
+    RETURN();
+}
+#endif
+
+void OPPROTO op_srli_T0 (void)
+{
+    T0 = (uint32_t)T0 >> PARAM1;
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_srli_T0_64 (void)
+{
+    T0 = (uint64_t)T0 >> PARAM1;
+    RETURN();
+}
+#endif
+
+void OPPROTO op_srli_T1 (void)
+{
+    T1 = (uint32_t)T1 >> PARAM1;
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_srli_T1_64 (void)
+{
+    T1 = (uint64_t)T1 >> PARAM1;
+    RETURN();
+}
+#endif
+
+/***                       Floating-Point arithmetic                       ***/
+/* fadd - fadd. */
+void OPPROTO op_fadd (void)
+{
+#if USE_PRECISE_EMULATION
+    do_fadd();
+#else
+    FT0 = float64_add(FT0, FT1, &env->fp_status);
+#endif
+    RETURN();
+}
+
+/* fsub - fsub. */
+void OPPROTO op_fsub (void)
+{
+#if USE_PRECISE_EMULATION
+    do_fsub();
+#else
+    FT0 = float64_sub(FT0, FT1, &env->fp_status);
+#endif
+    RETURN();
+}
+
+/* fmul - fmul. */
+void OPPROTO op_fmul (void)
+{
+#if USE_PRECISE_EMULATION
+    do_fmul();
+#else
+    FT0 = float64_mul(FT0, FT1, &env->fp_status);
+#endif
+    RETURN();
+}
+
+/* fdiv - fdiv. */
+void OPPROTO op_fdiv (void)
+{
+#if USE_PRECISE_EMULATION
+    do_fdiv();
+#else
+    FT0 = float64_div(FT0, FT1, &env->fp_status);
+#endif
+    RETURN();
+}
+
+/* fsqrt - fsqrt. */
+void OPPROTO op_fsqrt (void)
+{
+    do_fsqrt();
+    RETURN();
+}
+
+/* fre - fre. */
+void OPPROTO op_fre (void)
+{
+    do_fre();
+    RETURN();
+}
+
+/* fres - fres. */
+void OPPROTO op_fres (void)
+{
+    do_fres();
+    RETURN();
+}
+
+/* frsqrte  - frsqrte. */
+void OPPROTO op_frsqrte (void)
+{
+    do_frsqrte();
+    RETURN();
+}
+
+/* fsel - fsel. */
+void OPPROTO op_fsel (void)
+{
+    do_fsel();
+    RETURN();
+}
+
+/***                     Floating-Point multiply-and-add                   ***/
+/* fmadd - fmadd. */
+void OPPROTO op_fmadd (void)
+{
+#if USE_PRECISE_EMULATION
+    do_fmadd();
+#else
+    FT0 = float64_mul(FT0, FT1, &env->fp_status);
+    FT0 = float64_add(FT0, FT2, &env->fp_status);
+#endif
+    RETURN();
+}
+
+/* fmsub - fmsub. */
+void OPPROTO op_fmsub (void)
+{
+#if USE_PRECISE_EMULATION
+    do_fmsub();
+#else
+    FT0 = float64_mul(FT0, FT1, &env->fp_status);
+    FT0 = float64_sub(FT0, FT2, &env->fp_status);
+#endif
+    RETURN();
+}
+
+/* fnmadd - fnmadd. - fnmadds - fnmadds. */
+void OPPROTO op_fnmadd (void)
+{
+    do_fnmadd();
+    RETURN();
+}
+
+/* fnmsub - fnmsub. */
+void OPPROTO op_fnmsub (void)
+{
+    do_fnmsub();
+    RETURN();
+}
+
+/***                     Floating-Point round & convert                    ***/
+/* frsp - frsp. */
+void OPPROTO op_frsp (void)
+{
+#if USE_PRECISE_EMULATION
+    do_frsp();
+#else
+    FT0 = float64_to_float32(FT0, &env->fp_status);
+#endif
+    RETURN();
+}
+
+/* fctiw - fctiw. */
+void OPPROTO op_fctiw (void)
+{
+    do_fctiw();
+    RETURN();
+}
+
+/* fctiwz - fctiwz. */
+void OPPROTO op_fctiwz (void)
+{
+    do_fctiwz();
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+/* fcfid - fcfid. */
+void OPPROTO op_fcfid (void)
+{
+    do_fcfid();
+    RETURN();
+}
+
+/* fctid - fctid. */
+void OPPROTO op_fctid (void)
+{
+    do_fctid();
+    RETURN();
+}
+
+/* fctidz - fctidz. */
+void OPPROTO op_fctidz (void)
+{
+    do_fctidz();
+    RETURN();
+}
+#endif
+
+void OPPROTO op_frin (void)
+{
+    do_frin();
+    RETURN();
+}
+
+void OPPROTO op_friz (void)
+{
+    do_friz();
+    RETURN();
+}
+
+void OPPROTO op_frip (void)
+{
+    do_frip();
+    RETURN();
+}
+
+void OPPROTO op_frim (void)
+{
+    do_frim();
+    RETURN();
+}
+
+/***                         Floating-point move                           ***/
+/* fabs */
+void OPPROTO op_fabs (void)
+{
+    FT0 = float64_abs(FT0);
+    RETURN();
+}
+
+/* fnabs */
+void OPPROTO op_fnabs (void)
+{
+    FT0 = float64_abs(FT0);
+    FT0 = float64_chs(FT0);
+    RETURN();
+}
+
+/* fneg */
+void OPPROTO op_fneg (void)
+{
+    FT0 = float64_chs(FT0);
+    RETURN();
+}
+
+/* Load and store */
+#define MEMSUFFIX _raw
+#include "op_helper.h"
+#include "op_mem.h"
+#if !defined(CONFIG_USER_ONLY)
+#define MEMSUFFIX _user
+#include "op_helper.h"
+#include "op_mem.h"
+#define MEMSUFFIX _kernel
+#include "op_helper.h"
+#include "op_mem.h"
+#define MEMSUFFIX _hypv
+#include "op_helper.h"
+#include "op_mem.h"
+#endif
+
+/* Special op to check and maybe clear reservation */
+void OPPROTO op_check_reservation (void)
+{
+    if ((uint32_t)env->reserve == (uint32_t)(T0 & ~0x00000003))
+        env->reserve = (target_ulong)-1ULL;
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_check_reservation_64 (void)
+{
+    if ((uint64_t)env->reserve == (uint64_t)(T0 & ~0x00000003))
+        env->reserve = (target_ulong)-1ULL;
+    RETURN();
+}
+#endif
+
+void OPPROTO op_wait (void)
+{
+    env->halted = 1;
+    RETURN();
+}
+
+/* Return from interrupt */
+#if !defined(CONFIG_USER_ONLY)
+void OPPROTO op_rfi (void)
+{
+    do_rfi();
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_rfid (void)
+{
+    do_rfid();
+    RETURN();
+}
+
+void OPPROTO op_hrfid (void)
+{
+    do_hrfid();
+    RETURN();
+}
+#endif
+
+/* Exception vectors */
+void OPPROTO op_store_excp_prefix (void)
+{
+    T0 &= env->ivpr_mask;
+    env->excp_prefix = T0;
+    RETURN();
+}
+
+void OPPROTO op_store_excp_vector (void)
+{
+    T0 &= env->ivor_mask;
+    env->excp_vectors[PARAM1] = T0;
+    RETURN();
+}
+#endif
+
+/* Trap word */
+void OPPROTO op_tw (void)
+{
+    do_tw(PARAM1);
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_td (void)
+{
+    do_td(PARAM1);
+    RETURN();
+}
+#endif
+
+#if !defined(CONFIG_USER_ONLY)
+/* tlbia */
+void OPPROTO op_tlbia (void)
+{
+    ppc_tlb_invalidate_all(env);
+    RETURN();
+}
+
+/* tlbie */
+void OPPROTO op_tlbie (void)
+{
+    ppc_tlb_invalidate_one(env, (uint32_t)T0);
+    RETURN();
+}
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_tlbie_64 (void)
+{
+    ppc_tlb_invalidate_one(env, T0);
+    RETURN();
+}
+#endif
+
+#if defined(TARGET_PPC64)
+void OPPROTO op_slbia (void)
+{
+    ppc_slb_invalidate_all(env);
+    RETURN();
+}
+
+void OPPROTO op_slbie (void)
+{
+    ppc_slb_invalidate_one(env, (uint32_t)T0);
+    RETURN();
+}
+
+void OPPROTO op_slbie_64 (void)
+{
+    ppc_slb_invalidate_one(env, T0);
+    RETURN();
+}
+#endif
+#endif
+
+#if !defined(CONFIG_USER_ONLY)
+/* PowerPC 602/603/755 software TLB load instructions */
+void OPPROTO op_6xx_tlbld (void)
+{
+    do_load_6xx_tlb(0);
+    RETURN();
+}
+
+void OPPROTO op_6xx_tlbli (void)
+{
+    do_load_6xx_tlb(1);
+    RETURN();
+}
+
+/* PowerPC 74xx software TLB load instructions */
+void OPPROTO op_74xx_tlbld (void)
+{
+    do_load_74xx_tlb(0);
+    RETURN();
+}
+
+void OPPROTO op_74xx_tlbli (void)
+{
+    do_load_74xx_tlb(1);
+    RETURN();
+}
+#endif
+
+/* 601 specific */
+void OPPROTO op_load_601_rtcl (void)
+{
+    T0 = cpu_ppc601_load_rtcl(env);
+    RETURN();
+}
+
+void OPPROTO op_load_601_rtcu (void)
+{
+    T0 = cpu_ppc601_load_rtcu(env);
+    RETURN();
+}
+
+#if !defined(CONFIG_USER_ONLY)
+void OPPROTO op_store_601_rtcl (void)
+{
+    cpu_ppc601_store_rtcl(env, T0);
+    RETURN();
+}
+
+void OPPROTO op_store_601_rtcu (void)
+{
+    cpu_ppc601_store_rtcu(env, T0);
+    RETURN();
+}
+
+void OPPROTO op_store_hid0_601 (void)
+{
+    do_store_hid0_601();
+    RETURN();
+}
+
+void OPPROTO op_load_601_bat (void)
+{
+    T0 = env->IBAT[PARAM1][PARAM2];
+    RETURN();
+}
+
+void OPPROTO op_store_601_batl (void)
+{
+    do_store_ibatl_601(env, PARAM1, T0);
+    RETURN();
+}
+
+void OPPROTO op_store_601_batu (void)
+{
+    do_store_ibatu_601(env, PARAM1, T0);
+    RETURN();
+}
+#endif /* !defined(CONFIG_USER_ONLY) */
+
+/* PowerPC 601 specific instructions (POWER bridge) */
+/* XXX: those micro-ops need tests ! */
+void OPPROTO op_POWER_abs (void)
+{
+    if ((int32_t)T0 == INT32_MIN)
+        T0 = INT32_MAX;
+    else if ((int32_t)T0 < 0)
+        T0 = -T0;
+    RETURN();
+}
+
+void OPPROTO op_POWER_abso (void)
+{
+    do_POWER_abso();
+    RETURN();
+}
+
+void OPPROTO op_POWER_clcs (void)
+{
+    do_POWER_clcs();
+    RETURN();
+}
+
+void OPPROTO op_POWER_div (void)
+{
+    do_POWER_div();
+    RETURN();
+}
+
+void OPPROTO op_POWER_divo (void)
+{
+    do_POWER_divo();
+    RETURN();
+}
+
+void OPPROTO op_POWER_divs (void)
+{
+    do_POWER_divs();
+    RETURN();
+}
+
+void OPPROTO op_POWER_divso (void)
+{
+    do_POWER_divso();
+    RETURN();
+}
+
+void OPPROTO op_POWER_doz (void)
+{
+    if ((int32_t)T1 > (int32_t)T0)
+        T0 = T1 - T0;
+    else
+        T0 = 0;
+    RETURN();
+}
+
+void OPPROTO op_POWER_dozo (void)
+{
+    do_POWER_dozo();
+    RETURN();
+}
+
+void OPPROTO op_load_xer_cmp (void)
+{
+    T2 = xer_cmp;
+    RETURN();
+}
+
+void OPPROTO op_POWER_maskg (void)
+{
+    do_POWER_maskg();
+    RETURN();
+}
+
+void OPPROTO op_POWER_maskir (void)
+{
+    T0 = (T0 & ~T2) | (T1 & T2);
+    RETURN();
+}
+
+void OPPROTO op_POWER_mul (void)
+{
+    uint64_t tmp;
+
+    tmp = (uint64_t)T0 * (uint64_t)T1;
+    env->spr[SPR_MQ] = tmp >> 32;
+    T0 = tmp;
+    RETURN();
+}
+
+void OPPROTO op_POWER_mulo (void)
+{
+    do_POWER_mulo();
+    RETURN();
+}
+
+void OPPROTO op_POWER_nabs (void)
+{
+    if (T0 > 0)
+        T0 = -T0;
+    RETURN();
+}
+
+void OPPROTO op_POWER_nabso (void)
+{
+    /* nabs never overflows */
+    if (T0 > 0)
+        T0 = -T0;
+    env->xer &= ~(1 << XER_OV);
+    RETURN();
+}
+
+/* XXX: factorise POWER rotates... */
+void OPPROTO op_POWER_rlmi (void)
+{
+    T0 = rotl32(T0, T2) & PARAM1;
+    T0 |= T1 & (uint32_t)PARAM2;
+    RETURN();
+}
+
+void OPPROTO op_POWER_rrib (void)
+{
+    T2 &= 0x1FUL;
+    T0 = rotl32(T0 & INT32_MIN, T2);
+    T0 |= T1 & ~rotl32(INT32_MIN, T2);
+    RETURN();
+}
+
+void OPPROTO op_POWER_sle (void)
+{
+    T1 &= 0x1FUL;
+    env->spr[SPR_MQ] = rotl32(T0, T1);
+    T0 = T0 << T1;
+    RETURN();
+}
+
+void OPPROTO op_POWER_sleq (void)
+{
+    uint32_t tmp = env->spr[SPR_MQ];
+
+    T1 &= 0x1FUL;
+    env->spr[SPR_MQ] = rotl32(T0, T1);
+    T0 = T0 << T1;
+    T0 |= tmp >> (32 - T1);
+    RETURN();
+}
+
+void OPPROTO op_POWER_sllq (void)
+{
+    uint32_t msk = UINT32_MAX;
+
+    msk = msk << (T1 & 0x1FUL);
+    if (T1 & 0x20UL)
+        msk = ~msk;
+    T1 &= 0x1FUL;
+    T0 = (T0 << T1) & msk;
+    T0 |= env->spr[SPR_MQ] & ~msk;
+    RETURN();
+}
+
+void OPPROTO op_POWER_slq (void)
+{
+    uint32_t msk = UINT32_MAX, tmp;
+
+    msk = msk << (T1 & 0x1FUL);
+    if (T1 & 0x20UL)
+        msk = ~msk;
+    T1 &= 0x1FUL;
+    tmp = rotl32(T0, T1);
+    T0 = tmp & msk;
+    env->spr[SPR_MQ] = tmp;
+    RETURN();
+}
+
+void OPPROTO op_POWER_sraq (void)
+{
+    env->spr[SPR_MQ] = rotl32(T0, 32 - (T1 & 0x1FUL));
+    if (T1 & 0x20UL)
+        T0 = UINT32_MAX;
+    else
+        T0 = (int32_t)T0 >> T1;
+    RETURN();
+}
+
+void OPPROTO op_POWER_sre (void)
+{
+    T1 &= 0x1FUL;
+    env->spr[SPR_MQ] = rotl32(T0, 32 - T1);
+    T0 = (int32_t)T0 >> T1;
+    RETURN();
+}
+
+void OPPROTO op_POWER_srea (void)
+{
+    T1 &= 0x1FUL;
+    env->spr[SPR_MQ] = T0 >> T1;
+    T0 = (int32_t)T0 >> T1;
+    RETURN();
+}
+
+void OPPROTO op_POWER_sreq (void)
+{
+    uint32_t tmp;
+    int32_t msk;
+
+    T1 &= 0x1FUL;
+    msk = INT32_MIN >> T1;
+    tmp = env->spr[SPR_MQ];
+    env->spr[SPR_MQ] = rotl32(T0, 32 - T1);
+    T0 = T0 >> T1;
+    T0 |= tmp & msk;
+    RETURN();
+}
+
+void OPPROTO op_POWER_srlq (void)
+{
+    uint32_t tmp;
+    int32_t msk;
+
+    msk = INT32_MIN >> (T1 & 0x1FUL);
+    if (T1 & 0x20UL)
+        msk = ~msk;
+    T1 &= 0x1FUL;
+    tmp = env->spr[SPR_MQ];
+    env->spr[SPR_MQ] = rotl32(T0, 32 - T1);
+    T0 = T0 >> T1;
+    T0 &= msk;
+    T0 |= tmp & ~msk;
+    RETURN();
+}
+
+void OPPROTO op_POWER_srq (void)
+{
+    T1 &= 0x1FUL;
+    env->spr[SPR_MQ] = rotl32(T0, 32 - T1);
+    T0 = T0 >> T1;
+    RETURN();
+}
+
+/* POWER instructions not implemented in PowerPC 601 */
+#if !defined(CONFIG_USER_ONLY)
+void OPPROTO op_POWER_mfsri (void)
+{
+    T1 = T0 >> 28;
+    T0 = env->sr[T1];
+    RETURN();
+}
+
+void OPPROTO op_POWER_rac (void)
+{
+    do_POWER_rac();
+    RETURN();
+}
+
+void OPPROTO op_POWER_rfsvc (void)
+{
+    do_POWER_rfsvc();
+    RETURN();
+}
+#endif
+
+/* PowerPC 602 specific instruction */
+#if !defined(CONFIG_USER_ONLY)
+void OPPROTO op_602_mfrom (void)
+{
+    do_op_602_mfrom();
+    RETURN();
+}
+#endif
+
+/* PowerPC 4xx specific micro-ops */
+void OPPROTO op_405_add_T0_T2 (void)
+{
+    T0 = (int32_t)T0 + (int32_t)T2;
+    RETURN();
+}
+
+void OPPROTO op_405_mulchw (void)
+{
+    T0 = ((int16_t)T0) * ((int16_t)(T1 >> 16));
+    RETURN();
+}
+
+void OPPROTO op_405_mulchwu (void)
+{
+    T0 = ((uint16_t)T0) * ((uint16_t)(T1 >> 16));
+    RETURN();
+}
+
+void OPPROTO op_405_mulhhw (void)
+{
+    T0 = ((int16_t)(T0 >> 16)) * ((int16_t)(T1 >> 16));
+    RETURN();
+}
+
+void OPPROTO op_405_mulhhwu (void)
+{
+    T0 = ((uint16_t)(T0 >> 16)) * ((uint16_t)(T1 >> 16));
+    RETURN();
+}
+
+void OPPROTO op_405_mullhw (void)
+{
+    T0 = ((int16_t)T0) * ((int16_t)T1);
+    RETURN();
+}
+
+void OPPROTO op_405_mullhwu (void)
+{
+    T0 = ((uint16_t)T0) * ((uint16_t)T1);
+    RETURN();
+}
+
+void OPPROTO op_405_check_sat (void)
+{
+    do_405_check_sat();
+    RETURN();
+}
+
+void OPPROTO op_405_check_ovu (void)
+{
+    if (likely(T0 >= T2)) {
+        env->xer &= ~(1 << XER_OV);
+    } else {
+        env->xer |= (1 << XER_OV) | (1 << XER_SO);
+    }
+    RETURN();
+}
+
+void OPPROTO op_405_check_satu (void)
+{
+    if (unlikely(T0 < T2)) {
+        /* Saturate result */
+        T0 = UINT32_MAX;
+    }
+    RETURN();
+}
+
+void OPPROTO op_load_dcr (void)
+{
+    do_load_dcr();
+    RETURN();
+}
+
+void OPPROTO op_store_dcr (void)
+{
+    do_store_dcr();
+    RETURN();
+}
+
+#if !defined(CONFIG_USER_ONLY)
+/* Return from critical interrupt :
+ * same as rfi, except nip & MSR are loaded from SRR2/3 instead of SRR0/1
+ */
+void OPPROTO op_40x_rfci (void)
+{
+    do_40x_rfci();
+    RETURN();
+}
+
+void OPPROTO op_rfci (void)
+{
+    do_rfci();
+    RETURN();
+}
+
+void OPPROTO op_rfdi (void)
+{
+    do_rfdi();
+    RETURN();
+}
+
+void OPPROTO op_rfmci (void)
+{
+    do_rfmci();
+    RETURN();
+}
+
+void OPPROTO op_wrte (void)
+{
+    /* We don't call do_store_msr here as we won't trigger
+     * any special case nor change hflags
+     */
+    T0 &= 1 << MSR_EE;
+    env->msr &= ~(1 << MSR_EE);
+    env->msr |= T0;
+    RETURN();
+}
+
+void OPPROTO op_440_tlbre (void)
+{
+    do_440_tlbre(PARAM1);
+    RETURN();
+}
+
+void OPPROTO op_440_tlbsx (void)
+{
+    T0 = ppcemb_tlb_search(env, T0, env->spr[SPR_440_MMUCR] & 0xFF);
+    RETURN();
+}
+
+void OPPROTO op_4xx_tlbsx_check (void)
+{
+    int tmp;
+
+    tmp = xer_so;
+    if ((int)T0 != -1)
+        tmp |= 0x02;
+    env->crf[0] = tmp;
+    RETURN();
+}
+
+void OPPROTO op_440_tlbwe (void)
+{
+    do_440_tlbwe(PARAM1);
+    RETURN();
+}
+
+void OPPROTO op_4xx_tlbre_lo (void)
+{
+    do_4xx_tlbre_lo();
+    RETURN();
+}
+
+void OPPROTO op_4xx_tlbre_hi (void)
+{
+    do_4xx_tlbre_hi();
+    RETURN();
+}
+
+void OPPROTO op_4xx_tlbsx (void)
+{
+    T0 = ppcemb_tlb_search(env, T0, env->spr[SPR_40x_PID]);
+    RETURN();
+}
+
+void OPPROTO op_4xx_tlbwe_lo (void)
+{
+    do_4xx_tlbwe_lo();
+    RETURN();
+}
+
+void OPPROTO op_4xx_tlbwe_hi (void)
+{
+    do_4xx_tlbwe_hi();
+    RETURN();
+}
+#endif
+
+/* SPR micro-ops */
+/* 440 specific */
+void OPPROTO op_440_dlmzb (void)
+{
+    do_440_dlmzb();
+    RETURN();
+}
+
+void OPPROTO op_440_dlmzb_update_Rc (void)
+{
+    if (T0 == 8)
+        T0 = 0x2;
+    else if (T0 < 4)
+        T0 = 0x4;
+    else
+        T0 = 0x8;
+    RETURN();
+}
+
+#if !defined(CONFIG_USER_ONLY)
+void OPPROTO op_store_pir (void)
+{
+    env->spr[SPR_PIR] = T0 & 0x0000000FUL;
+    RETURN();
+}
+
+void OPPROTO op_load_403_pb (void)
+{
+    do_load_403_pb(PARAM1);
+    RETURN();
+}
+
+void OPPROTO op_store_403_pb (void)
+{
+    do_store_403_pb(PARAM1);
+    RETURN();
+}
+
+void OPPROTO op_load_40x_pit (void)
+{
+    T0 = load_40x_pit(env);
+    RETURN();
+}
+
+void OPPROTO op_store_40x_pit (void)
+{
+    store_40x_pit(env, T0);
+    RETURN();
+}
+
+void OPPROTO op_store_40x_dbcr0 (void)
+{
+    store_40x_dbcr0(env, T0);
+    RETURN();
+}
+
+void OPPROTO op_store_40x_sler (void)
+{
+    store_40x_sler(env, T0);
+    RETURN();
+}
+
+void OPPROTO op_store_booke_tcr (void)
+{
+    store_booke_tcr(env, T0);
+    RETURN();
+}
+
+void OPPROTO op_store_booke_tsr (void)
+{
+    store_booke_tsr(env, T0);
+    RETURN();
+}
+#endif /* !defined(CONFIG_USER_ONLY) */
+
+/* SPE extension */
+void OPPROTO op_splatw_T1_64 (void)
+{
+    T1_64 = (T1_64 << 32) | (T1_64 & 0x00000000FFFFFFFFULL);
+    RETURN();
+}
+
+void OPPROTO op_splatwi_T0_64 (void)
+{
+    uint64_t tmp = PARAM1;
+
+    T0_64 = (tmp << 32) | tmp;
+    RETURN();
+}
+
+void OPPROTO op_splatwi_T1_64 (void)
+{
+    uint64_t tmp = PARAM1;
+
+    T1_64 = (tmp << 32) | tmp;
+    RETURN();
+}
+
+void OPPROTO op_extsh_T1_64 (void)
+{
+    T1_64 = (int32_t)((int16_t)T1_64);
+    RETURN();
+}
+
+void OPPROTO op_sli16_T1_64 (void)
+{
+    T1_64 = T1_64 << 16;
+    RETURN();
+}
+
+void OPPROTO op_sli32_T1_64 (void)
+{
+    T1_64 = T1_64 << 32;
+    RETURN();
+}
+
+void OPPROTO op_srli32_T1_64 (void)
+{
+    T1_64 = T1_64 >> 32;
+    RETURN();
+}
+
+void OPPROTO op_evsel (void)
+{
+    do_evsel();
+    RETURN();
+}
+
+void OPPROTO op_evaddw (void)
+{
+    do_evaddw();
+    RETURN();
+}
+
+void OPPROTO op_evsubfw (void)
+{
+    do_evsubfw();
+    RETURN();
+}
+
+void OPPROTO op_evneg (void)
+{
+    do_evneg();
+    RETURN();
+}
+
+void OPPROTO op_evabs (void)
+{
+    do_evabs();
+    RETURN();
+}
+
+void OPPROTO op_evextsh (void)
+{
+    T0_64 = ((uint64_t)((int32_t)(int16_t)(T0_64 >> 32)) << 32) |
+        (uint64_t)((int32_t)(int16_t)T0_64);
+    RETURN();
+}
+
+void OPPROTO op_evextsb (void)
+{
+    T0_64 = ((uint64_t)((int32_t)(int8_t)(T0_64 >> 32)) << 32) |
+        (uint64_t)((int32_t)(int8_t)T0_64);
+    RETURN();
+}
+
+void OPPROTO op_evcntlzw (void)
+{
+    do_evcntlzw();
+    RETURN();
+}
+
+void OPPROTO op_evrndw (void)
+{
+    do_evrndw();
+    RETURN();
+}
+
+void OPPROTO op_brinc (void)
+{
+    do_brinc();
+    RETURN();
+}
+
+void OPPROTO op_evcntlsw (void)
+{
+    do_evcntlsw();
+    RETURN();
+}
+
+void OPPROTO op_evsrws (void)
+{
+    do_evsrws();
+    RETURN();
+}
+
+void OPPROTO op_evsrwu (void)
+{
+    do_evsrwu();
+    RETURN();
+}
+
+void OPPROTO op_evslw (void)
+{
+    do_evslw();
+    RETURN();
+}
+
+void OPPROTO op_evrlw (void)
+{
+    do_evrlw();
+    RETURN();
+}
+
+void OPPROTO op_evmergelo (void)
+{
+    T0_64 = (T0_64 << 32) | (T1_64 & 0x00000000FFFFFFFFULL);
+    RETURN();
+}
+
+void OPPROTO op_evmergehi (void)
+{
+    T0_64 = (T0_64 & 0xFFFFFFFF00000000ULL) | (T1_64 >> 32);
+    RETURN();
+}
+
+void OPPROTO op_evmergelohi (void)
+{
+    T0_64 = (T0_64 << 32) | (T1_64 >> 32);
+    RETURN();
+}
+
+void OPPROTO op_evmergehilo (void)
+{
+    T0_64 = (T0_64 & 0xFFFFFFFF00000000ULL) | (T1_64 & 0x00000000FFFFFFFFULL);
+    RETURN();
+}
+
+void OPPROTO op_evcmpgts (void)
+{
+    do_evcmpgts();
+    RETURN();
+}
+
+void OPPROTO op_evcmpgtu (void)
+{
+    do_evcmpgtu();
+    RETURN();
+}
+
+void OPPROTO op_evcmplts (void)
+{
+    do_evcmplts();
+    RETURN();
+}
+
+void OPPROTO op_evcmpltu (void)
+{
+    do_evcmpltu();
+    RETURN();
+}
+
+void OPPROTO op_evcmpeq (void)
+{
+    do_evcmpeq();
+    RETURN();
+}
+
+void OPPROTO op_evfssub (void)
+{
+    do_evfssub();
+    RETURN();
+}
+
+void OPPROTO op_evfsadd (void)
+{
+    do_evfsadd();
+    RETURN();
+}
+
+void OPPROTO op_evfsnabs (void)
+{
+    do_evfsnabs();
+    RETURN();
+}
+
+void OPPROTO op_evfsabs (void)
+{
+    do_evfsabs();
+    RETURN();
+}
+
+void OPPROTO op_evfsneg (void)
+{
+    do_evfsneg();
+    RETURN();
+}
+
+void OPPROTO op_evfsdiv (void)
+{
+    do_evfsdiv();
+    RETURN();
+}
+
+void OPPROTO op_evfsmul (void)
+{
+    do_evfsmul();
+    RETURN();
+}
+
+void OPPROTO op_evfscmplt (void)
+{
+    do_evfscmplt();
+    RETURN();
+}
+
+void OPPROTO op_evfscmpgt (void)
+{
+    do_evfscmpgt();
+    RETURN();
+}
+
+void OPPROTO op_evfscmpeq (void)
+{
+    do_evfscmpeq();
+    RETURN();
+}
+
+void OPPROTO op_evfscfsi (void)
+{
+    do_evfscfsi();
+    RETURN();
+}
+
+void OPPROTO op_evfscfui (void)
+{
+    do_evfscfui();
+    RETURN();
+}
+
+void OPPROTO op_evfscfsf (void)
+{
+    do_evfscfsf();
+    RETURN();
+}
+
+void OPPROTO op_evfscfuf (void)
+{
+    do_evfscfuf();
+    RETURN();
+}
+
+void OPPROTO op_evfsctsi (void)
+{
+    do_evfsctsi();
+    RETURN();
+}
+
+void OPPROTO op_evfsctui (void)
+{
+    do_evfsctui();
+    RETURN();
+}
+
+void OPPROTO op_evfsctsf (void)
+{
+    do_evfsctsf();
+    RETURN();
+}
+
+void OPPROTO op_evfsctuf (void)
+{
+    do_evfsctuf();
+    RETURN();
+}
+
+void OPPROTO op_evfsctuiz (void)
+{
+    do_evfsctuiz();
+    RETURN();
+}
+
+void OPPROTO op_evfsctsiz (void)
+{
+    do_evfsctsiz();
+    RETURN();
+}
+
+void OPPROTO op_evfststlt (void)
+{
+    do_evfststlt();
+    RETURN();
+}
+
+void OPPROTO op_evfststgt (void)
+{
+    do_evfststgt();
+    RETURN();
+}
+
+void OPPROTO op_evfststeq (void)
+{
+    do_evfststeq();
+    RETURN();
+}
+
+void OPPROTO op_efssub (void)
+{
+    T0_64 = _do_efssub(T0_64, T1_64);
+    RETURN();
+}
+
+void OPPROTO op_efsadd (void)
+{
+    T0_64 = _do_efsadd(T0_64, T1_64);
+    RETURN();
+}
+
+void OPPROTO op_efsnabs (void)
+{
+    T0_64 = _do_efsnabs(T0_64);
+    RETURN();
+}
+
+void OPPROTO op_efsabs (void)
+{
+    T0_64 = _do_efsabs(T0_64);
+    RETURN();
+}
+
+void OPPROTO op_efsneg (void)
+{
+    T0_64 = _do_efsneg(T0_64);
+    RETURN();
+}
+
+void OPPROTO op_efsdiv (void)
+{
+    T0_64 = _do_efsdiv(T0_64, T1_64);
+    RETURN();
+}
+
+void OPPROTO op_efsmul (void)
+{
+    T0_64 = _do_efsmul(T0_64, T1_64);
+    RETURN();
+}
+
+void OPPROTO op_efscmplt (void)
+{
+    do_efscmplt();
+    RETURN();
+}
+
+void OPPROTO op_efscmpgt (void)
+{
+    do_efscmpgt();
+    RETURN();
+}
+
+void OPPROTO op_efscfd (void)
+{
+    do_efscfd();
+    RETURN();
+}
+
+void OPPROTO op_efscmpeq (void)
+{
+    do_efscmpeq();
+    RETURN();
+}
+
+void OPPROTO op_efscfsi (void)
+{
+    do_efscfsi();
+    RETURN();
+}
+
+void OPPROTO op_efscfui (void)
+{
+    do_efscfui();
+    RETURN();
+}
+
+void OPPROTO op_efscfsf (void)
+{
+    do_efscfsf();
+    RETURN();
+}
+
+void OPPROTO op_efscfuf (void)
+{
+    do_efscfuf();
+    RETURN();
+}
+
+void OPPROTO op_efsctsi (void)
+{
+    do_efsctsi();
+    RETURN();
+}
+
+void OPPROTO op_efsctui (void)
+{
+    do_efsctui();
+    RETURN();
+}
+
+void OPPROTO op_efsctsf (void)
+{
+    do_efsctsf();
+    RETURN();
+}
+
+void OPPROTO op_efsctuf (void)
+{
+    do_efsctuf();
+    RETURN();
+}
+
+void OPPROTO op_efsctsiz (void)
+{
+    do_efsctsiz();
+    RETURN();
+}
+
+void OPPROTO op_efsctuiz (void)
+{
+    do_efsctuiz();
+    RETURN();
+}
+
+void OPPROTO op_efststlt (void)
+{
+    T0 = _do_efststlt(T0_64, T1_64);
+    RETURN();
+}
+
+void OPPROTO op_efststgt (void)
+{
+    T0 = _do_efststgt(T0_64, T1_64);
+    RETURN();
+}
+
+void OPPROTO op_efststeq (void)
+{
+    T0 = _do_efststeq(T0_64, T1_64);
+    RETURN();
+}
+
+void OPPROTO op_efdsub (void)
+{
+    CPU_DoubleU u1, u2;
+    u1.ll = T0_64;
+    u2.ll = T1_64;
+    u1.d = float64_sub(u1.d, u2.d, &env->spe_status);
+    T0_64 = u1.ll;
+    RETURN();
+}
+
+void OPPROTO op_efdadd (void)
+{
+    CPU_DoubleU u1, u2;
+    u1.ll = T0_64;
+    u2.ll = T1_64;
+    u1.d = float64_add(u1.d, u2.d, &env->spe_status);
+    T0_64 = u1.ll;
+    RETURN();
+}
+
+void OPPROTO op_efdcfsid (void)
+{
+    do_efdcfsi();
+    RETURN();
+}
+
+void OPPROTO op_efdcfuid (void)
+{
+    do_efdcfui();
+    RETURN();
+}
+
+void OPPROTO op_efdnabs (void)
+{
+    T0_64 |= 0x8000000000000000ULL;
+    RETURN();
+}
+
+void OPPROTO op_efdabs (void)
+{
+    T0_64 &= ~0x8000000000000000ULL;
+    RETURN();
+}
+
+void OPPROTO op_efdneg (void)
+{
+    T0_64 ^= 0x8000000000000000ULL;
+    RETURN();
+}
+
+void OPPROTO op_efddiv (void)
+{
+    CPU_DoubleU u1, u2;
+    u1.ll = T0_64;
+    u2.ll = T1_64;
+    u1.d = float64_div(u1.d, u2.d, &env->spe_status);
+    T0_64 = u1.ll;
+    RETURN();
+}
+
+void OPPROTO op_efdmul (void)
+{
+    CPU_DoubleU u1, u2;
+    u1.ll = T0_64;
+    u2.ll = T1_64;
+    u1.d = float64_mul(u1.d, u2.d, &env->spe_status);
+    T0_64 = u1.ll;
+    RETURN();
+}
+
+void OPPROTO op_efdctsidz (void)
+{
+    do_efdctsiz();
+    RETURN();
+}
+
+void OPPROTO op_efdctuidz (void)
+{
+    do_efdctuiz();
+    RETURN();
+}
+
+void OPPROTO op_efdcmplt (void)
+{
+    do_efdcmplt();
+    RETURN();
+}
+
+void OPPROTO op_efdcmpgt (void)
+{
+    do_efdcmpgt();
+    RETURN();
+}
+
+void OPPROTO op_efdcfs (void)
+{
+    do_efdcfs();
+    RETURN();
+}
+
+void OPPROTO op_efdcmpeq (void)
+{
+    do_efdcmpeq();
+    RETURN();
+}
+
+void OPPROTO op_efdcfsi (void)
+{
+    do_efdcfsi();
+    RETURN();
+}
+
+void OPPROTO op_efdcfui (void)
+{
+    do_efdcfui();
+    RETURN();
+}
+
+void OPPROTO op_efdcfsf (void)
+{
+    do_efdcfsf();
+    RETURN();
+}
+
+void OPPROTO op_efdcfuf (void)
+{
+    do_efdcfuf();
+    RETURN();
+}
+
+void OPPROTO op_efdctsi (void)
+{
+    do_efdctsi();
+    RETURN();
+}
 
-/***                    Integer load and store multiple                    ***/
-PPC_OP(lmw)
+void OPPROTO op_efdctui (void)
 {
-    do_lmw(PARAM(1), SPARAM(2) + T0);
+    do_efdctui();
     RETURN();
 }
 
-PPC_OP(stmw)
+void OPPROTO op_efdctsf (void)
 {
-    do_stmw(PARAM(1), SPARAM(2) + T0);
+    do_efdctsf();
     RETURN();
 }
 
-/***                    Integer load and store strings                     ***/
-PPC_OP(lswi)
+void OPPROTO op_efdctuf (void)
 {
-    do_lsw(PARAM(1), PARAM(2), T0);
+    do_efdctuf();
     RETURN();
 }
 
-PPC_OP(lswx)
+void OPPROTO op_efdctuiz (void)
 {
-    do_lsw(PARAM(1), T0, T1 + T2);
+    do_efdctuiz();
     RETURN();
 }
 
-PPC_OP(stswi_z)
+void OPPROTO op_efdctsiz (void)
 {
-    do_stsw(PARAM(1), PARAM(2), 0);
+    do_efdctsiz();
     RETURN();
 }
 
-PPC_OP(stswi)
+void OPPROTO op_efdtstlt (void)
 {
-    do_stsw(PARAM(1), PARAM(2), T0);
+    T0 = _do_efdtstlt(T0_64, T1_64);
     RETURN();
 }
 
-PPC_OP(stswx_z)
+void OPPROTO op_efdtstgt (void)
 {
-    do_stsw(PARAM(1), T0, T1);
+    T0 = _do_efdtstgt(T0_64, T1_64);
     RETURN();
 }
 
-PPC_OP(stswx)
+void OPPROTO op_efdtsteq (void)
 {
-    do_stsw(PARAM(1), T0, T1 + T2);
+    T0 = _do_efdtsteq(T0_64, T1_64);
     RETURN();
 }