Gprof prooved the PowerPC emulation spent too much time in MSR load and store
[qemu] / target-ppc / op_helper.h
1 /*
2  *  PowerPC emulation helpers header for qemu.
3  *
4  *  Copyright (c) 2003-2007 Jocelyn Mayer
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this library; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
19  */
20
21 #if defined(MEMSUFFIX)
22
23 /* Memory load/store helpers */
24 void glue(do_lsw, MEMSUFFIX) (int dst);
25 void glue(do_lsw_le, MEMSUFFIX) (int dst);
26 void glue(do_stsw, MEMSUFFIX) (int src);
27 void glue(do_stsw_le, MEMSUFFIX) (int src);
28 void glue(do_lmw, MEMSUFFIX) (int dst);
29 void glue(do_lmw_le, MEMSUFFIX) (int dst);
30 void glue(do_stmw, MEMSUFFIX) (int src);
31 void glue(do_stmw_le, MEMSUFFIX) (int src);
32 void glue(do_icbi, MEMSUFFIX) (void);
33 void glue(do_dcbz, MEMSUFFIX) (void);
34 void glue(do_POWER_lscbx, MEMSUFFIX) (int dest, int ra, int rb);
35 void glue(do_POWER2_lfq, MEMSUFFIX) (void);
36 void glue(do_POWER2_lfq_le, MEMSUFFIX) (void);
37 void glue(do_POWER2_stfq, MEMSUFFIX) (void);
38 void glue(do_POWER2_stfq_le, MEMSUFFIX) (void);
39
40 #if defined(TARGET_PPC64)
41 void glue(do_lsw_64, MEMSUFFIX) (int dst);
42 void glue(do_lsw_le_64, MEMSUFFIX) (int dst);
43 void glue(do_stsw_64, MEMSUFFIX) (int src);
44 void glue(do_stsw_le_64, MEMSUFFIX) (int src);
45 void glue(do_lmw_64, MEMSUFFIX) (int dst);
46 void glue(do_lmw_le_64, MEMSUFFIX) (int dst);
47 void glue(do_stmw_64, MEMSUFFIX) (int src);
48 void glue(do_stmw_le_64, MEMSUFFIX) (int src);
49 void glue(do_icbi_64, MEMSUFFIX) (void);
50 void glue(do_dcbz_64, MEMSUFFIX) (void);
51 #endif
52
53 #else
54
55 void do_print_mem_EA (target_ulong EA);
56
57 /* Registers load and stores */
58 void do_load_cr (void);
59 void do_store_cr (uint32_t mask);
60 #if defined(TARGET_PPC64)
61 void do_store_pri (int prio);
62 #endif
63 void do_load_fpscr (void);
64 void do_store_fpscr (uint32_t mask);
65 target_ulong ppc_load_dump_spr (int sprn);
66 void ppc_store_dump_spr (int sprn, target_ulong val);
67
68 /* Integer arithmetic helpers */
69 void do_adde (void);
70 void do_addmeo (void);
71 void do_divwo (void);
72 void do_divwuo (void);
73 void do_mullwo (void);
74 void do_nego (void);
75 void do_subfe (void);
76 void do_subfmeo (void);
77 void do_subfzeo (void);
78 void do_sraw (void);
79 #if defined(TARGET_PPC64)
80 void do_adde_64 (void);
81 void do_addmeo_64 (void);
82 void do_imul64 (uint64_t *tl, uint64_t *th);
83 void do_mul64 (uint64_t *tl, uint64_t *th);
84 void do_divdo (void);
85 void do_divduo (void);
86 void do_mulldo (void);
87 void do_nego_64 (void);
88 void do_subfe_64 (void);
89 void do_subfmeo_64 (void);
90 void do_subfzeo_64 (void);
91 void do_srad (void);
92 #endif
93 void do_popcntb (void);
94 #if defined(TARGET_PPC64)
95 void do_popcntb_64 (void);
96 #endif
97
98 /* Floating-point arithmetic helpers */
99 void do_fsqrt (void);
100 void do_fre (void);
101 void do_fres (void);
102 void do_frsqrte (void);
103 void do_fsel (void);
104 #if USE_PRECISE_EMULATION
105 void do_fmadd (void);
106 void do_fmsub (void);
107 #endif
108 void do_fnmadd (void);
109 void do_fnmsub (void);
110 void do_fctiw (void);
111 void do_fctiwz (void);
112 #if defined(TARGET_PPC64)
113 void do_fcfid (void);
114 void do_fctid (void);
115 void do_fctidz (void);
116 #endif
117 void do_frin (void);
118 void do_friz (void);
119 void do_frip (void);
120 void do_frim (void);
121 void do_fcmpu (void);
122 void do_fcmpo (void);
123
124 /* Misc */
125 void do_tw (int flags);
126 #if defined(TARGET_PPC64)
127 void do_td (int flags);
128 #endif
129 #if !defined(CONFIG_USER_ONLY)
130 void do_store_msr (void);
131 void do_rfi (void);
132 #if defined(TARGET_PPC64)
133 void do_rfid (void);
134 #endif
135 #if defined(TARGET_PPC64H)
136 void do_hrfid (void);
137 #endif
138 void do_load_6xx_tlb (int is_code);
139 void do_load_74xx_tlb (int is_code);
140 #endif
141
142 /* POWER / PowerPC 601 specific helpers */
143 void do_store_601_batu (int nr);
144 void do_POWER_abso (void);
145 void do_POWER_clcs (void);
146 void do_POWER_div (void);
147 void do_POWER_divo (void);
148 void do_POWER_divs (void);
149 void do_POWER_divso (void);
150 void do_POWER_dozo (void);
151 void do_POWER_maskg (void);
152 void do_POWER_mulo (void);
153 #if !defined(CONFIG_USER_ONLY)
154 void do_POWER_rac (void);
155 void do_POWER_rfsvc (void);
156 #endif
157
158 /* PowerPC 602 specific helper */
159 #if !defined(CONFIG_USER_ONLY)
160 void do_op_602_mfrom (void);
161 #endif
162
163 /* PowerPC 440 specific helpers */
164 #if !defined(CONFIG_USER_ONLY)
165 void do_440_tlbre (int word);
166 void do_440_tlbwe (int word);
167 #endif
168
169 /* PowerPC 4xx specific helpers */
170 void do_405_check_ov (void);
171 void do_405_check_sat (void);
172 void do_load_dcr (void);
173 void do_store_dcr (void);
174 #if !defined(CONFIG_USER_ONLY)
175 void do_40x_rfci (void);
176 void do_rfci (void);
177 void do_rfdi (void);
178 void do_rfmci (void);
179 void do_4xx_tlbre_lo (void);
180 void do_4xx_tlbre_hi (void);
181 void do_4xx_tlbwe_lo (void);
182 void do_4xx_tlbwe_hi (void);
183 #endif
184
185 /* PowerPC 440 specific helpers */
186 void do_440_dlmzb (void);
187
188 /* PowerPC 403 specific helpers */
189 #if !defined(CONFIG_USER_ONLY)
190 void do_load_403_pb (int num);
191 void do_store_403_pb (int num);
192 #endif
193
194 #if defined(TARGET_PPCEMB)
195 /* SPE extension helpers */
196 void do_brinc (void);
197 /* Fixed-point vector helpers */
198 void do_evabs (void);
199 void do_evaddw (void);
200 void do_evcntlsw (void);
201 void do_evcntlzw (void);
202 void do_evneg (void);
203 void do_evrlw (void);
204 void do_evsel (void);
205 void do_evrndw (void);
206 void do_evslw (void);
207 void do_evsrws (void);
208 void do_evsrwu (void);
209 void do_evsubfw (void);
210 void do_evcmpeq (void);
211 void do_evcmpgts (void);
212 void do_evcmpgtu (void);
213 void do_evcmplts (void);
214 void do_evcmpltu (void);
215
216 /* Single precision floating-point helpers */
217 void do_efscmplt (void);
218 void do_efscmpgt (void);
219 void do_efscmpeq (void);
220 void do_efscfsf (void);
221 void do_efscfuf (void);
222 void do_efsctsf (void);
223 void do_efsctuf (void);
224
225 void do_efscfsi (void);
226 void do_efscfui (void);
227 void do_efsctsi (void);
228 void do_efsctui (void);
229 void do_efsctsiz (void);
230 void do_efsctuiz (void);
231
232 /* Double precision floating-point helpers */
233 void do_efdcmplt (void);
234 void do_efdcmpgt (void);
235 void do_efdcmpeq (void);
236 void do_efdcfsf (void);
237 void do_efdcfuf (void);
238 void do_efdctsf (void);
239 void do_efdctuf (void);
240
241 void do_efdcfsi (void);
242 void do_efdcfui (void);
243 void do_efdctsi (void);
244 void do_efdctui (void);
245 void do_efdctsiz (void);
246 void do_efdctuiz (void);
247
248 void do_efdcfs (void);
249 void do_efscfd (void);
250
251 /* Floating-point vector helpers */
252 void do_evfsabs (void);
253 void do_evfsnabs (void);
254 void do_evfsneg (void);
255 void do_evfsadd (void);
256 void do_evfssub (void);
257 void do_evfsmul (void);
258 void do_evfsdiv (void);
259 void do_evfscmplt (void);
260 void do_evfscmpgt (void);
261 void do_evfscmpeq (void);
262 void do_evfststlt (void);
263 void do_evfststgt (void);
264 void do_evfststeq (void);
265 void do_evfscfsi (void);
266 void do_evfscfui (void);
267 void do_evfscfsf (void);
268 void do_evfscfuf (void);
269 void do_evfsctsf (void);
270 void do_evfsctuf (void);
271 void do_evfsctsi (void);
272 void do_evfsctui (void);
273 void do_evfsctsiz (void);
274 void do_evfsctuiz (void);
275 #endif /* defined(TARGET_PPCEMB) */
276
277 /* Inlined helpers: used in micro-operation as well as helpers */
278 /* Generic fixed-point helpers */
279 static always_inline int _do_cntlzw (uint32_t val)
280 {
281     int cnt = 0;
282     if (!(val & 0xFFFF0000UL)) {
283         cnt += 16;
284         val <<= 16;
285     }
286     if (!(val & 0xFF000000UL)) {
287         cnt += 8;
288         val <<= 8;
289     }
290     if (!(val & 0xF0000000UL)) {
291         cnt += 4;
292         val <<= 4;
293     }
294     if (!(val & 0xC0000000UL)) {
295         cnt += 2;
296         val <<= 2;
297     }
298     if (!(val & 0x80000000UL)) {
299         cnt++;
300         val <<= 1;
301     }
302     if (!(val & 0x80000000UL)) {
303         cnt++;
304     }
305     return cnt;
306 }
307
308 static always_inline int _do_cntlzd (uint64_t val)
309 {
310     int cnt = 0;
311 #if HOST_LONG_BITS == 64
312     if (!(val & 0xFFFFFFFF00000000ULL)) {
313         cnt += 32;
314         val <<= 32;
315     }
316     if (!(val & 0xFFFF000000000000ULL)) {
317         cnt += 16;
318         val <<= 16;
319     }
320     if (!(val & 0xFF00000000000000ULL)) {
321         cnt += 8;
322         val <<= 8;
323     }
324     if (!(val & 0xF000000000000000ULL)) {
325         cnt += 4;
326         val <<= 4;
327     }
328     if (!(val & 0xC000000000000000ULL)) {
329         cnt += 2;
330         val <<= 2;
331     }
332     if (!(val & 0x8000000000000000ULL)) {
333         cnt++;
334         val <<= 1;
335     }
336     if (!(val & 0x8000000000000000ULL)) {
337         cnt++;
338     }
339 #else
340     /* Make it easier on 32 bits host machines */
341     if (!(val >> 32))
342         cnt = _do_cntlzw(val) + 32;
343     else
344         cnt = _do_cntlzw(val >> 32);
345 #endif
346     return cnt;
347 }
348
349 #if defined(TARGET_PPCEMB)
350 /* SPE extension */
351 /* Single precision floating-point helpers */
352 static always_inline uint32_t _do_efsabs (uint32_t val)
353 {
354     return val & ~0x80000000;
355 }
356 static always_inline uint32_t _do_efsnabs (uint32_t val)
357 {
358     return val | 0x80000000;
359 }
360 static always_inline uint32_t _do_efsneg (uint32_t val)
361 {
362     return val ^ 0x80000000;
363 }
364 static always_inline uint32_t _do_efsadd (uint32_t op1, uint32_t op2)
365 {
366     union {
367         uint32_t u;
368         float32 f;
369     } u1, u2;
370     u1.u = op1;
371     u2.u = op2;
372     u1.f = float32_add(u1.f, u2.f, &env->spe_status);
373     return u1.u;
374 }
375 static always_inline uint32_t _do_efssub (uint32_t op1, uint32_t op2)
376 {
377     union {
378         uint32_t u;
379         float32 f;
380     } u1, u2;
381     u1.u = op1;
382     u2.u = op2;
383     u1.f = float32_sub(u1.f, u2.f, &env->spe_status);
384     return u1.u;
385 }
386 static always_inline uint32_t _do_efsmul (uint32_t op1, uint32_t op2)
387 {
388     union {
389         uint32_t u;
390         float32 f;
391     } u1, u2;
392     u1.u = op1;
393     u2.u = op2;
394     u1.f = float32_mul(u1.f, u2.f, &env->spe_status);
395     return u1.u;
396 }
397 static always_inline uint32_t _do_efsdiv (uint32_t op1, uint32_t op2)
398 {
399     union {
400         uint32_t u;
401         float32 f;
402     } u1, u2;
403     u1.u = op1;
404     u2.u = op2;
405     u1.f = float32_div(u1.f, u2.f, &env->spe_status);
406     return u1.u;
407 }
408
409 static always_inline int _do_efststlt (uint32_t op1, uint32_t op2)
410 {
411     union {
412         uint32_t u;
413         float32 f;
414     } u1, u2;
415     u1.u = op1;
416     u2.u = op2;
417     return float32_lt(u1.f, u2.f, &env->spe_status) ? 1 : 0;
418 }
419 static always_inline int _do_efststgt (uint32_t op1, uint32_t op2)
420 {
421     union {
422         uint32_t u;
423         float32 f;
424     } u1, u2;
425     u1.u = op1;
426     u2.u = op2;
427     return float32_le(u1.f, u2.f, &env->spe_status) ? 0 : 1;
428 }
429 static always_inline int _do_efststeq (uint32_t op1, uint32_t op2)
430 {
431     union {
432         uint32_t u;
433         float32 f;
434     } u1, u2;
435     u1.u = op1;
436     u2.u = op2;
437     return float32_eq(u1.f, u2.f, &env->spe_status) ? 1 : 0;
438 }
439 /* Double precision floating-point helpers */
440 static always_inline int _do_efdtstlt (uint64_t op1, uint64_t op2)
441 {
442     union {
443         uint64_t u;
444         float64 f;
445     } u1, u2;
446     u1.u = op1;
447     u2.u = op2;
448     return float64_lt(u1.f, u2.f, &env->spe_status) ? 1 : 0;
449 }
450 static always_inline int _do_efdtstgt (uint64_t op1, uint64_t op2)
451 {
452     union {
453         uint64_t u;
454         float64 f;
455     } u1, u2;
456     u1.u = op1;
457     u2.u = op2;
458     return float64_le(u1.f, u2.f, &env->spe_status) ? 0 : 1;
459 }
460 static always_inline int _do_efdtsteq (uint64_t op1, uint64_t op2)
461 {
462     union {
463         uint64_t u;
464         float64 f;
465     } u1, u2;
466     u1.u = op1;
467     u2.u = op2;
468     return float64_eq(u1.f, u2.f, &env->spe_status) ? 1 : 0;
469 }
470 #endif /* defined(TARGET_PPCEMB) */
471 #endif