Gitiles
Code Review Sign In
gerrit.openfyde.cn / chromium.googlesource.com / chromium / deps / nasm / f1cf95480d9df9e7854a4be6844f86ff854e03d2 / . / test / floatb.asm
blob: 68bf4aed6eafbf2b4f231f878e9cb4d476a62ff3 [file] [log] [blame]
H. Peter Anvin733cbb32008-10-06 18:27:30 -0700[diff] [blame]1;Testname=unoptimized; Arguments=-O0 -fbin -ofloatb.bin; Files=stdout stderr floatb.bin
2;Testname=optimized; Arguments=-Ox -fbin -ofloatb.bin; Files=stdout stderr floatb.bin
Victor van den Elzen82fa68a2008-04-23 15:05:31 +0200[diff] [blame]3
H. Peter Anvin9d14a102007-10-05 14:36:03 -0700[diff] [blame]4 ;; Known problematic floating-point numbers and their proper
5 ;; encoding...
H. Peter Anvin9d14a102007-10-05 14:36:03 -0700[diff] [blame]6
H. Peter Anvina366cac2007-10-16 15:46:04 -0700[diff] [blame]7 bits 64
H. Peter Anvin8fa27992018-11-26 14:59:35 -0800[diff] [blame]8
H. Peter Anvina366cac2007-10-16 15:46:04 -0700[diff] [blame]9 dd 1.1e10
10 dd 0x5023e9ac ; Should be...
H. Peter Anvin8fa27992018-11-26 14:59:35 -0800[diff] [blame]11
H. Peter Anvina366cac2007-10-16 15:46:04 -0700[diff] [blame]12 dd 50.40e9
13 dd 0x513bc130 ; Should be...
14
15 dq 1.4e23
16 dq 0x44bda56a4b0835c0
17
18 dq 50.48e21
19 dq 0x44a5610d7502feae
20
21 dt 1.2e28
22 dq 0x9b18ab5df7180b6c
23 dw 0x405c
H. Peter Anvin8fa27992018-11-26 14:59:35 -0800[diff] [blame]24
H. Peter Anvina366cac2007-10-16 15:46:04 -0700[diff] [blame]25 dt 50.46e25
26 dq 0xd0b29a67e95dcb60
27 dw 0x4057
28
H. Peter Anvind7498062018-11-26 21:38:14 -0800[diff] [blame]29 do 0xf.ffffff8p-4
30 do 0q3.7777777774p-2
31 do 0b1.1111_1111_1111_1111_1111_1111_1111_111p-1
32
33 dt 0xf.ffffff8p-4
34 dt 0q3.7777777774p-2
35 dt 0b1.1111_1111_1111_1111_1111_1111_1111_111p-1
36
37 dq 0xf.ffffff8p-4
38 dq 0q3.7777777774p-2
39 dq 0b1.1111_1111_1111_1111_1111_1111_1111_111p-1
40
41 dd 0xf.ffffff8p-4
42 dd 0q3.7777777774p-2
43 dd 0b1.1111_1111_1111_1111_1111_1111_1111_111p-1
44
45 dw 0xf.ffffff8p-4
46 dw 0q3.7777777774p-2
47 dw 0b1.1111_1111_1111_1111_1111_1111_1111_111p-1
48
49 db 0xf.ffffff8p-4
50 db 0q3.7777777774p-2
51 db 0b1.1111_1111_1111_1111_1111_1111_1111_111p-1
52
H. Peter Anvin8fa27992018-11-26 14:59:35 -0800[diff] [blame]53
H. Peter Anvina366cac2007-10-16 15:46:04 -0700[diff] [blame]54 ;; Way too big numbers, should overflow to +Inf
55 dd 1.0E646456955
56 dd 1.0E646456956
57 dd 1.0E2147483646
58 dd 1.0E2147483647
59 dd 1.0E2147483648
60 dd 1.0E2147483649