blob: 0665c603159bae985fd8b182e8a9792ee4a44a6b [file] [log] [blame]
H. Peter Anvin9d14a102007-10-05 14:36:03 -07001 ;; Known problematic floating-point numbers and their proper
2 ;; encoding...
H. Peter Anvin9d14a102007-10-05 14:36:03 -07003
H. Peter Anvina366cac2007-10-16 15:46:04 -07004 bits 64
H. Peter Anvin9d14a102007-10-05 14:36:03 -07005
H. Peter Anvina366cac2007-10-16 15:46:04 -07006 dd 1.1e10
7 dd 0x5023e9ac ; Should be...
8
9 dd 50.40e9
10 dd 0x513bc130 ; Should be...
11
12 dq 1.4e23
13 dq 0x44bda56a4b0835c0
14
15 dq 50.48e21
16 dq 0x44a5610d7502feae
17
18 dt 1.2e28
19 dq 0x9b18ab5df7180b6c
20 dw 0x405c
21
22 dt 50.46e25
23 dq 0xd0b29a67e95dcb60
24 dw 0x4057
25
26 ;; Way too big numbers, should overflow to +Inf
27 dd 1.0E646456955
28 dd 1.0E646456956
29 dd 1.0E2147483646
30 dd 1.0E2147483647
31 dd 1.0E2147483648
32 dd 1.0E2147483649