]> rtime.felk.cvut.cz Git - l4.git/blob - l4/pkg/python/contrib/Lib/test/decimaltestdata/minmag.decTest
Inital import
[l4.git] / l4 / pkg / python / contrib / Lib / test / decimaltestdata / minmag.decTest
1 ------------------------------------------------------------------------\r
2 -- minmag.decTest -- decimal minimum by magnitude                     --\r
3 -- Copyright (c) IBM Corporation, 1981, 2008.  All rights reserved.   --\r
4 ------------------------------------------------------------------------\r
5 -- Please see the document "General Decimal Arithmetic Testcases"     --\r
6 -- at http://www2.hursley.ibm.com/decimal for the description of      --\r
7 -- these testcases.                                                   --\r
8 --                                                                    --\r
9 -- These testcases are experimental ('beta' versions), and they       --\r
10 -- may contain errors.  They are offered on an as-is basis.  In       --\r
11 -- particular, achieving the same results as the tests here is not    --\r
12 -- a guarantee that an implementation complies with any Standard      --\r
13 -- or specification.  The tests are not exhaustive.                   --\r
14 --                                                                    --\r
15 -- Please send comments, suggestions, and corrections to the author:  --\r
16 --   Mike Cowlishaw, IBM Fellow                                       --\r
17 --   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --\r
18 --   mfc@uk.ibm.com                                                   --\r
19 ------------------------------------------------------------------------\r
20 version: 2.58\r
21 \r
22 -- we assume that base comparison is tested in compare.decTest, so\r
23 -- these mainly cover special cases and rounding\r
24 \r
25 extended:    1\r
26 precision:   9\r
27 rounding:    half_up\r
28 maxExponent: 384\r
29 minexponent: -383\r
30 \r
31 -- sanity checks\r
32 mngx001 minmag  -2  -2  -> -2\r
33 mngx002 minmag  -2  -1  -> -1\r
34 mngx003 minmag  -2   0  ->  0\r
35 mngx004 minmag  -2   1  ->  1\r
36 mngx005 minmag  -2   2  -> -2\r
37 mngx006 minmag  -1  -2  -> -1\r
38 mngx007 minmag  -1  -1  -> -1\r
39 mngx008 minmag  -1   0  ->  0\r
40 mngx009 minmag  -1   1  -> -1\r
41 mngx010 minmag  -1   2  -> -1\r
42 mngx011 minmag   0  -2  ->  0\r
43 mngx012 minmag   0  -1  ->  0\r
44 mngx013 minmag   0   0  ->  0\r
45 mngx014 minmag   0   1  ->  0\r
46 mngx015 minmag   0   2  ->  0\r
47 mngx016 minmag   1  -2  ->  1\r
48 mngx017 minmag   1  -1  -> -1\r
49 mngx018 minmag   1   0  ->  0\r
50 mngx019 minmag   1   1  ->  1\r
51 mngx020 minmag   1   2  ->  1\r
52 mngx021 minmag   2  -2  -> -2\r
53 mngx022 minmag   2  -1  -> -1\r
54 mngx023 minmag   2   0  ->  0\r
55 mngx025 minmag   2   1  ->  1\r
56 mngx026 minmag   2   2  ->  2\r
57 \r
58 -- extended zeros\r
59 mngx030 minmag   0     0   ->  0\r
60 mngx031 minmag   0    -0   -> -0\r
61 mngx032 minmag   0    -0.0 -> -0.0\r
62 mngx033 minmag   0     0.0 ->  0.0\r
63 mngx034 minmag  -0     0   -> -0\r
64 mngx035 minmag  -0    -0   -> -0\r
65 mngx036 minmag  -0    -0.0 -> -0\r
66 mngx037 minmag  -0     0.0 -> -0\r
67 mngx038 minmag   0.0   0   ->  0.0\r
68 mngx039 minmag   0.0  -0   -> -0\r
69 mngx040 minmag   0.0  -0.0 -> -0.0\r
70 mngx041 minmag   0.0   0.0 ->  0.0\r
71 mngx042 minmag  -0.0   0   -> -0.0\r
72 mngx043 minmag  -0.0  -0   -> -0\r
73 mngx044 minmag  -0.0  -0.0 -> -0.0\r
74 mngx045 minmag  -0.0   0.0 -> -0.0\r
75 \r
76 mngx046 minmag   0E1  -0E1 -> -0E+1\r
77 mngx047 minmag  -0E1   0E2 -> -0E+1\r
78 mngx048 minmag   0E2   0E1 ->  0E+1\r
79 mngx049 minmag   0E1   0E2 ->  0E+1\r
80 mngx050 minmag  -0E3  -0E2 -> -0E+3\r
81 mngx051 minmag  -0E2  -0E3 -> -0E+3\r
82 \r
83 -- Specials\r
84 precision: 9\r
85 mngx090 minmag  Inf  -Inf   -> -Infinity\r
86 mngx091 minmag  Inf  -1000  -> -1000\r
87 mngx092 minmag  Inf  -1     -> -1\r
88 mngx093 minmag  Inf  -0     -> -0\r
89 mngx094 minmag  Inf   0     ->  0\r
90 mngx095 minmag  Inf   1     ->  1\r
91 mngx096 minmag  Inf   1000  ->  1000\r
92 mngx097 minmag  Inf   Inf   ->  Infinity\r
93 mngx098 minmag -1000  Inf   -> -1000\r
94 mngx099 minmag -Inf   Inf   -> -Infinity\r
95 mngx100 minmag -1     Inf   -> -1\r
96 mngx101 minmag -0     Inf   -> -0\r
97 mngx102 minmag  0     Inf   ->  0\r
98 mngx103 minmag  1     Inf   ->  1\r
99 mngx104 minmag  1000  Inf   ->  1000\r
100 mngx105 minmag  Inf   Inf   ->  Infinity\r
101 \r
102 mngx120 minmag -Inf  -Inf   -> -Infinity\r
103 mngx121 minmag -Inf  -1000  -> -1000\r
104 mngx122 minmag -Inf  -1     -> -1\r
105 mngx123 minmag -Inf  -0     -> -0\r
106 mngx124 minmag -Inf   0     ->  0\r
107 mngx125 minmag -Inf   1     ->  1\r
108 mngx126 minmag -Inf   1000  ->  1000\r
109 mngx127 minmag -Inf   Inf   -> -Infinity\r
110 mngx128 minmag -Inf  -Inf   -> -Infinity\r
111 mngx129 minmag -1000 -Inf   -> -1000\r
112 mngx130 minmag -1    -Inf   -> -1\r
113 mngx131 minmag -0    -Inf   -> -0\r
114 mngx132 minmag  0    -Inf   ->  0\r
115 mngx133 minmag  1    -Inf   ->  1\r
116 mngx134 minmag  1000 -Inf   ->  1000\r
117 mngx135 minmag  Inf  -Inf   -> -Infinity\r
118 \r
119 -- 2004.08.02 754r chooses number over NaN in mixed cases\r
120 mngx141 minmag  NaN -Inf    ->  -Infinity\r
121 mngx142 minmag  NaN -1000   ->  -1000\r
122 mngx143 minmag  NaN -1      ->  -1\r
123 mngx144 minmag  NaN -0      ->  -0\r
124 mngx145 minmag  NaN  0      ->  0\r
125 mngx146 minmag  NaN  1      ->  1\r
126 mngx147 minmag  NaN  1000   ->  1000\r
127 mngx148 minmag  NaN  Inf    ->  Infinity\r
128 mngx149 minmag  NaN  NaN    ->  NaN\r
129 mngx150 minmag -Inf  NaN    -> -Infinity\r
130 mngx151 minmag -1000 NaN    -> -1000\r
131 mngx152 minmag -1   -NaN    -> -1\r
132 mngx153 minmag -0    NaN    -> -0\r
133 mngx154 minmag  0   -NaN    ->  0\r
134 mngx155 minmag  1    NaN    ->  1\r
135 mngx156 minmag  1000 NaN    ->  1000\r
136 mngx157 minmag  Inf  NaN    ->  Infinity\r
137 \r
138 mngx161 minmag  sNaN -Inf   ->  NaN  Invalid_operation\r
139 mngx162 minmag  sNaN -1000  ->  NaN  Invalid_operation\r
140 mngx163 minmag  sNaN -1     ->  NaN  Invalid_operation\r
141 mngx164 minmag  sNaN -0     ->  NaN  Invalid_operation\r
142 mngx165 minmag -sNaN  0     -> -NaN  Invalid_operation\r
143 mngx166 minmag -sNaN  1     -> -NaN  Invalid_operation\r
144 mngx167 minmag  sNaN  1000  ->  NaN  Invalid_operation\r
145 mngx168 minmag  sNaN  NaN   ->  NaN  Invalid_operation\r
146 mngx169 minmag  sNaN sNaN   ->  NaN  Invalid_operation\r
147 mngx170 minmag  NaN  sNaN   ->  NaN  Invalid_operation\r
148 mngx171 minmag -Inf  sNaN   ->  NaN  Invalid_operation\r
149 mngx172 minmag -1000 sNaN   ->  NaN  Invalid_operation\r
150 mngx173 minmag -1    sNaN   ->  NaN  Invalid_operation\r
151 mngx174 minmag -0    sNaN   ->  NaN  Invalid_operation\r
152 mngx175 minmag  0    sNaN   ->  NaN  Invalid_operation\r
153 mngx176 minmag  1    sNaN   ->  NaN  Invalid_operation\r
154 mngx177 minmag  1000 sNaN   ->  NaN  Invalid_operation\r
155 mngx178 minmag  Inf  sNaN   ->  NaN  Invalid_operation\r
156 mngx179 minmag  NaN  sNaN   ->  NaN  Invalid_operation\r
157 \r
158 -- propagating NaNs\r
159 mngx181 minmag  NaN9   -Inf   -> -Infinity\r
160 mngx182 minmag -NaN8    9990  ->  9990\r
161 mngx183 minmag  NaN71   Inf   ->  Infinity\r
162 \r
163 mngx184 minmag  NaN1    NaN54 ->  NaN1\r
164 mngx185 minmag  NaN22  -NaN53 ->  NaN22\r
165 mngx186 minmag -NaN3    NaN6  -> -NaN3\r
166 mngx187 minmag -NaN44   NaN7  -> -NaN44\r
167 \r
168 mngx188 minmag -Inf     NaN41 -> -Infinity\r
169 mngx189 minmag -9999   -NaN33 -> -9999\r
170 mngx190 minmag  Inf     NaN2  ->  Infinity\r
171 \r
172 mngx191 minmag  sNaN99 -Inf    ->  NaN99 Invalid_operation\r
173 mngx192 minmag  sNaN98 -11     ->  NaN98 Invalid_operation\r
174 mngx193 minmag -sNaN97  NaN8   -> -NaN97 Invalid_operation\r
175 mngx194 minmag  sNaN69 sNaN94  ->  NaN69 Invalid_operation\r
176 mngx195 minmag  NaN95  sNaN93  ->  NaN93 Invalid_operation\r
177 mngx196 minmag -Inf    sNaN92  ->  NaN92 Invalid_operation\r
178 mngx197 minmag  088    sNaN91  ->  NaN91 Invalid_operation\r
179 mngx198 minmag  Inf   -sNaN90  -> -NaN90 Invalid_operation\r
180 mngx199 minmag  NaN    sNaN86  ->  NaN86 Invalid_operation\r
181 \r
182 -- rounding checks -- chosen is rounded, or not\r
183 maxExponent: 999\r
184 minexponent: -999\r
185 precision: 9\r
186 mngx201 minmag -12345678000 1  -> 1\r
187 mngx202 minmag 1 -12345678000  -> 1\r
188 mngx203 minmag -1234567800  1  -> 1\r
189 mngx204 minmag 1 -1234567800   -> 1\r
190 mngx205 minmag -1234567890  1  -> 1\r
191 mngx206 minmag 1 -1234567890   -> 1\r
192 mngx207 minmag -1234567891  1  -> 1\r
193 mngx208 minmag 1 -1234567891   -> 1\r
194 mngx209 minmag -12345678901 1  -> 1\r
195 mngx210 minmag 1 -12345678901  -> 1\r
196 mngx211 minmag -1234567896  1  -> 1\r
197 mngx212 minmag 1 -1234567896   -> 1\r
198 mngx213 minmag 1234567891  1   -> 1\r
199 mngx214 minmag 1 1234567891    -> 1\r
200 mngx215 minmag 12345678901 1   -> 1\r
201 mngx216 minmag 1 12345678901   -> 1\r
202 mngx217 minmag 1234567896  1   -> 1\r
203 mngx218 minmag 1 1234567896    -> 1\r
204 \r
205 precision: 15\r
206 mngx221 minmag -12345678000 1  -> 1\r
207 mngx222 minmag 1 -12345678000  -> 1\r
208 mngx223 minmag -1234567800  1  -> 1\r
209 mngx224 minmag 1 -1234567800   -> 1\r
210 mngx225 minmag -1234567890  1  -> 1\r
211 mngx226 minmag 1 -1234567890   -> 1\r
212 mngx227 minmag -1234567891  1  -> 1\r
213 mngx228 minmag 1 -1234567891   -> 1\r
214 mngx229 minmag -12345678901 1  -> 1\r
215 mngx230 minmag 1 -12345678901  -> 1\r
216 mngx231 minmag -1234567896  1  -> 1\r
217 mngx232 minmag 1 -1234567896   -> 1\r
218 mngx233 minmag 1234567891  1   -> 1\r
219 mngx234 minmag 1 1234567891    -> 1\r
220 mngx235 minmag 12345678901 1   -> 1\r
221 mngx236 minmag 1 12345678901   -> 1\r
222 mngx237 minmag 1234567896  1   -> 1\r
223 mngx238 minmag 1 1234567896    -> 1\r
224 \r
225 -- from examples\r
226 mngx280 minmag '3'   '2'  ->  '2'\r
227 mngx281 minmag '-10' '3'  ->  '3'\r
228 mngx282 minmag '1.0' '1'  ->  '1.0'\r
229 mngx283 minmag '1' '1.0'  ->  '1.0'\r
230 mngx284 minmag '7' 'NaN'  ->  '7'\r
231 \r
232 -- overflow and underflow tests .. subnormal results [inputs] now allowed\r
233 maxExponent: 999999999\r
234 minexponent: -999999999\r
235 mngx330 minmag -1.23456789012345E-0 -9E+999999999 -> -1.23456789012345\r
236 mngx331 minmag -9E+999999999 -1.23456789012345E-0 -> -1.23456789012345\r
237 mngx332 minmag -0.100 -9E-999999999               -> -9E-999999999\r
238 mngx333 minmag -9E-999999999 -0.100               -> -9E-999999999\r
239 mngx335 minmag +1.23456789012345E-0 -9E+999999999 ->  1.23456789012345\r
240 mngx336 minmag -9E+999999999 1.23456789012345E-0  ->  1.23456789012345\r
241 mngx337 minmag +0.100 -9E-999999999               -> -9E-999999999\r
242 mngx338 minmag -9E-999999999 0.100                -> -9E-999999999\r
243 \r
244 mngx339 minmag -1e-599999999 -1e-400000001   ->  -1E-599999999\r
245 mngx340 minmag -1e-599999999 -1e-400000000   ->  -1E-599999999\r
246 mngx341 minmag -1e-600000000 -1e-400000000   ->  -1E-600000000\r
247 mngx342 minmag -9e-999999998 -0.01           ->  -9E-999999998\r
248 mngx343 minmag -9e-999999998 -0.1            ->  -9E-999999998\r
249 mngx344 minmag -0.01         -9e-999999998   ->  -9E-999999998\r
250 mngx345 minmag -1e599999999  -1e400000001    ->  -1E+400000001\r
251 mngx346 minmag -1e599999999  -1e400000000    ->  -1E+400000000\r
252 mngx347 minmag -1e600000000  -1e400000000    ->  -1E+400000000\r
253 mngx348 minmag -9e999999998  -100            ->  -100\r
254 mngx349 minmag -9e999999998  -10             ->  -10\r
255 mngx350 minmag -100          -9e999999998    ->  -100\r
256 -- signs\r
257 mngx351 minmag -1e+777777777 -1e+411111111 -> -1E+411111111\r
258 mngx352 minmag -1e+777777777 +1e+411111111 ->  1E+411111111\r
259 mngx353 minmag +1e+777777777 -1e+411111111 -> -1E+411111111\r
260 mngx354 minmag +1e+777777777 +1e+411111111 ->  1E+411111111\r
261 mngx355 minmag -1e-777777777 -1e-411111111 -> -1E-777777777\r
262 mngx356 minmag -1e-777777777 +1e-411111111 -> -1E-777777777\r
263 mngx357 minmag +1e-777777777 -1e-411111111 ->  1E-777777777\r
264 mngx358 minmag +1e-777777777 +1e-411111111 ->  1E-777777777\r
265 \r
266 -- expanded list from min/max 754r purple prose\r
267 -- [explicit tests for exponent ordering]\r
268 mngx401 minmag  Inf    1.1     ->  1.1\r
269 mngx402 minmag  1.1    1       ->  1\r
270 mngx403 minmag  1      1.0     ->  1.0\r
271 mngx404 minmag  1.0    0.1     ->  0.1\r
272 mngx405 minmag  0.1    0.10    ->  0.10\r
273 mngx406 minmag  0.10   0.100   ->  0.100\r
274 mngx407 minmag  0.10   0       ->  0\r
275 mngx408 minmag  0      0.0     ->  0.0\r
276 mngx409 minmag  0.0   -0       -> -0\r
277 mngx410 minmag  0.0   -0.0     -> -0.0\r
278 mngx411 minmag  0.00  -0.0     -> -0.0\r
279 mngx412 minmag  0.0   -0.00    -> -0.00\r
280 mngx413 minmag  0     -0.0     -> -0.0\r
281 mngx414 minmag  0     -0       -> -0\r
282 mngx415 minmag -0.0   -0       -> -0\r
283 mngx416 minmag -0     -0.100   -> -0\r
284 mngx417 minmag -0.100 -0.10    -> -0.10\r
285 mngx418 minmag -0.10  -0.1     -> -0.1\r
286 mngx419 minmag -0.1   -1.0     -> -0.1\r
287 mngx420 minmag -1.0   -1       -> -1\r
288 mngx421 minmag -1     -1.1     -> -1\r
289 mngx423 minmag -1.1   -Inf     -> -1.1\r
290 -- same with operands reversed\r
291 mngx431 minmag  1.1    Inf     ->  1.1\r
292 mngx432 minmag  1      1.1     ->  1\r
293 mngx433 minmag  1.0    1       ->  1.0\r
294 mngx434 minmag  0.1    1.0     ->  0.1\r
295 mngx435 minmag  0.10   0.1     ->  0.10\r
296 mngx436 minmag  0.100  0.10    ->  0.100\r
297 mngx437 minmag  0      0.10    ->  0\r
298 mngx438 minmag  0.0    0       ->  0.0\r
299 mngx439 minmag -0      0.0     -> -0\r
300 mngx440 minmag -0.0    0.0     -> -0.0\r
301 mngx441 minmag -0.0    0.00    -> -0.0\r
302 mngx442 minmag -0.00   0.0     -> -0.00\r
303 mngx443 minmag -0.0    0       -> -0.0\r
304 mngx444 minmag -0      0       -> -0\r
305 mngx445 minmag -0     -0.0     -> -0\r
306 mngx446 minmag -0.100 -0       -> -0\r
307 mngx447 minmag -0.10  -0.100   -> -0.10\r
308 mngx448 minmag -0.1   -0.10    -> -0.1\r
309 mngx449 minmag -1.0   -0.1     -> -0.1\r
310 mngx450 minmag -1     -1.0     -> -1\r
311 mngx451 minmag -1.1   -1       -> -1\r
312 mngx453 minmag -Inf   -1.1     -> -1.1\r
313 -- largies\r
314 mngx460 minmag  1000   1E+3    ->  1000\r
315 mngx461 minmag  1E+3   1000    ->  1000\r
316 mngx462 minmag  1000  -1E+3    -> -1E+3\r
317 mngx463 minmag  1E+3  -1000    -> -1000\r
318 mngx464 minmag -1000   1E+3    -> -1000\r
319 mngx465 minmag -1E+3   1000    -> -1E+3\r
320 mngx466 minmag -1000  -1E+3    -> -1E+3\r
321 mngx467 minmag -1E+3  -1000    -> -1E+3\r
322 \r
323 -- rounding (results treated as though plus)\r
324 maxexponent: 999999999\r
325 minexponent: -999999999\r
326 precision: 3\r
327 \r
328 mngx470 minmag  1      5      ->  1\r
329 mngx471 minmag  10     50     ->  10\r
330 mngx472 minmag  100    500    ->  100\r
331 mngx473 minmag  1000   5000   ->  1.00E+3 Rounded\r
332 mngx474 minmag  10000  50000  ->  1.00E+4 Rounded\r
333 mngx475 minmag  6      50     ->  6\r
334 mngx476 minmag  66     500    ->  66\r
335 mngx477 minmag  666    5000   ->  666\r
336 mngx478 minmag  6666   50000  ->  6.67E+3 Rounded Inexact\r
337 mngx479 minmag  66666  500000 ->  6.67E+4 Rounded Inexact\r
338 mngx480 minmag  33333  500000 ->  3.33E+4 Rounded Inexact\r
339 mngx481 minmag  75401  1      ->  1\r
340 mngx482 minmag  75402  10     ->  10\r
341 mngx483 minmag  75403  100    ->  100\r
342 mngx484 minmag  75404  1000   ->  1.00E+3 Rounded\r
343 mngx485 minmag  75405  10000  ->  1.00E+4 Rounded\r
344 mngx486 minmag  75406  6      ->  6\r
345 mngx487 minmag  75407  66     ->  66\r
346 mngx488 minmag  75408  666    ->  666\r
347 mngx489 minmag  75409  6666   ->  6.67E+3 Rounded Inexact\r
348 mngx490 minmag  75410  66666  ->  6.67E+4 Rounded Inexact\r
349 mngx491 minmag  75411  33333  ->  3.33E+4 Rounded Inexact\r
350 \r
351 \r
352 -- overflow tests\r
353 maxexponent: 999999999\r
354 minexponent: -999999999\r
355 precision: 3\r
356 mngx500 minmag 9.999E+999999999  0 ->  0\r
357 mngx501 minmag -9.999E+999999999 0 ->  0\r
358 \r
359 -- subnormals and underflow\r
360 precision: 3\r
361 maxexponent: 999\r
362 minexponent: -999\r
363 mngx510 minmag  1.00E-999       0  ->   0\r
364 mngx511 minmag  0.1E-999        0  ->   0\r
365 mngx512 minmag  0.10E-999       0  ->   0\r
366 mngx513 minmag  0.100E-999      0  ->   0\r
367 mngx514 minmag  0.01E-999       0  ->   0\r
368 mngx515 minmag  0.999E-999      0  ->   0\r
369 mngx516 minmag  0.099E-999      0  ->   0\r
370 mngx517 minmag  0.009E-999      0  ->   0\r
371 mngx518 minmag  0.001E-999      0  ->   0\r
372 mngx519 minmag  0.0009E-999     0  ->   0\r
373 mngx520 minmag  0.0001E-999     0  ->   0\r
374 \r
375 mngx530 minmag -1.00E-999       0  ->   0\r
376 mngx531 minmag -0.1E-999        0  ->   0\r
377 mngx532 minmag -0.10E-999       0  ->   0\r
378 mngx533 minmag -0.100E-999      0  ->   0\r
379 mngx534 minmag -0.01E-999       0  ->   0\r
380 mngx535 minmag -0.999E-999      0  ->   0\r
381 mngx536 minmag -0.099E-999      0  ->   0\r
382 mngx537 minmag -0.009E-999      0  ->   0\r
383 mngx538 minmag -0.001E-999      0  ->   0\r
384 mngx539 minmag -0.0009E-999     0  ->   0\r
385 mngx540 minmag -0.0001E-999     0  ->   0\r
386 \r
387 \r
388 -- Null tests\r
389 mng900 minmag 10  # -> NaN Invalid_operation\r
390 mng901 minmag  # 10 -> NaN Invalid_operation\r