]> git.proxmox.com Git - mirror_edk2.git/blame - AppPkg/Applications/Python/Python-2.7.2/Lib/test/decimaltestdata/ddMinMag.decTest
EmbeddedPkg: Extend NvVarStoreFormattedLib LIBRARY_CLASS
[mirror_edk2.git] / AppPkg / Applications / Python / Python-2.7.2 / Lib / test / decimaltestdata / ddMinMag.decTest
CommitLineData
4710c53d 1------------------------------------------------------------------------\r
2-- ddMinMag.decTest -- decDouble minnummag --\r
3-- Copyright (c) IBM Corporation, 1981, 2008. All rights reserved. --\r
4------------------------------------------------------------------------\r
5-- Please see the document "General Decimal Arithmetic Testcases" --\r
6-- at http://www2.hursley.ibm.com/decimal for the description of --\r
7-- these testcases. --\r
8-- --\r
9-- These testcases are experimental ('beta' versions), and they --\r
10-- may contain errors. They are offered on an as-is basis. In --\r
11-- particular, achieving the same results as the tests here is not --\r
12-- a guarantee that an implementation complies with any Standard --\r
13-- or specification. The tests are not exhaustive. --\r
14-- --\r
15-- Please send comments, suggestions, and corrections to the author: --\r
16-- Mike Cowlishaw, IBM Fellow --\r
17-- IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK --\r
18-- mfc@uk.ibm.com --\r
19------------------------------------------------------------------------\r
20version: 2.59\r
21\r
22-- we assume that base comparison is tested in compare.decTest, so\r
23-- these mainly cover special cases and rounding\r
24precision: 16\r
25maxExponent: 384\r
26minExponent: -383\r
27extended: 1\r
28clamp: 1\r
29rounding: half_even\r
30\r
31-- sanity checks\r
32ddmng001 minmag -2 -2 -> -2\r
33ddmng002 minmag -2 -1 -> -1\r
34ddmng003 minmag -2 0 -> 0\r
35ddmng004 minmag -2 1 -> 1\r
36ddmng005 minmag -2 2 -> -2\r
37ddmng006 minmag -1 -2 -> -1\r
38ddmng007 minmag -1 -1 -> -1\r
39ddmng008 minmag -1 0 -> 0\r
40ddmng009 minmag -1 1 -> -1\r
41ddmng010 minmag -1 2 -> -1\r
42ddmng011 minmag 0 -2 -> 0\r
43ddmng012 minmag 0 -1 -> 0\r
44ddmng013 minmag 0 0 -> 0\r
45ddmng014 minmag 0 1 -> 0\r
46ddmng015 minmag 0 2 -> 0\r
47ddmng016 minmag 1 -2 -> 1\r
48ddmng017 minmag 1 -1 -> -1\r
49ddmng018 minmag 1 0 -> 0\r
50ddmng019 minmag 1 1 -> 1\r
51ddmng020 minmag 1 2 -> 1\r
52ddmng021 minmag 2 -2 -> -2\r
53ddmng022 minmag 2 -1 -> -1\r
54ddmng023 minmag 2 0 -> 0\r
55ddmng025 minmag 2 1 -> 1\r
56ddmng026 minmag 2 2 -> 2\r
57\r
58-- extended zeros\r
59ddmng030 minmag 0 0 -> 0\r
60ddmng031 minmag 0 -0 -> -0\r
61ddmng032 minmag 0 -0.0 -> -0.0\r
62ddmng033 minmag 0 0.0 -> 0.0\r
63ddmng034 minmag -0 0 -> -0\r
64ddmng035 minmag -0 -0 -> -0\r
65ddmng036 minmag -0 -0.0 -> -0\r
66ddmng037 minmag -0 0.0 -> -0\r
67ddmng038 minmag 0.0 0 -> 0.0\r
68ddmng039 minmag 0.0 -0 -> -0\r
69ddmng040 minmag 0.0 -0.0 -> -0.0\r
70ddmng041 minmag 0.0 0.0 -> 0.0\r
71ddmng042 minmag -0.0 0 -> -0.0\r
72ddmng043 minmag -0.0 -0 -> -0\r
73ddmng044 minmag -0.0 -0.0 -> -0.0\r
74ddmng045 minmag -0.0 0.0 -> -0.0\r
75\r
76ddmng046 minmag 0E1 -0E1 -> -0E+1\r
77ddmng047 minmag -0E1 0E2 -> -0E+1\r
78ddmng048 minmag 0E2 0E1 -> 0E+1\r
79ddmng049 minmag 0E1 0E2 -> 0E+1\r
80ddmng050 minmag -0E3 -0E2 -> -0E+3\r
81ddmng051 minmag -0E2 -0E3 -> -0E+3\r
82\r
83-- Specials\r
84ddmng090 minmag Inf -Inf -> -Infinity\r
85ddmng091 minmag Inf -1000 -> -1000\r
86ddmng092 minmag Inf -1 -> -1\r
87ddmng093 minmag Inf -0 -> -0\r
88ddmng094 minmag Inf 0 -> 0\r
89ddmng095 minmag Inf 1 -> 1\r
90ddmng096 minmag Inf 1000 -> 1000\r
91ddmng097 minmag Inf Inf -> Infinity\r
92ddmng098 minmag -1000 Inf -> -1000\r
93ddmng099 minmag -Inf Inf -> -Infinity\r
94ddmng100 minmag -1 Inf -> -1\r
95ddmng101 minmag -0 Inf -> -0\r
96ddmng102 minmag 0 Inf -> 0\r
97ddmng103 minmag 1 Inf -> 1\r
98ddmng104 minmag 1000 Inf -> 1000\r
99ddmng105 minmag Inf Inf -> Infinity\r
100\r
101ddmng120 minmag -Inf -Inf -> -Infinity\r
102ddmng121 minmag -Inf -1000 -> -1000\r
103ddmng122 minmag -Inf -1 -> -1\r
104ddmng123 minmag -Inf -0 -> -0\r
105ddmng124 minmag -Inf 0 -> 0\r
106ddmng125 minmag -Inf 1 -> 1\r
107ddmng126 minmag -Inf 1000 -> 1000\r
108ddmng127 minmag -Inf Inf -> -Infinity\r
109ddmng128 minmag -Inf -Inf -> -Infinity\r
110ddmng129 minmag -1000 -Inf -> -1000\r
111ddmng130 minmag -1 -Inf -> -1\r
112ddmng131 minmag -0 -Inf -> -0\r
113ddmng132 minmag 0 -Inf -> 0\r
114ddmng133 minmag 1 -Inf -> 1\r
115ddmng134 minmag 1000 -Inf -> 1000\r
116ddmng135 minmag Inf -Inf -> -Infinity\r
117\r
118-- 2004.08.02 754r chooses number over NaN in mixed cases\r
119ddmng141 minmag NaN -Inf -> -Infinity\r
120ddmng142 minmag NaN -1000 -> -1000\r
121ddmng143 minmag NaN -1 -> -1\r
122ddmng144 minmag NaN -0 -> -0\r
123ddmng145 minmag NaN 0 -> 0\r
124ddmng146 minmag NaN 1 -> 1\r
125ddmng147 minmag NaN 1000 -> 1000\r
126ddmng148 minmag NaN Inf -> Infinity\r
127ddmng149 minmag NaN NaN -> NaN\r
128ddmng150 minmag -Inf NaN -> -Infinity\r
129ddmng151 minmag -1000 NaN -> -1000\r
130ddmng152 minmag -1 -NaN -> -1\r
131ddmng153 minmag -0 NaN -> -0\r
132ddmng154 minmag 0 -NaN -> 0\r
133ddmng155 minmag 1 NaN -> 1\r
134ddmng156 minmag 1000 NaN -> 1000\r
135ddmng157 minmag Inf NaN -> Infinity\r
136\r
137ddmng161 minmag sNaN -Inf -> NaN Invalid_operation\r
138ddmng162 minmag sNaN -1000 -> NaN Invalid_operation\r
139ddmng163 minmag sNaN -1 -> NaN Invalid_operation\r
140ddmng164 minmag sNaN -0 -> NaN Invalid_operation\r
141ddmng165 minmag -sNaN 0 -> -NaN Invalid_operation\r
142ddmng166 minmag -sNaN 1 -> -NaN Invalid_operation\r
143ddmng167 minmag sNaN 1000 -> NaN Invalid_operation\r
144ddmng168 minmag sNaN NaN -> NaN Invalid_operation\r
145ddmng169 minmag sNaN sNaN -> NaN Invalid_operation\r
146ddmng170 minmag NaN sNaN -> NaN Invalid_operation\r
147ddmng171 minmag -Inf sNaN -> NaN Invalid_operation\r
148ddmng172 minmag -1000 sNaN -> NaN Invalid_operation\r
149ddmng173 minmag -1 sNaN -> NaN Invalid_operation\r
150ddmng174 minmag -0 sNaN -> NaN Invalid_operation\r
151ddmng175 minmag 0 sNaN -> NaN Invalid_operation\r
152ddmng176 minmag 1 sNaN -> NaN Invalid_operation\r
153ddmng177 minmag 1000 sNaN -> NaN Invalid_operation\r
154ddmng178 minmag Inf sNaN -> NaN Invalid_operation\r
155ddmng179 minmag NaN sNaN -> NaN Invalid_operation\r
156\r
157-- propagating NaNs\r
158ddmng181 minmag NaN9 -Inf -> -Infinity\r
159ddmng182 minmag -NaN8 9990 -> 9990\r
160ddmng183 minmag NaN71 Inf -> Infinity\r
161\r
162ddmng184 minmag NaN1 NaN54 -> NaN1\r
163ddmng185 minmag NaN22 -NaN53 -> NaN22\r
164ddmng186 minmag -NaN3 NaN6 -> -NaN3\r
165ddmng187 minmag -NaN44 NaN7 -> -NaN44\r
166\r
167ddmng188 minmag -Inf NaN41 -> -Infinity\r
168ddmng189 minmag -9999 -NaN33 -> -9999\r
169ddmng190 minmag Inf NaN2 -> Infinity\r
170\r
171ddmng191 minmag sNaN99 -Inf -> NaN99 Invalid_operation\r
172ddmng192 minmag sNaN98 -11 -> NaN98 Invalid_operation\r
173ddmng193 minmag -sNaN97 NaN8 -> -NaN97 Invalid_operation\r
174ddmng194 minmag sNaN69 sNaN94 -> NaN69 Invalid_operation\r
175ddmng195 minmag NaN95 sNaN93 -> NaN93 Invalid_operation\r
176ddmng196 minmag -Inf sNaN92 -> NaN92 Invalid_operation\r
177ddmng197 minmag 088 sNaN91 -> NaN91 Invalid_operation\r
178ddmng198 minmag Inf -sNaN90 -> -NaN90 Invalid_operation\r
179ddmng199 minmag NaN sNaN86 -> NaN86 Invalid_operation\r
180\r
181-- old rounding checks\r
182ddmng221 minmag -12345678000 1 -> 1\r
183ddmng222 minmag 1 -12345678000 -> 1\r
184ddmng223 minmag -1234567800 1 -> 1\r
185ddmng224 minmag 1 -1234567800 -> 1\r
186ddmng225 minmag -1234567890 1 -> 1\r
187ddmng226 minmag 1 -1234567890 -> 1\r
188ddmng227 minmag -1234567891 1 -> 1\r
189ddmng228 minmag 1 -1234567891 -> 1\r
190ddmng229 minmag -12345678901 1 -> 1\r
191ddmng230 minmag 1 -12345678901 -> 1\r
192ddmng231 minmag -1234567896 1 -> 1\r
193ddmng232 minmag 1 -1234567896 -> 1\r
194ddmng233 minmag 1234567891 1 -> 1\r
195ddmng234 minmag 1 1234567891 -> 1\r
196ddmng235 minmag 12345678901 1 -> 1\r
197ddmng236 minmag 1 12345678901 -> 1\r
198ddmng237 minmag 1234567896 1 -> 1\r
199ddmng238 minmag 1 1234567896 -> 1\r
200\r
201-- from examples\r
202ddmng280 minmag '3' '2' -> '2'\r
203ddmng281 minmag '-10' '3' -> '3'\r
204ddmng282 minmag '1.0' '1' -> '1.0'\r
205ddmng283 minmag '1' '1.0' -> '1.0'\r
206ddmng284 minmag '7' 'NaN' -> '7'\r
207\r
208-- expanded list from min/max 754r purple prose\r
209-- [explicit tests for exponent ordering]\r
210ddmng401 minmag Inf 1.1 -> 1.1\r
211ddmng402 minmag 1.1 1 -> 1\r
212ddmng403 minmag 1 1.0 -> 1.0\r
213ddmng404 minmag 1.0 0.1 -> 0.1\r
214ddmng405 minmag 0.1 0.10 -> 0.10\r
215ddmng406 minmag 0.10 0.100 -> 0.100\r
216ddmng407 minmag 0.10 0 -> 0\r
217ddmng408 minmag 0 0.0 -> 0.0\r
218ddmng409 minmag 0.0 -0 -> -0\r
219ddmng410 minmag 0.0 -0.0 -> -0.0\r
220ddmng411 minmag 0.00 -0.0 -> -0.0\r
221ddmng412 minmag 0.0 -0.00 -> -0.00\r
222ddmng413 minmag 0 -0.0 -> -0.0\r
223ddmng414 minmag 0 -0 -> -0\r
224ddmng415 minmag -0.0 -0 -> -0\r
225ddmng416 minmag -0 -0.100 -> -0\r
226ddmng417 minmag -0.100 -0.10 -> -0.10\r
227ddmng418 minmag -0.10 -0.1 -> -0.1\r
228ddmng419 minmag -0.1 -1.0 -> -0.1\r
229ddmng420 minmag -1.0 -1 -> -1\r
230ddmng421 minmag -1 -1.1 -> -1\r
231ddmng423 minmag -1.1 -Inf -> -1.1\r
232-- same with operands reversed\r
233ddmng431 minmag 1.1 Inf -> 1.1\r
234ddmng432 minmag 1 1.1 -> 1\r
235ddmng433 minmag 1.0 1 -> 1.0\r
236ddmng434 minmag 0.1 1.0 -> 0.1\r
237ddmng435 minmag 0.10 0.1 -> 0.10\r
238ddmng436 minmag 0.100 0.10 -> 0.100\r
239ddmng437 minmag 0 0.10 -> 0\r
240ddmng438 minmag 0.0 0 -> 0.0\r
241ddmng439 minmag -0 0.0 -> -0\r
242ddmng440 minmag -0.0 0.0 -> -0.0\r
243ddmng441 minmag -0.0 0.00 -> -0.0\r
244ddmng442 minmag -0.00 0.0 -> -0.00\r
245ddmng443 minmag -0.0 0 -> -0.0\r
246ddmng444 minmag -0 0 -> -0\r
247ddmng445 minmag -0 -0.0 -> -0\r
248ddmng446 minmag -0.100 -0 -> -0\r
249ddmng447 minmag -0.10 -0.100 -> -0.10\r
250ddmng448 minmag -0.1 -0.10 -> -0.1\r
251ddmng449 minmag -1.0 -0.1 -> -0.1\r
252ddmng450 minmag -1 -1.0 -> -1\r
253ddmng451 minmag -1.1 -1 -> -1\r
254ddmng453 minmag -Inf -1.1 -> -1.1\r
255-- largies\r
256ddmng460 minmag 1000 1E+3 -> 1000\r
257ddmng461 minmag 1E+3 1000 -> 1000\r
258ddmng462 minmag 1000 -1E+3 -> -1E+3\r
259ddmng463 minmag 1E+3 -384 -> -384\r
260ddmng464 minmag -384 1E+3 -> -384\r
261ddmng465 minmag -1E+3 1000 -> -1E+3\r
262ddmng466 minmag -384 -1E+3 -> -384\r
263ddmng467 minmag -1E+3 -384 -> -384\r
264\r
265-- subnormals\r
266ddmng510 minmag 1.00E-383 0 -> 0\r
267ddmng511 minmag 0.1E-383 0 -> 0\r
268ddmng512 minmag 0.10E-383 0 -> 0\r
269ddmng513 minmag 0.100E-383 0 -> 0\r
270ddmng514 minmag 0.01E-383 0 -> 0\r
271ddmng515 minmag 0.999E-383 0 -> 0\r
272ddmng516 minmag 0.099E-383 0 -> 0\r
273ddmng517 minmag 0.009E-383 0 -> 0\r
274ddmng518 minmag 0.001E-383 0 -> 0\r
275ddmng519 minmag 0.0009E-383 0 -> 0\r
276ddmng520 minmag 0.0001E-383 0 -> 0\r
277\r
278ddmng530 minmag -1.00E-383 0 -> 0\r
279ddmng531 minmag -0.1E-383 0 -> 0\r
280ddmng532 minmag -0.10E-383 0 -> 0\r
281ddmng533 minmag -0.100E-383 0 -> 0\r
282ddmng534 minmag -0.01E-383 0 -> 0\r
283ddmng535 minmag -0.999E-383 0 -> 0\r
284ddmng536 minmag -0.099E-383 0 -> 0\r
285ddmng537 minmag -0.009E-383 0 -> 0\r
286ddmng538 minmag -0.001E-383 0 -> 0\r
287ddmng539 minmag -0.0009E-383 0 -> 0\r
288ddmng540 minmag -0.0001E-383 0 -> 0\r
289\r
290\r
291-- Null tests\r
292ddmng900 minmag 10 # -> NaN Invalid_operation\r
293ddmng901 minmag # 10 -> NaN Invalid_operation\r