Home
last modified time | relevance | path

Searched refs:maxExponent (Results 1 – 25 of 141) sorted by relevance

123456

/third_party/python/Lib/test/decimaltestdata/
Dexp.decTest28 maxExponent: 384
252 maxExponent: 999999
388 maxExponent: 384
413 maxExponent: 999
421 maxExponent: 384
468 maxExponent: 1000000
471 maxExponent: 999999
474 maxExponent: 999999
477 maxExponent: 999999
482 maxExponent: 384
[all …]
Dln.decTest25 maxExponent: 384
212 maxExponent: 384
234 maxExponent: 384
409 maxExponent: 384
536 maxExponent: 384
546 maxExponent: 999
557 maxExponent: 384
591 maxExponent: 1000000
594 maxExponent: 999999
597 maxExponent: 999999
[all …]
Dlog10.decTest28 maxExponent: 384
270 maxExponent: 384
509 maxExponent: 384
535 maxExponent: 1000000
538 maxExponent: 999999
541 maxExponent: 999999
544 maxExponent: 999999
Dclass.decTest25 maxExponent: 999
80 maxExponent: 384
Dclamp.decTest29 maxExponent: 384
189 maxExponent: 384
204 maxExponent: +96
Dnextminus.decTest25 maxExponent: 384
105 maxExponent: 999
Dnextplus.decTest25 maxExponent: 384
106 maxExponent: 999
Dnexttoward.decTest25 maxExponent: 384
170 maxExponent: 999
200 maxExponent: 384
292 maxExponent: 999
324 maxExponent: 384
Dpower.decTest29 maxExponent: 384
231 maxExponent: 999
249 maxExponent: 999
301 maxExponent: 999
631 maxExponent: 384
829 maxExponent: 384
929 maxExponent: 384
1162 maxExponent: 384
1188 maxExponent: 384
1458 maxExponent: 1000000
[all …]
Dminmag.decTest28 maxExponent: 384
183 maxExponent: 999
233 maxExponent: 999999999
Dplus.decTest28 maxExponent: 384
160 maxExponent: 384
Dscaleb.decTest25 maxExponent: 999
204 maxExponent: 999999999
Dmultiply.decTest25 maxExponent: 384
328 maxExponent: 92
595 maxExponent: 999
663 maxExponent: 999999999
695 maxExponent: 384
717 maxExponent: 6144
Ddivide.decTest25 maxExponent: 384
367 maxExponent: 92
374 maxExponent: 999
547 maxExponent: 384
813 maxExponent: 6144
821 maxExponent: 6144
Dmin.decTest28 maxExponent: 384
183 maxExponent: 999
233 maxExponent: 999999999
Dbase.decTest32 maxExponent: 384
524 maxExponent: 999999999
970 maxExponent: 999999999
1245 maxExponent: 999
1330 maxExponent: 999999999
1354 maxExponent: 96
1373 maxExponent: 6144
1382 maxExponent: 384
1394 maxExponent: 6144
1403 maxExponent: 384
DddCopy.decTest24 maxExponent: 384
DddClass.decTest24 maxExponent: 384
Dcopynegate.decTest25 maxExponent: 999
DdqClass.decTest27 maxExponent: 6144
Dcopy.decTest25 maxExponent: 999
DdqCopy.decTest26 maxExponent: 6144
Dcopyabs.decTest25 maxExponent: 999
/third_party/skia/tests/
DWangsFormulaTest.cpp106 int maxExponent = 30) { in for_random_beziers() argument
109 for (int i = -10; i <= maxExponent; ++i) { in for_random_beziers()
356 constexpr int maxExponent = 15; in DEF_TEST() local
399 }, maxExponent); in DEF_TEST()
420 constexpr int maxExponent = 24; in DEF_TEST() local
476 maxExponent); in DEF_TEST()
/third_party/skia/third_party/externals/swiftshader/third_party/llvm-10.0/llvm/lib/Support/
DAPFloat.cpp57 APFloatBase::ExponentType maxExponent; member
185 const unsigned int maxExponent = 16383; variable
187 const unsigned int maxPowerOfFiveExponent = maxExponent + maxPrecision - 1;
195 return semantics.maxExponent; in semanticsMaxExponent()
594 assert(power <= maxExponent); in powerOf5()
873 return isFiniteNonZero() && exponent == semantics->maxExponent in isLargest()
1283 exponent = semantics->maxExponent; in handleOverflow()
1349 if (exponent + exponentChange > semantics->maxExponent) in normalize()
1408 if (exponent == semantics->maxExponent) { in normalize()
2559 >= 12655 * semantics->maxExponent) { in convertFromDecimalString()
[all …]

123456