Filters
FPU-Supported Running Error Analysis
A-posteriori forward rounding error analyses tend to give sharper error of such a-posteriori analysis --- running error analysis --- uses expressions consisting of two parts; one generates the
JC - Počítačový hardware a software
- 2010 •
- Jx
Rok uplatnění
Jx - Nezařazeno - Článek v odborném periodiku (Jimp, Jsc a Jost)
Rounding errors in computer arithmetic
Main topics of the document: rounding; rounding error; relative error...
IN - Informatika
- 2012 •
- D
Rok uplatnění
D - Stať ve sborníku
Rounding according to the IEEE standard
Basic themes of document: rounding; rounding error; relative error...
BA - Obecná matematika
- 2004 •
- Jx
Rok uplatnění
Jx - Nezařazeno - Článek v odborném periodiku (Jimp, Jsc a Jost)
Rounding errors in computer arithmetic
Main topics of the document: rounding; rouding; error; relative error; computer operation...
IN - Informatika
- 2012 •
- Jx •
- Link
Rok uplatnění
Jx - Nezařazeno - Článek v odborném periodiku (Jimp, Jsc a Jost)
Výsledek na webu
Estimates of rounding errors in computer arithmetic.
Basic themes in document: computer representation of real number; computer operation; rounding; rounding error; relative error. Ď Ů ë î ń ó ů ű {......
BA - Obecná matematika
- 2002 •
- Jx
Rok uplatnění
Jx - Nezařazeno - Článek v odborném periodiku (Jimp, Jsc a Jost)
How big is the rounding error in financial high-frequency data?
Main topics of the document: high-frequency data; rounding error...
Statistics and probability
- 2018 •
- D •
- Link
Rok uplatnění
D - Stať ve sborníku
Výsledek na webu
Impact of Rounding Error on Realized Variance
Basic themes of document: high-frequency data; rounding error; microstructure noise; forex...
BB - Aplikovaná statistika, operační výzkum
- 2016 •
- D
Rok uplatnění
D - Stať ve sborníku
On Numerical Stability in Large Scale Linear Algebraic Computations
In iterative methods, rounding errors have two main effects: They can delay convergence and they can limit the maximal attainable accuracy. We present some examples of rounding error analysis that are fund...
BA - Obecná matematika
- 2005 •
- Jx
Rok uplatnění
Jx - Nezařazeno - Článek v odborném periodiku (Jimp, Jsc a Jost)
Schur Complement Reduction in the Mixed-Hybrid Approximation of Darcy's Law: Rounding Error Analysis.
Annotation not available...
BA - Obecná matematika
- 2000 •
- Jx
Rok uplatnění
Jx - Nezařazeno - Článek v odborném periodiku (Jimp, Jsc a Jost)
Schur Complement Reduction in the Mixed-hybrid Approximation of Darcy's Law: Rounding Error Analysis.
Annotation not available...
BD - Teorie informace
- 1998 •
- Vx
Rok uplatnění
Vx - Nezařazeno - Výzkumná zpráva obsahující utajované informace (takový výsledek lze do RIV vložit pouze v případě, že zpráva obsahuje utajované informace a pole R12 = U), nebo souhrnná výzkumná zpráva
- 1 - 10 out of 200 278