嘘つきみぃみさんとモバ友になろう！
日記・サークル・友達・楽しみいっぱい！
-
- 2012/5/16 21:34
- いろいろな誤差
-
- コメント(0)
- 閲覧(4)
-
-
- 【丸め誤差】
計算結果を指定された桁数に収めるため、最下位桁からあふれた数を切捨て、切上げ、四捨五入することにより生じる誤差。
【打切り誤差】
計算処理を途中で打ち切ることにより生じる誤差。循環少数などの無限小数の計算の際に発生する。
【けた落ち】
値のほぼ等しい数値同士の減算により、桁数が極端に減少してしまう現象。
【情報落ち】
絶対値の大きな数値と、それに比べて絶対値の極端に小さな数値との加減算を行う際に生じる現象。絶対値の小さな数値が切捨てられるなどして計算結果に反映されなくなることにより発生する。
【オーバーフロー】
演算結果の値がコンピュータの表現範囲の上限を越えてしまうことにより生じる現象。シフト演算によっても発生する。
【アンダフロー】
演算結果の値がコンピュータの表現範囲の下限を越えてしまうことにより生じる現象。シフト演算によっても発生する。
- 【丸め誤差】
