ULP、相対誤差、およびマシンイプシロンとは、丸め誤差の絶対値を表現する用語です。実数定数または計算結果への浮動小数点近似は、最後の桁 (bP-1 ビット) で最大 1/2 単位の誤差が発生する可能性があります。 ULP という略語は、"unit in the last place" (最後の桁の単位) という尺度を表しています。丸め誤差のもう 1 つの尺度は、正確な数値とその近似値の差を正確な数値で割った相対誤差を使用します。1/2 ULP に対応する相対誤差は、次の範囲にあります。
1/2 2-P <= 1/2 ULP <=2-P
上限である EPS = 2-P はマシンイプシロンと呼ばれ、1.0 に加算しても 1.0 に丸められない結果となる最小の浮動小数点数を表現していることから、丸め誤差の議論で一般的に使用されます。