ベクトルと行列の数学的性質 - na-inet.jp

40 第5 章ベクトルと行列の数学的性質 0.1065387e+02 1.065387e+01 1.065387e+1 1.065387e1 1.065387E+01 1.065387D+01 1.065387Q+01 のようになる。e やE，D，Q の前が10 進数に変換後の仮数部，後ろが指数部を示している。有限桁の浮動小数点数は離散的に存在するため，表現可能な数の間には隙間ができる。