2009-04-02から1日間の記事一覧
・固定小数点数 整数部分に用いるビット数と小数部分に用いるビット数をあらかじめ固定・定義して表現する数値 ・単精度浮動小数点数 単精度浮動小数点数では32ビット中で符号部1ビット・指数部8ビット・仮数部23ビットで表現されている。 ・倍精度浮動小数…
・固定小数点数 整数部分に用いるビット数と小数部分に用いるビット数をあらかじめ固定・定義して表現する数値 ・単精度浮動小数点数 単精度浮動小数点数では32ビット中で符号部1ビット・指数部8ビット・仮数部23ビットで表現されている。 ・倍精度浮動小数…