離散数学 05：小数・固定小数点・浮動小数点・BCD
離散数学 05：小数・固定小数点・浮動小数点・BCD 数値の表現では、整数だけでなく小数や10進数らしい表し方も問われます。ここは計算問題だけでなく、用語の意味を問う問題にもつながります。 固定小数点数 固定小数点数は、小数点の位置をあらかじめ決めておく表現です。整数部と小数部のビット数を固定するため、処理は単純ですが、表せる範囲と精度も固定されます。 例え
39 0 0 0
#浮動小数点
1 件の記事
1 件の記事
離散数学 05：小数・固定小数点・浮動小数点・BCD 数値の表現では、整数だけでなく小数や10進数らしい表し方も問われます。ここは計算問題だけでなく、用語の意味を問う問題にもつながります。 固定小数点数 固定小数点数は、小数点の位置をあらかじめ決めておく表現です。整数部と小数部のビット数を固定するため、処理は単純ですが、表せる範囲と精度も固定されます。 例え