 | ■No412に返信(モンキチさんの記事)
> お世話になります。
> 地積が0.36㎡になる場合もあります。
> 宜しくお願い致します。
> ｍ（＿）ｍ
>
こんにちは。
例えば次のように座標値が大きいと、
計算部が本来は、
Ｘ座標 Ｙ座標 Ｘ－Ｘ Ｙ（Ｘ－Ｘ）
500123.456 500123.456 -0.600 -300074.073600
500123.456 500124.056 0.600 300074.433600
500124.056 500124.056 0.600 300074.433600
500124.056 500123.456 -0.600 -300074.073600
べきところが、
Ｘ座標 Ｙ座標 Ｘ－Ｘ Ｙ（Ｘ－Ｘ）
500123.456 500123.456 -0.600 -300074.0735884
500123.456 500124.056 0.600 300074.4335884
500124.056 500124.056 0.600 300074.4335884
500124.056 500123.456 -0.600 -300074.0735884
と計算部が正しく表示されない場合に、0.35と表示されて
しまうようです。
もちろん上記を計算すれば0.360000なのですが、
表示されていない桁で微妙に違っていて内部での合計が、
0.35999999・・・などとなっていて切り捨てた場合に
0.35になってしまうのかもしれません。
明らかに間違っている場合は手動で訂正してみて下さい。
ちなみにパオのほうでも上記と同様0.35になってしまうようです。
|
