■16852 / inTopicNo.2) |
Re[1]: 内部精度の設定について
|
□投稿者/ 三五六 245回-(2004/02/27(Fri) 13:08:16)
| 記事内容:[|]
■No16849に返信(あぶさんさんの記事) > 複線、あるいは寸法入力による移動、複写の操作後、距離、長さの測定をすると入力数 値 > と測定数値にかなりの誤差が生じます。何らかの設定により解消することが出来るので し > ょうか。
あぶさんさん、こんにちは。
その誤差は,どんなに単純な例でも出るのでしょうか?
1/10000の尺度で,1234567mm(1.234567km)間隔で複線を作図 測定コマンドで測ると誤差は出ませんでした。(1234567.000000) (1nm以下)
数値の例を書いてみてください。何か判るかもしれません。
三五六
|
|