JWW専用掲示板
(現在 過去ログ12 を表示中)

HOME HELP 新規作成 新着記事 トピック表示 発言ランク ファイル一覧 検索 過去ログ

[ 最新記事及び返信フォームをトピックトップへ ]

■2666 / inTopicNo.1) 　ｊｗｃとｊｗｗの精度について教えてください。
  ▼■
□投稿者/ ＪＷＷ初心者 一般人(1回)-(2002/09/03(Tue) 16:56:14)

    記事内容:[|]　

    始めまして！　
    JWCで使ってたS_UTIL（測量awk）はJWCでは単精度なんですが、
    それをそのままJWWで使うと倍精度になるのでしょうか？
    JWCで使っているawkはJWWで使うと精度はどうなるのでしょうか？
    どなたかお教えください。
引用返信/返信 [メール受信/OFF] 削除キー/
■2672 / inTopicNo.2) 　Re[1]: ｊｗｃとｊｗｗの精度について教えてください。
□投稿者/ もぐ 大御所(102回)-(2002/09/03(Tue) 19:23:47)
https://www2.ocn.ne.jp/~makineko/

    記事内容:[|]　

    > 始めまして！　
    > JWCで使ってたS_UTIL（測量awk）はJWCでは単精度なんですが、
    > それをそのままJWWで使うと倍精度になるのでしょうか？
    > JWCで使っているawkはJWWで使うと精度はどうなるのでしょうか？
    > どなたかお教えください。

    返事になってないと思いますが、
    精度を何処に求めるのでしょうか？
    フリーソフトの質問ですから、もちろん測量屋さんじゃないですよね？
    私は、JWCの精度であれ測量の精度であれ気になる事がないのですが・・・
    たった十数年前までの電卓でも問題ありませんでしたが。
引用返信/返信 [メール受信/OFF] 削除キー/
■2679 / inTopicNo.3) 　Re[1]: ｊｗｃとｊｗｗの精度について教えてください。
□投稿者/ ko ファミリー(30回)-(2002/09/03(Tue) 20:51:02)
https://www.page.sannet.ne.jp/kiyoaki-oikawa/

    記事内容:[|]　

    awk自体（jgawk.exe,gawk.exe）は倍精度で演算していますがｊｗｃ用に作られた
    外部変形は、その結果出力時には、単精度に丸めて出力される場合が有ります

    取り込んだデータをそのまま出力する場合、そのデータは文字列として扱われるの
    で、そのままの倍精度データで出力されます

    取り込んだデータを数値として扱って出力する場合、７〜８桁程度の数値で出力さ
    れると思います

    これに付いては、print文の書式で変更可能ですが、もしそれ以外の部分で数値を
    文字に変換する様な事を行っていた場合、その辺も修正する必要が有ります


    という事で、ｊｗｃ用の外部変形をそのままｊｗｗで使用すると、単精度で出力さ
    れる可能性が高いです

引用返信/返信 [メール受信/OFF] 削除キー/
■2680 / inTopicNo.4) 　Re[2]: ちょっとツッコミ...
□投稿者/ うしわたり　ひろし 一般人(4回)-(2002/09/03(Tue) 20:53:34)
https://homepage2.nifty.com/ushiwatari/

    記事内容:[|]　

    もぐさん、ご無沙汰してます。

    > たった十数年前までの電卓でも問題ありませんでしたが。

    電卓の内部形式って、BCD( Binary Coded Decimal＝10進数式２進数（ってなんの
    こっちゃ？））のはずなので、パソコンのデジタル計算なんかよりも、丸め誤差の
    影響が少ない場合があったような...。
    電卓って、結構、高精度の計算が可能だった気がします。

    あと、元質問のＪＷＷ初心者さん、
    実は私、JWC を使用したことがないんですが、外部変形でJW から書き出される
    ファイルの中身を見ると、若干桁数が増えてますので、倍精度になっているか
    どうかはわかりませんが、有効精度は向上していると思います。
    さらに、awk 自体も、DOS 版の jgawk って精度どうかなというのもあるので、
    win32 版の gawk を使うと、awk の計算精度も上がる可能性があります。

    まあ、もぐさんのご指摘どおり、S_UTIL でも、mm 単位や、cm 単位で丸めて
    しまうので、有効精度は単精度で充分実用的な気もします。
引用返信/返信 [メール受信/OFF] 削除キー/
■2707 / inTopicNo.5) 　皆様ご教授ありがとうございました。
□投稿者/ ＪＷＷ初心者 一般人(2回)-(2002/09/04(Wed) 14:09:36)

    記事内容:[|]　

    実は単精度と倍精度の差をよく分かってなかったものですから・・・。
    土木系の仕事をしてますが単精度でも実用的には困らない範囲だと
    知ることが出来ました。
    ご教授ありがとうございました。
引用返信/返信 [メール受信/OFF] 削除キー/


トピック内ページ移動 / << 0 >>

このトピックに書きこむ

過去ログには書き込み不可

Mode/　 Pass/

HOME HELP 新規作成 新着記事 トピック表示 発言ランク ファイル一覧 検索 過去ログ

- Child Tree -