JWW専用掲示板
(現在 過去ログ113 を表示中)

HOME HELP 新規作成 新着記事 トピック表示 発言ランク ファイル一覧 検索 過去ログ

[ 最新記事及び返信フォームをトピックトップへ ]

■24207 / inTopicNo.1)  数式計算 v1.43にて
  
□投稿者/ 田舎のおとうさん 1回-(2005/01/31(Mon) 13:41:37)

    記事内容:[|] 

    土器手さん外部変形を使わせて頂いています。
    ありがとうございます。

    ついては下記のようなとき解答に違いが出来ます。

    算式             手計算 標準  詳細(1桁・四捨五入)
    1:0.5*6.3           12.0  11.95 11.9
    2:(7.6+7.5+16.3+16.4)*1/2*0.5 3.2 3.15 3.1
    3:(1.8+3.2)*1/2*1.1+(0.6+1.4)*1/2*1.1
    3.9 3.85 3.9
    4:3.0*1.2*1/2+3.7*1.0*1/2 3.7 3.65 3.6

    3:の場合のみOKとなります。
    どこかに設定があるのですか。
    今まで手計算にて行っていたのがこれで解消できると思うと
    感謝です。
    よろしくお願いします。
引用返信/返信 [メール受信/OFF] 削除キー/
■24213 / inTopicNo.2)  Re[1]: 数式計算 v1.43にて
□投稿者/ スター 54回-(2005/01/31(Mon) 16:40:53)

    記事内容:[|] 

    手計算の意味がわかりませんが(真値?)
    当方でも四捨五入で同じになりました。
    切り捨て、切り上げは問題ありませんでした。
    念のため下1桁四捨五入のBATを作成しても同様の結果でした。

引用返信/返信 [メール受信/OFF] 削除キー/
■24214 / inTopicNo.3)  Re[1]: 数式計算 v1.43にて
□投稿者/ もぐ 3回-(2005/01/31(Mon) 16:43:37)

    記事内容:[|] 

    > 今まで手計算にて行っていたのがこれで解消できると思うと
    > 感謝です。

    手元にVer1.41がありましたので、検証してみましたら小数点第一位の四捨五入の
    計算が上手くできました。
    ベクター等にver1.41がありますので、古いバージョンで試してみては?
引用返信/返信 [メール受信/OFF] 削除キー/
■24215 / inTopicNo.4)  Re[1]: 数式計算 v1.43にて
□投稿者/ 土器手 1回-(2005/01/31(Mon) 17:10:16)

    記事内容:[|] 

    はい、確認しました。
    実は、切り捨てや四捨五入を指定した場合に
    計算結果が合わなくなる場合がある、という御指摘を
    他のサイトでも頂いています。

    どうやら、今回のver1.43を従来とは別のコンパイラで
    作成したところ内部関数の精度に差があったらしく、
    切り捨てや四捨五入、切り上げ等の処理に不具合が生じて
    いるようです。

    近いうちに修正する予定です。
    申し訳ありませんが、それまでは旧版等をご利用ください。

引用返信/返信 [メール受信/OFF] 削除キー/
■24220 / inTopicNo.5)  Re[2]: 数式計算 v1.43にて
□投稿者/ 田舎のおとうさん 2回-(2005/01/31(Mon) 19:25:54)

    記事内容:[|] 

    スターさん・もぐさん・土器手さん
    早速の回答ありがとうございます。

    Ver1.41をダウンロードし使用させていただきました。
    ありがとうございました。

解決済み!
引用返信/返信 [メール受信/OFF] 削除キー/



トピック内ページ移動 / << 0 >>

このトピックに書きこむ

過去ログには書き込み不可

Mode/  Pass/

HOME HELP 新規作成 新着記事 トピック表示 発言ランク ファイル一覧 検索 過去ログ

- Child Tree -