AFsoft World

 コメント一覧 (10)

1. • 1. ban
   • 2022年08月03日 13:17
   • AFsoftさん　今日は
     本家に検証結果を書き込んだ　ban　です。
     
     数十年程前には、私もプログラムを作成していました。
     AFsoftさんの例と同じく、切捨で
     作成してほしいとの依頼を受けた事があります。
     （土木関係）
     そこで、困った事がありました。
     入力数値を元に何工程か計算した結果を、
     切捨処理し、以降の計算に使用してほしいとのことでした。
     その切捨てしてほしい数値が、１０進数で計算すれば、
     切りの良い整数になるのですが、
     コンピュータでは２進数で計算しているので、
     単純に切捨てしたら１少ない整数になる場合がありました。
     邪道ですが、扱う数値範囲に影響が無い数値、
     0.000001位を加えてから、切捨て整数にした覚えがあります。
2. • 2. AF
   • 2022年08月03日 15:06
   • banさん、こんにちは
     
     私は「Delphi」という Object Pascalの言語処理系でプログラミングをしていますが、昔、real型（単精度実数型）でプログラミングをしていて　おかしな症状を起こした事が何度かありました。
     
     最近は double型（倍精度実数型）でプログラミングをする事がほとんどですが、昔のような不可解な動きをする事は滅多にありませんが（見た目の数字そのままではなく誤差を含む、ということは最初から承知の上で）　その辺りは　注意しながら作る必要がある場合はありますね〜
     
3. • 3. ban
   • 2022年08月03日 16:37
   • ban です
     
     私のコンピュータ歴は
     
     NEC TK-80 が最初でした。
     基盤のハンダ付けによる組立キット
     メモリは 512 バイト(拡張で1024バイト)
     CPUは 8080だったかな？
     
     以降
     PC8001
     PC8801
     PC9801
     PC98後継機を他に３台程
     Windows以降は
     ５台位です
     最新は
     中華メーカー
     MinisforumのHX-90を昨年度末に導入しました。
     プログラム作成は、主に NEC DISK BASIC でした。
     MS DOS の時は、
     BorlandのTurbo Pascalも一時期練習しました。
     会社のオフコンで
     Pascalで一時期プログラムを作成しました。
     HP社 HP3000シリーズ HP PASCAL だったかな？
     
     現在は Excel上で Visual Basic で遊ぶくらいです。
4. • 4. AF
   • 2022年08月03日 17:03
   • banさん、こんにちは。
     
     私は
     ポケコン CASIO PB-100
     PC6001
     PC8801mk2FR
     PC8801mk2MR
     PC9801VX21
     PC98RL5（事務所に徴収）
     IBM PS/V 2405NVC？
     DECpc
     自作PC
     ・・・って感じです
     
     8085の１ボードマイコンは大学で触りました　かなり後になって貰ったPC-8001は押入れの中にありますw
     私も ROM-BASIC→DIskBASIC→DOS・BASICってパターンですがw
     Pascalは本で勉強しただけで、Delphiが出るまでは実際に使ってないです。BASIC、アセンブラ(Z80、8086)、C言語、がメインでした。
     VBは Ver.2のときにはよく使いましたが Delphi を使いだしてからほとんど使わずw
     
5. • 5. AF
   • 2022年08月04日 11:22
   • ban さん、こんにちは。
     
     うしわたりさんの gHeron ですが
     
     おっしゃるよーに　どうも
     Ruby 1.8系の計算誤差系の問題のようですねw
     
     heron.rb の 738行目あたり
     底辺 b 、高さ h に
     いくら切り捨て処理(floor)をしてやっても
     倍面積 area = h * b の結果には
     誤差が入ってるし、このarea 値に切り捨て処理(floor)をしてやっても誤差入ってるし
     マジで　あきませんなw
     
     で、おっしゃるように
     740行目：
     area = h * b + 0.0000000001
     746行目：
     area = h * b * 0.5 + 0.0000000001
     みたいにするのが安直で
     確実な様子ですwww
     
     お見事です！
     
6. • 6. ban
   • 2022年08月04日 12:10
   • AFsoftさん　こんにちは
     
     さすがですね。
     変更か所を探しあぐねていました。
     ご指摘通り変更して確認しました。
     スレ主の要望に応えられそうですね。
     
     後ほど、本家の方に書き込んでみます。
     
     但し、切捨時のエクセルファイル出力は、
     桁数等が合っていません。
     これを探るのは面倒ですね。
     
     
     
7. • 7. AF
   • 2022年08月04日 13:19
   • 辺を２桁にすると
     合計値も誤差云々が出る様子でしたので、その場合は、
     table.rb の 207行目
     return total
     　　↓
     return ( total + 0.0000000001 )
     みたいなのは要るやもしれません
     
     エクセルファイルのほうは、セルの表形式が１桁少なくなる？様子ですね
     プログラムが複雑なのでよく分かりませんw　（Ruby知らないしw）
     
8. • 8. ban
   • 2022年08月04日 17:38
   • 切捨ての場合
     セルの表示形式が１桁少ないが、
     数値の桁数は正しいようですね。
     しかし、
     敷地面積の数値の
     ROUNDDOWN関数の指定桁数も
     １桁少なくなっていますね。
     
     四捨五入の場合は正しいのに？
     さらに、四捨五入の場合は、
     敷地面積の数値はROUNDDOWN関数ではないですね。
     小計の数値を=で代入し、
     表示桁数を指定桁数に設定しているだけです。
     
     四捨五入の場合と切捨ての場合とでは、
     流れを別にしているのかな？
     
9. • 9. ban
   • 2022年08月05日 13:29
   • 切捨時の
     セルの表示形式が１桁少ない件及び
     敷地面積の数値のROUNDDOWN関数の指定桁数も１桁少ない件について
     
     少し調べて見ました。
     下記部分を変更したら正常に動作しました。
     （変更で不具合が出ているかは？）
     
     セルの表示形式が１桁少ない件
     jwplot.rb
     848行目
     form = "0." + ( "0" * ( @precision - 1 ) ) + '" "'
     を
     form = "0." + ( "0" * ( @precision ) ) + '" "'
     に変更
     ※（）は外しても良い
     
     ROUNDDOWN関数の指定桁数が１桁少ない件
     
     table.rb
     716行目
     723行目
     821行目
     (formats["TOTAL"].precision - 1)
     を
     (formats["TOTAL"].precision )
     に変更
     ※（）は外しても良い
     
     以上の変更で直りましたが、何処かで不具合出るのかな？
     何故　−１　としていたのか。
10. • 10. AF
    • 2022年08月05日 14:24
    • お疲れ様でした m(_ _)m