数値の精度

[Angelo2449]

皆さんこんにちは。
2つの数字の比較を制御できないので、近似による精度の考え方:

. . . . . . . . . . ... ... 3313.1139,431.0565
xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

< は 3 個の小数 (431.057) で返されます。
> (substr ele1 (+ pos1 2)) < ポイント(431.0565)の後の4文字があります。
どのように私はより多くの小数を持っていますか?
変数はこのように設定されます:
(setvar「dimdec」8)
(Setvar "luprec"4)
お問い合わせ

 

[rpor66]

atof は、任意の近似を作成しません。
(setq v "431.0565")
(Sectq) ツイート (atof v) -> 431.057 (ビュー 3 decimals)
(setq c1 (rtos) ) ツイート 2 4) → 「431.0565」
お問い合わせ ツイート 4桁の桁数があります。
実際の数値(二重精度)を比較するためには、何の小数の数値が考慮しているかを等しく示します。

 

[Angelo2449]

感謝のrpor66、
> 等しい <? 私は指示で彼女を見つけることができません。

 

[Angelo2449]

私は比較として使用される数の値を安定させることで、私の問題を解決しました。

 (setqのcadrzeros (rtos (cadrのposzero)) 2 4))
(setq cadrzero (atof cadrzeros)); 比較番号
お問い合わせ
お問い合わせ
(<(tof(substr ele1(+ pos1 2))))))) ) ) ; 比較は常に機能します

 

[rpor66]

http://docs.autodesk.com/acd/2011/enu/filesalr/ws1a9193826455f5ff1a32d8d10ebc6b7ccc-6a38.htm