[Message Prev][Message Next][Thread Prev][Thread Next][Message Index][Thread Index]

[vsnet-j 2772] Re: AIP4WIN problem?



Re: [vsnet-j 2768] Re:AIP4WIN problem?

> でも、Windowsだと、デフォルトではついていないので、別途インストールしない
> といけません。

 インストールってほどのものじゃないのではないかと(^^;)。DOS/Windowsで動く
 ものを欲しい方がありましたらいつでも(フリーの jgawk なんで相当古い
 かも)差し上げます。

> これは、誤解だと思います。
> EXCELは、内部データは、内部形式の有効桁数のまま(検索したら8バイト長の浮動
> 小数点形式だという記述あり)、保持しています。
> で、指定されたorデフォルトの表示桁数で(デフォルトは四捨五入で)表示してい
> るだけです。

 内部的には保持していないと困りますよね。Excel は使っていないので詳しくは
 知りませんが、表示に関しては使っている人のを見せてもらったら自動でゼロ
 抑制してたと思います(16.000 -> 16 のように)、というか、そういうレポート
 が多くて実は困っています。

> 逆に、科学計算とかやらせていると、内部でもちゃんと有効数字を加味してデータ
> を扱える様にしてほしいと思うことがあります。
> #いや、もちろん、四捨五入や切り上げ切り捨てする関数も用意されているのだか
> ら、それを使って、計算式を書けばいいのだろうけど。面倒(笑

 計算途中では有効数字のことを気にすることはないでしょう。最終結果で調整
 すればよいので。誤差を explicit に扱うのであれば、誤差のフィールドも別に
 作成して、それを処理するべきなんでしょうね。


Return to Home Page

Return to the Powerful Daisaku

vsnet-adm@kusastro.kyoto-u.ac.jp

Powered by ooruri technology