[Message Prev][Message Next][Thread Prev][Thread Next][Message Index][Thread Index]

[vsnet-j 2771] Re: AIP4WIN problem?



On Thursday, May 8, 2003, at 10:56  AM, Taichi Kato wrote:

>  この程度の計算でしたら、Excel を買うまでもないで、awk ぐらいでも十分です。
>  実際に AIP4WIN の結果を直接送ってこられる方の処理は awk でやっています。

awkは、いいですね。
私も最近、仕事で必要にかられて、エイホ、カーニハン、ワインバーガー著の「プログラミング言語AWK」を引っ張り出してきました。

でも、Windowsだと、デフォルトではついていないので、別途インストールしないといけません。
#OSXなら、最初から入っているから楽だよといってみる。


> # Excel 通すと、変なところで有効数字を切ったりして、科学計測の結果として
> # 格好が悪いので、Excel 使われる場合も小数点以下は勝手にゼロ抑制しないよ
> # うにしておくとよいかと思います。

これは、誤解だと思います。
EXCELは、内部データは、内部形式の有効桁数のまま(検索したら8バイト長の浮動小数点形式だという記述あり)、保持しています。
で、指定されたorデフォルトの表示桁数で(デフォルトは四捨五入で)表示しているだけです。

逆に、科学計算とかやらせていると、内部でもちゃんと有効数字を加味してデータを扱える様にしてほしいと思うことがあります。
#いや、もちろん、四捨五入や切り上げ切り捨てする関数も用意されているのだから、それを使って、計算式を書けばいいのだろうけど。面倒(笑
                    

                       mei/neko



                  


Return to Home Page

Return to the Powerful Daisaku

vsnet-adm@kusastro.kyoto-u.ac.jp

Powered by ooruri technology