ザ・トレーニング
有効数字と計算値の出し方
溝口 香代子
1
,
芳賀 敏郎
2
1慶応義塾大学病院中央臨床検査部
2慶応義塾大学病院情報システム部
pp.67-69
発行日 1983年12月1日
Published Date 1983/12/1
DOI https://doi.org/10.11477/mf.1543202958
- 有料閲覧
- 文献概要
- 1ページ目
数値計算を行うにあたっては,常に誤差を考慮する必要があり,"有効数字"もこの誤差についての考え方が基本になります.特に最近は電卓やマイコンの普及が著しく,これらにプログラムされている数値計算パッケージを用いれば,多量の数値の処理がいとも簡単に行え,見かけ上もっともらしい解が得られてきますが,その計算に用いられた個々のデータの誤差を考慮に入れない場合には,求められた数値の信頼性は保障されません.すなわち,計算機は見かけ上多数桁の結果を出しますが,もとデータの精度以上の意味を持っていないという事実が忘れられがちになっているのではないかと思われます.
本欄で既に平均値,標準偏差,検定などについては勉強してきたので,ここでは"丸め"による誤差を基本に,有効数字について解説してみます.
Copyright © 1983, Igaku-Shoin Ltd. All rights reserved.