情報電子工学演習Ⅰ 工学基礎演習(2)
「計算誤差と有効数字」
Ⅰ. スケジュールの確認
5/30
6/6
6/13
6/20
概要説明
演
習
[計算機実習室]
13:00-13:30
助言ルーム[助言グループ別]
13:40~
考
レポートチェック
察
[S2-8]
[チェックグループ別]
Ⅱ.概要説明
1.目的
コンピュータにおける数の表現方法と
計算による誤差の発生について学ぶ。
Ⅱ.概要説明
1.目的
コンピュータにおける数の表現方法と
計算による誤差の発生について学ぶ。
・コンピュータによる数値計算と数学の違い
⇒
コンピュータは有限の数を使い、
数学は無限の数を使っている
1/3 →
0.33333 333333333…….
小数点以下5桁まで
0.33333×3 = 0.99999 ≠ 1
まずは電卓で…
ソニー製 SOBAX ICC-500W
1967年発売
(出典:電卓博物館 http://www.dentaku-museum.com/)
カシオ製 Casio Mini 1972年発売
価格:12,800円
10ケ月で100万台,3年で600万台の売上を記録
(出典:電卓博物館 http://www.dentaku-museum.com/)
2.電卓ソフトの利用
<特徴>
・7桁までの計算
・メモリーキー
・平方根計算
・HSPで開発
「Dentakun 2号」
<メモリーキー>
MC(メモリークリア) :メモリー計算結果を消去
MR(メモリーリコール):メモリー計算結果を呼び出し
M-(メモリープラス) :計算結果をメモリーに足す
M+(メモリーマイナス):計算結果をメモリーから引く
例1)100×2+50×5の計算
例2) 61 60
例2) 61 60 =0.064283
例2) 61 60
61  7.810249
ー
60  7.745966
0.064283
例2) 61 60
61  7.810249
ー
60  7.745966
0.064283
小数点以下6位まで
の7桁の数字
小数点以下6位まで
の5桁の数字
例2) 61 60
61  7.810249
ー
60  7.745966
0.064283
小数点以下6位まで
の7桁の数字
小数点以下6位まで
の5桁の数字
有効数字-測定値や計算値を表すのに信頼できる
意味のある数字 (頭の0は除く)
例2) 61 60
61  7.810249
ー
60  7.745966
0.064283
小数点以下6位まで
の7桁の数字
小数点以下6位まで
の5桁の数字
有効数字-測定値や計算値を表すのに信頼できる
意味のある数字 (頭の0は除く)
計算によって有効数字の桁が少なくなった
→「桁落ち」の発生
※注意(誤解しやすい点)
7.745966 と
0.064283 は、共に表示桁が7桁で小数点以下6桁
(0.000001精度)で表された数字である。
しかし、 7.745966 は有効数字7桁
0.064283 は有効数字5桁 の数字です。
有効数字-測定値や計算値を表すのに信頼できる
意味のある数字 (頭の0は除く)
※有効数字に関する補足
0.14
や
0.14 は2桁
0.140 の有効数字は、何桁?
0.140は3桁
0.14は、0.135や0.144が小数点以下3桁目で
四捨五入され、0.14となった可能性がある。
0.140 は、小数点以下3桁目が0であること
を示しており、0.1395や0.1405が小数点以下
4桁目で四捨五入され、0.140となった可能性
がある。
ダウンロード

5桁の数字