備忘録
2011年6月13日月曜日
→→→浮動小数点の課題
VBでSingle型の「1.6」という値を100回加算すると160にならない点
実行するとIFステートメントの条件評価がFalseになる
つまり160以上になるということで、計算値が正しいとは限らない
0 件のコメント:
コメントを投稿
次の投稿
前の投稿
ホーム
登録:
コメントの投稿 (Atom)
0 件のコメント:
コメントを投稿