備忘録

2011年6月13日月曜日

→→→浮動小数点の課題



VBでSingle型の「1.6」という値を100回加算すると160にならない点





























実行するとIFステートメントの条件評価がFalseになる

つまり160以上になるということで、計算値が正しいとは限らない

投稿者 w_cocoa 時刻: 21:22
メールで送信BlogThis!X で共有Facebook で共有するPinterest に共有

0 件のコメント:

コメントを投稿

次の投稿 前の投稿 ホーム
登録: コメントの投稿 (Atom)

ブログ アーカイブ

  • ►  2013 (2)
    • ►  5月 (2)
  • ▼  2011 (130)
    • ►  11月 (1)
    • ►  9月 (13)
    • ►  8月 (6)
    • ►  7月 (95)
    • ▼  6月 (15)
      • →→→チェックデジットをつける
      • →→→反転する処理
      • →→→連続する空白を埋める
      • →→→webページ①-実際
      • →→→webページ①
      • →→→いらない文字を詰める処理
      • →→→エクスポート(Read/Write)
      • →→→Internet Explorer 9の力(1)
      • →→→ひとつのファイルを多数のファイルに
      • →→→多数のファイルをひとつに
      • →→→乱数を作成
      • →→→IntegerにNothingを代入したい
      • →→→電子書籍について
      • →→→浮動小数点の課題
      • →→→Or / OrElse / And / AndAlso その他小技

自己紹介

自分の写真
w_cocoa
詳細プロフィールを表示
「シンプル」テーマ. Powered by Blogger.