2003-10-10から1日間の記事一覧

ゼミB

今日は3年生の子が作っていたスケジューリングシステムの検証。まず、シフトの作成。これってすごく難しいんだけど、よくがんばって作っていたのでえらいと思った。でも、変数とか関数名とかを使ったフローチャートはもういいかげん時代遅れだと思う。擬似…

数値計算

今日は誤差、収束、誤差の伝播について。先生いわく、伝播は中国でも使えます、とのこと。そうなんだ。 内容は絶対誤差と相対誤差、打ち切り誤差、まるめ誤差について。とくにまるめ誤差については平方根を求めるアルゴリズムを紹介し、誤差の上限をどのよう…

リテラルに関する無知

前日の日記は完全な私の無知でした。longは32バイトだったので、2の32乗を計算したら全然問題ないことがわかりました。つまり、リテラルは何も書かないとintなのですね。というかあたりまえすぎですか・・・。 後ろにLを付けると普通に通りました。これでBig…