FPU の内部データフォーマット

いずれは FPU を V-scale に組み込むと思って tests を眺めてみた。recoding.S なんていう見慣れない物がある。噂に聞くところの 内部データフォーマット 向けのテストらしい。内部フォーマットでは数ビットの付加ビットを持って、回路を簡単にしているのでしょう。
IEEE 規格との違いは” some of these extras are redundant”
  • オーバフローしても仮数をALL0にしない
  • 正確なゼロでも指数をALL0にしない
と”others are illegal”
  • サブノーマル数は桁が長すぎる
だと思う。なんだよ。頑張ってサブノーマル出るようにしたのに。
でも、recoding.S では上の2つしか検証していません。
ついでに無駄知識が付きました。deadbeef はよく見るけど、cafebabe とか a bad 1(I)dea なんてのも有るんだね。
[追記 サブノーマル数は桁が長すぎるって事は、途中で割込みとかあってメモリに退避した時と何もない時とで、演算結果が違ってくるってことになるのかな?同じプログラム流しても再現性ないってこと?]

[PR]
トラックバックURL : http://tom01h.exblog.jp/tb/27472788
トラックバックする(会員専用) [ヘルプ]
※このブログはトラックバック承認制を適用しています。 ブログの持ち主が承認するまでトラックバックは表示されません。
by tom01h | 2017-01-23 23:32 | PCとか | Trackback | Comments(0)