読者です 読者をやめる 読者になる 読者になる

S.F. Page

Programming,Music,etc...

Subnormal numberが出てくるとPCが重くなるという話 | Phile-webコミュニティ

デジタル信号処理

Subnormal numberが出てくるとPCが重くなるという話 | Phile-webコミュニティ.

デノーマル・サブノーマルの話。サブノーマル問題は存在は知っていたが、理屈はわかってなかったのでこの解説はありがたい。

対応方法はある程度小さな数値になったらゼロとみなすとかしないといけないらしい。

SSEとかSSE2にはサブノーマル対策の命令というかモードがあるんですな。初めて知った。