2004-06-22から1日間の記事一覧

2進数と10進数の狭間

久々に見ました。意図したように 10 進表記されない例。118.175 という数値を倍精度浮動小数点に格納して、これを小数点以下 2 桁で表示しようとすると、118.17 になります。発端は PostgreSQL の TO_CHAR でフォーマットを指定したときの挙動が、上記のよう…