Corresponding PR to the draft spec: github.com/ietf-wg-atp/...
Email thread on the IETF ATP Working Group mailing list: mailarchive.ietf.org/arch/msg/atp...
Please show your support!
Corresponding PR to the draft spec: github.com/ietf-wg-atp/...
Email thread on the IETF ATP Working Group mailing list: mailarchive.ietf.org/arch/msg/atp...
Please show your support!
just use the equivalent of gtest's EXPECT_NEAR, which compares things to 4 ULP
use the ieee754 standard as exactly as kahan intended
just use the equivalent of gtest's EXPECT_NEAR, which compares things to 4 ULP
use the ieee754 standard as exactly as kahan intended
but the typical python programmer says “that’s too complicated”
but the typical python programmer says “that’s too complicated”
FMA is the visible tip of the iceberg,
there are edge cases where some CPUs just implement IEEE754 at partial precision on some costly operations.
FMA is the visible tip of the iceberg,
there are edge cases where some CPUs just implement IEEE754 at partial precision on some costly operations.
To then emulate that madness - hell of a job - well done!
To then emulate that madness - hell of a job - well done!
動的言語や多相型言語は、実行時のオブジェクトに型などの情報を付加する必要があるため、この情報を格納するスペースを含むように値のメモリレイアウトを適応させる。これはIEEE754の倍精度浮動小数点数の場合に特に問題となる。今日まで使用されている2つの主要なエンコーディング、タグ付きポインタとNaN...
動的言語や多相型言語は、実行時のオブジェクトに型などの情報を付加する必要があるため、この情報を格納するスペースを含むように値のメモリレイアウトを適応させる。これはIEEE754の倍精度浮動小数点数の場合に特に問題となる。今日まで使用されている2つの主要なエンコーディング、タグ付きポインタとNaN...