From: Shin-ichiro HARA Date: 2005-11-27T11:49:27+09:00 Subject: [ruby-dev:27832] Re: Matrix class is broken without mathn 原です。 In [ruby-dev:27827] >原です。 > >In [ruby-dev:27820] >>けいじゅ@いしつかです. >>というか, Floatが入っていると結果も間違っていますよね? > >無限ループにならず答が返るなら正しい値を返すはずです。 これは嘘でした。 m = Matrix[[215.0, -28.0, -595.0], [116.0, 0.0, -321.0], [-129.0, 14.0, 357.0]] p m.det #=> 14.000000000031 p m.determinant_625 #=> 101.5 と間違った値を返します(116.0/215.0*215.0 != 116.0 による)。 したがって、det_625 は Float には使えないです。 一方、無限ループになる例はみつからない、、、