@MSGID:
<cddbe577-b008-4b95-acdb-b1f05bd42a54n@googlegroups.com> 08d0d3e1
@REPLY:
<232d1483-dbdd-4833-8697-6e15686b90c7n@googlegroups.com> dbcf0777
@REPLYADDR gah4 <gah4@u.washington.edu>
@REPLYTO 2:5075/128 gah4
@CHRS: CP866 2
@RFC: 1 0
@RFC-References:
<aa2d38fc-1df2-4703-b1b3-67adf45e2793n@googlegroups.com> <8a0d90c2-1912-41f9-8cf1-76c8f12698adn@googlegroups.com>
<c8ac7613-a6bc-4804-a668-40dbc9de519en@googlegroups.com> <26454e02-d247-4d86-a721-6166cdf11d56n@googlegroups.com>
<232d1483-dbdd-4833-8697-6e15686b90c7n@googlegroups.com>
@RFC-Message-ID:
<cddbe577-b008-4b95-acdb-b1f05bd42a54n@googlegroups.com>
@TZUTC: -0700
@PID: G2/1.0
@TID: FIDOGATE-5.12-ge4e8b94
On Monday, September 4, 2023 at 6:38:22 AM UTC-7, Farzad Tatar wrote:

(snip)

 > Thanks for the hint of inverting the inverted matrix. I did it
and realized that
> the result of the mentioned calculation was not accurate.
 > Indeed it has the accuracy until the first four decimals. It
means it is using a
> single precision instead of a double.

 > Nevertheless, I am sure the LAPack subroutines and files I am
using start with "D" letter instead of "S". Can anyone give me a clue? 

 It is extremely easy to lose precision with matrix inversion. LU
decomposition is much better.

 Many calculations only need single precision, but many matrix
operations need to be done with
double precision intermediates to get single precision.

And if you are a little less lucky, only four digits.

In 1968, IBM added 128 bit floating point hardware to the 360/85, and continued
 it with S/370 and later models. (Except the divide operation, DXR,
was done in software
emulation until recently, as studies showed that it was rarely enough used.)

 And yet most others didn`t follow along. VAX has a defined H-float,
but for most it
is either software emulation, or extra cost option. 

RISC-V has it.  I don`t know which implementations include it.


--- G2/1.0
 * Origin: usenet.network (2:5075/128)
SEEN-BY: 5001/100 5005/49 5015/255 5019/40 5020/715
848 1042 4441 12000
SEEN-BY: 5030/49 1081 5058/104 5075/128
@PATH: 5075/128 5020/1042 4441