COMP.ARCH---------------- < Пред. | След. > -- < @ > -- < Сообщ. > -- < Эхи > --
 Nп/п : 59 из 100
 От   : John Levine                         2:5075/128        29 сен 23 13:46:51
 К    : Anton Ertl                                            29 сен 23 16:49:03
 Тема : Re: decimal arithmetic, data sizes, Solving the Floating-Point Conundru
----------------------------------------------------------------------------------
                                                                                 
@MSGID: 1@gal.iecc.com> a8500907
@REPLY: <2023Sep29.102825@mips.complang.tuwien.ac.at>
b081b257
@REPLYADDR John Levine <johnl@taugh.com>
@REPLYTO 2:5075/128 John Levine
@CHRS: CP866 2
@RFC: 1 0
@RFC-Message-ID: 1@gal.iecc.com>
@RFC-References:
<57c5e077-ac71-486c-8afa-edd6802cf6b1n@googlegroups.com> <2023Sep23.123024@mips.complang.tuwien.ac.at> 2@gal.iecc.com>
<2023Sep29.102825@mips.complang.tuwien.ac.at>
@TZUTC: -0000
@TID: FIDOGATE-5.12-ge4e8b94
According to Anton Ertl <anton@mips.complang.tuwien.ac.at>:
>But I can see how a sleek salesman can convince a gullible (or
>corrupt) member of upper management that they absolutely need to have
>decimal FP in their hardware for the correctness of their financial
>calculations. ...

DFP is not like binary FP. Every value has a "quantum", the scale of
its least significant digit, arithmetic operations maintain the
quantum rather than fully normalizing, and at least on zSeries there`s
a whole bunch of options to control rounding and to trap if result
can`t be represented with the intended quantum. It does not do what
BFP does, normalize every time to keep as many bits as possible.

You can certainly implement anything in scaled fixed binary (that`s
why Von Neumann didn`t want FP hardware on his machines) but for
financial calculations where the decimal rounding really matters, I
can see why DFP would make it easier to get right.

-- 
Regards,
John Levine, johnl@taugh.com, Primary Perpetrator of "The Internet for Dummies",
Please consider the environment before reading this e-mail. https://jl.ly
--- trn 4.0-test77 (Sep 1, 2010)
 * Origin: Taughannock Networks (2:5075/128)
SEEN-BY: 5001/100 5005/49 5015/255 5019/40 5020/715
848 1042 4441 12000
SEEN-BY: 5030/49 1081 5058/104 5075/128
@PATH: 5075/128 5020/1042 4441



   GoldED+ VK   │                                                 │   09:55:30    
                                                                                
В этой области больше нет сообщений.

Остаться здесь
Перейти к списку сообщений
Перейти к списку эх