Problema com campo Float
06/03/2003
0
Boa Noite Pessoal.
Estou com problema de arredondamento no campo float, por exemplo quando gravo o valor 3,14151 em um campo float no interbase no banco de dados o valor 3,141508223213 e um monte de tranqueira.
Se eu colocar format neste campo terei o valor correto 3,14151 mas como resolvo isso quando tenho um relatorio com varios valores destes e eu utilizo para os totais select sum(valor) .... estou tendo diferenca nas decimais. Preciso de 6 casas de precisão.
Desde já agardeço!
Estou com problema de arredondamento no campo float, por exemplo quando gravo o valor 3,14151 em um campo float no interbase no banco de dados o valor 3,141508223213 e um monte de tranqueira.
Se eu colocar format neste campo terei o valor correto 3,14151 mas como resolvo isso quando tenho um relatorio com varios valores destes e eu utilizo para os totais select sum(valor) .... estou tendo diferenca nas decimais. Preciso de 6 casas de precisão.
Desde já agardeço!
Anonymous
Curtir tópico
+ 0
Responder
Posts
07/03/2003
Anonymous
Por essa eu também já passei. Me disseram para nunca usar float, ele dá esses erros de arredondamento; use Double Precision ao invés.
Espero ter ajudado,
Edilson.
Espero ter ajudado,
Edilson.
Responder
Clique aqui para fazer login e interagir na Comunidade :)