Arredondar valor tipo float para menos
Fala Galera!
Estou trabalhando com numeros desse porte:
0,0015
0,0003
0,0047
0,0001
0,0000
0,0010
só que o delphi está arredondando estes valores para:
0,0016
0,0004
0,0049
0,0002
0,0001
0,0011
alguém poderia me explicar como eu consigo chegar nestes valores qxatos que eu preciso?
Valew!!!
Estou trabalhando com numeros desse porte:
0,0015
0,0003
0,0047
0,0001
0,0000
0,0010
só que o delphi está arredondando estes valores para:
0,0016
0,0004
0,0049
0,0002
0,0001
0,0011
alguém poderia me explicar como eu consigo chegar nestes valores qxatos que eu preciso?
Valew!!!
Bueno
Curtidas 0
Respostas
Rômulo Barros
13/09/2004
Qual o tipo de cálculo vc está efetuando? Posta, pelo menos, uma parte do código. :o
GOSTEI 0
Dataclass
13/09/2004
olá!
Olha você pode checar se o número tem mais de 4 casa decimais (aí você decrementa ele em 0,0001 e trunca).Caso tenha 4 casas está na precisão que você está usando então não faria nada.
Foi assim que eu entendi o problema!
Qualquer coisa estamos por aqui!
Olha você pode checar se o número tem mais de 4 casa decimais (aí você decrementa ele em 0,0001 e trunca).Caso tenha 4 casas está na precisão que você está usando então não faria nada.
Foi assim que eu entendi o problema!
Qualquer coisa estamos por aqui!
GOSTEI 0
Bueno
13/09/2004
Colegas, obrigado pela ajuda... na verdade foi um pouco de desatenção da minha parte, pois eu estava comparando os resultados de um programa feito em clipper, e na verdade era o programa em clipper que estava arredondando erroneamente.
Por exemplo, eu estava pegando o numero 0,0144 e dividindo por 1000, isso dá 0,0000141 e o multipliquei por 113, o resultado exato é 0,0016272.
Eu preciso do resultado 0,0016 e o meu programa está gerando este resultado! O Programa em clipper do qual eu estava comparando é que estava gerando o resultado como 0,0015...
Valew!!!!
e desculpe a falha....
Por exemplo, eu estava pegando o numero 0,0144 e dividindo por 1000, isso dá 0,0000141 e o multipliquei por 113, o resultado exato é 0,0016272.
Eu preciso do resultado 0,0016 e o meu programa está gerando este resultado! O Programa em clipper do qual eu estava comparando é que estava gerando o resultado como 0,0015...
Valew!!!!
e desculpe a falha....
GOSTEI 0