Articles of decimal

Número do formato para 2 casas decimais

Gostaria de saber como posso produzir um número com duas casas decimais, sem arredondar o número original. Por exemplo: 2229,999 -> 2229,99 Eu já tentei: FORMAT(2229.999, 2) CONVERT(2229.999, DECIMAL(4,2)) obrigado

Cálculo financeiro preciso em JavaScript. Quais são as Gotchas?

No interesse de criar código de plataforma cruzada, gostaria de desenvolver um aplicativo financeiro simples em JavaScript. Os cálculos exigidos envolvem juros compostos e números decimais relativamente longos. Eu gostaria de saber quais erros evitar ao usar JavaScript para fazer esse tipo de matemática – se é que é possível!

Um duplo é realmente inadequado para dinheiro?

Eu sempre digo em c # uma variável do tipo double não é adequada para dinheiro. Todas as coisas estranhas podem acontecer. Mas não consigo criar um exemplo para demonstrar alguns desses problemas. Alguém pode fornecer um exemplo? (editar; este post foi originalmente marcado com C #; algumas respostas referem-se a detalhes específicos de decimal […]

Remover zeros à direita do decimal no SQL Server

Eu tenho uma coluna DECIMAL(9,6) ou seja, ele suporta valores como 999,123456. Mas quando eu insiro dados como 123,4567 torna-se 123,456700 Como remover esses zeros?

Inteiro para string hexadecimal em C ++

Como faço para converter um inteiro em uma string hexadecimal em C ++ ? Eu posso encontrar algumas maneiras de fazê-lo, mas eles geralmente parecem direcionados para C. Não parece haver uma maneira nativa de fazer isso em C ++. É um problema bem simples; Eu tenho um int que gostaria de converter em uma […]

Precisão e escala decimais no EF Code First

Eu estou experimentando com essa abordagem de código primeiro, mas eu estou descobrir agora que uma propriedade do tipo System.Decimal é mapeada para uma coluna sql do tipo decimal (18, 0). Como faço para definir a precisão da coluna do database?

Remover zeros à direita

Eu tenho alguns campos retornados por uma coleção como 2.4200 2.0044 2.0000 Quero resultados como 2.42 2.0044 2 Eu tentei com String.Format , mas retorna 2.0000 e defini-lo para N0 arredonda os outros valores também.

Movendo casas decimais em um duplo

Então eu tenho um conjunto duplo para igual a 1234, eu quero mover uma casa decimal para torná-lo 12.34 Então, para fazer isso eu multiplico 0,1 a 1234 duas vezes, meio que assim double x = 1234; for(int i=1;i<=2;i++) { x = x*.1; } System.out.println(x); Isto irá imprimir o resultado, “12.340000000000002” Existe uma maneira, sem […]

Como lidar com grandes números em javascript

Eu estou procurando uma solução matemática que lida com números realmente (longos, grandes, enormes, tempestades). Ainda não encontrei nada, mas não quero pensar que este problema não esteja resolvido neste momento. Estou procurando uma solução Number fácil, como o Microsoft Excel Precision (30 decimais) ou uma solução BigInteger (Java). em Javascript, claro.

Quando devo usar o dobro em vez do decimal?

Eu posso nomear três vantagens para usar double (ou float ) em vez de decimal : Usa menos memory. Mais rápido porque as operações matemáticas de ponto flutuante são suportadas nativamente pelos processadores. Pode representar um intervalo maior de números. Mas essas vantagens parecem se aplicar apenas a operações intensivas de cálculo, como as encontradas […]