Articles of decimal

Convertendo Decimal em Java Binário

Eu estou tentando converter decimal para números binários da input do usuário usando Java. Estou recebendo erros. package reversedBinary; import java.util.Scanner; public class ReversedBinary { public static void main(String[] args) { int number; Scanner in = new Scanner(System.in); System.out.println(“Enter a positive integer”); number=in.nextInt(); if (number <0) System.out.println("Error: Not a positive integer"); else { System.out.print("Convert to […]

Encontre o número de casas decimais no valor decimal, independentemente da cultura

Eu estou querendo saber se existe uma maneira concisa e precisa para retirar o número de casas decimais em um valor decimal (como um int) que será seguro para usar em diferentes informações de cultura? Por exemplo: 19.0 deve retornar 1, 27.5999 deve retornar 4, 19.12 deve retornar 2, etc. Eu escrevi uma consulta que […]

Ajustando precisão decimal, .net

Essas linhas em c # decimal a = 2m; decimal b = 2.0m; decimal c = 2.00000000m; decimal d = 2.000000000000000000000000000m; Console.WriteLine(a); Console.WriteLine(b); Console.WriteLine(c); Console.WriteLine(d); Gera esta saída: 2 2.0 2.00000000 2.000000000000000000000000000 Então eu posso ver que criar uma variável decimal a partir de um literal me permite controlar a precisão. Posso ajustar a precisão […]

Número do formato para 2 casas decimais

Gostaria de saber como posso produzir um número com duas casas decimais, sem arredondar o número original. Por exemplo: 2229,999 -> 2229,99 Eu já tentei: FORMAT(2229.999, 2) CONVERT(2229.999, DECIMAL(4,2)) obrigado

Cálculo financeiro preciso em JavaScript. Quais são as Gotchas?

No interesse de criar código de plataforma cruzada, gostaria de desenvolver um aplicativo financeiro simples em JavaScript. Os cálculos exigidos envolvem juros compostos e números decimais relativamente longos. Eu gostaria de saber quais erros evitar ao usar JavaScript para fazer esse tipo de matemática – se é que é possível!

Um duplo é realmente inadequado para dinheiro?

Eu sempre digo em c # uma variável do tipo double não é adequada para dinheiro. Todas as coisas estranhas podem acontecer. Mas não consigo criar um exemplo para demonstrar alguns desses problemas. Alguém pode fornecer um exemplo? (editar; este post foi originalmente marcado com C #; algumas respostas referem-se a detalhes específicos de decimal […]

Remover zeros à direita do decimal no SQL Server

Eu tenho uma coluna DECIMAL(9,6) ou seja, ele suporta valores como 999,123456. Mas quando eu insiro dados como 123,4567 torna-se 123,456700 Como remover esses zeros?

Inteiro para string hexadecimal em C ++

Como faço para converter um inteiro em uma string hexadecimal em C ++ ? Eu posso encontrar algumas maneiras de fazê-lo, mas eles geralmente parecem direcionados para C. Não parece haver uma maneira nativa de fazer isso em C ++. É um problema bem simples; Eu tenho um int que gostaria de converter em uma […]

Precisão e escala decimais no EF Code First

Eu estou experimentando com essa abordagem de código primeiro, mas eu estou descobrir agora que uma propriedade do tipo System.Decimal é mapeada para uma coluna sql do tipo decimal (18, 0). Como faço para definir a precisão da coluna do database?

Remover zeros à direita

Eu tenho alguns campos retornados por uma coleção como 2.4200 2.0044 2.0000 Quero resultados como 2.42 2.0044 2 Eu tentei com String.Format , mas retorna 2.0000 e defini-lo para N0 arredonda os outros valores também.