Articles of ponto flutuante de

Por que o Math.round (0,49999999999999994) retorna 1?

No programa a seguir, você pode ver que cada valor ligeiramente menor que .5 é arredondado para baixo, exceto para 0.5 . for (int i = 10; i >= 0; i–) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + ” rounded is ” + Math.round(x)); l–; } […]

Java: Por que você precisa especificar um ‘f’ em um literal flutuante?

Por que você precisa especificar um sufixo f em um literal flutuante?

Faixas Haskell e flutuadores

Por que o comportamento da notação de intervalo Haskell é diferente para floats do que para inteiros e caracteres? Prelude> [1, 3 .. 10] :: [Int] [1,3,5,7,9] Prelude> [1, 3 .. 10] :: [Float] [1.0,3.0,5.0,7.0,9.0,11.0] Prelude> [‘a’, ‘c’ .. ‘f’] “ace” Eu entenderia se o último elemento estivesse perto do limite superior, mas isso obviamente […]

Quando devo usar a palavra-chave “strictfp” em java?

Eu olhei o que isso faz, mas alguém realmente tem um exemplo de quando você usaria a palavra-chave strictfp em Java? Alguém realmente encontrou um uso para isso? Haveria algum efeito colateral de apenas colocá-lo em todas as minhas operações de ponto flutuante?

Faça um float mostrar apenas duas casas decimais

Eu tenho o valor 25.00 em um float , mas quando eu imprimi-lo na canvas é 25.0000000 . Como posso exibir o valor com apenas duas casas decimais?

erros de ponto flutuante de ruby

Alguém pode explicar por que multiplicar por 100 aqui dá um resultado menos preciso, mas multiplicar por 10 duas vezes dá um resultado mais preciso? ± % sc Loading development environment (Rails 3.0.1) >> 129.95 * 100 12994.999999999998 >> 129.95*10 1299.5 >> 129.95*10*10 12995.0

Por que o código de divisão inteiro dá a resposta errada?

Eu tenho uma divisão muito simples em Java (é uma quantidade de produto / produção por hora), no entanto, sempre que eu faço esta divisão, eu recebo erros estranhos: float res = quantity / standard; Eu tentei a divisão acima com vários valores e sempre recebo erros, no entanto o que eu tentei em todos […]

Existe um tipo de input float no HTML5?

De acordo com o html5.org , o atributo “value” do tipo de input “número”, se especificado e não vazio, deve ter um valor que seja um número de ponto flutuante válido. ” No entanto, é simplesmente (na versão mais recente do Chrome, de qualquer forma), um controle “updown” com números inteiros, não flutuantes: Existe um […]

Por que a divisão de dois inteiros retorna 0.0 em Java?

int totalOptCount = 500; int totalRespCount=1500; float percentage =(float)(totalOptCount/totalRespCount); Por que isso sempre retorna o valor 0.0? Também quero formatar isso no formato 00.00 e converter em string?

Quantos dígitos significativos têm floats e doubles em java?

Um float tem 32 dígitos binários e um double tem 64 dígitos binários? A documentação era muito difícil de entender. Todos os bits são traduzidos para dígitos significativos? Ou a localização do ponto decimal ocupa alguns dos bits?