Articles of precisão

Precedência do operador com o operador Ternary do Javascript

Eu não consigo envolver minha cabeça em torno da primeira parte deste código (+ =) em combinação com o operador ternário. h.className += h.className ? ‘ error’ : ‘error’ A maneira que eu acho que esse código funciona é a seguinte: h.className = h.className + h.className ? ‘ error’ : ‘error’ Mas isso não está […]

Lidando com problemas de precisão em números de ponto flutuante

Eu queria saber se existe uma maneira de superar um problema de precisão que parece ser o resultado da representação interna de números de ponto flutuante da minha máquina: Por uma questão de clareza, o problema é resumido como: // str is “4.600”; atof( str ) is 4.5999999999999996 double mw = atof( str ) // […]

Precisão do C # DateTime.Now

Acabei de me deparar com algum comportamento inesperado com o DateTime.UtcNow enquanto fazia alguns testes de unidade. Parece que quando você chama DateTime.Now/UtcNow em sucessão rápida, parece dar-lhe de volta o mesmo valor para um intervalo de tempo maior que o esperado, em vez de capturar incrementos de milissegundos mais precisos. Eu sei que há […]

Controlando o número de dígitos decimais na saída de impressão em R

Existe uma opção em R para obter controle sobre a exibição de dígitos. Por exemplo: options(digits=10) é suposto dar os resultados do cálculo em 10 dígitos até o final da session. No arquivo de ajuda de R, a definição para o parâmetro digits é a seguinte: dígitos: controla o número de dígitos a serem impressos […]

A matemática de ponto flutuante é consistente em C #? Pode ser?

Não, isso não é outra pergunta “Por que é (1 / 3.0) * 3! = 1” . Eu tenho lido muito sobre os pontos flutuantes ultimamente; especificamente, como o mesmo cálculo pode fornecer resultados diferentes em diferentes arquiteturas ou configurações de otimização. Este é um problema para os videogames que armazenam replays, ou são peer-to-peer […]

Que intervalo de números pode ser representado em sistemas IEEE-754 de 16, 32 e 64 bits?

Eu sei um pouco sobre como os números de ponto flutuante são representados, mas não o suficiente, receio. A questão geral é: Para uma dada precisão (para meus propósitos, o número de casas decimais precisas na base 10), que intervalo de números pode ser representado para sistemas IEEE-754 de 16, 32 e 64 bits? Especificamente, […]

Mantenha a precisão com o dobro em Java

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } O código acima imprime: 11.399999999999 Como eu poderia conseguir isso apenas para imprimir (ou ser capaz de usá-lo como) 11.4?

decimal vs duplo! – Qual deles devo usar e quando?

Eu continuo vendo pessoas usando duplas em c #. Eu sei que li em algum lugar que o dobro às vezes perde a precisão. Minha pergunta é quando devo usar um duplo e quando devo usar um tipo decimal? Qual tipo é adequado para cálculos de dinheiro? (ou seja, mais de US $ 100 milhões)

Exemplos de imprecisão de ponto flutuante

Como você explica a imprecisão do ponto flutuante para novos programadores e leigos que ainda acham que os computadores são infinitamente sábios e precisos? Você tem um exemplo ou anedota favorito que parece transmitir a ideia muito melhor do que uma explicação precisa, mas seca? Como isso é ensinado nas aulas de informática?

A matemática do ponto flutuante está quebrada?

Considere o seguinte código: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Por que essas imprecisões acontecem?