Articles of precisão de

Em que ordem os floats devem ser adicionados para obter o resultado mais preciso?

Esta foi uma pergunta que me foi feita na minha recente entrevista e eu quero saber (eu não me lembro da teoria da análise numérica, então por favor me ajude 🙂 Se tivermos alguma function, que acumula números de ponto flutuante: std::accumulate(v.begin(), v.end(), 0.0); v é um std::vector , por exemplo. Seria melhor classificar esses […]

javascript large integer round porque precisão? (porque?)

se você digitar 78764357878563812 no chrome ou no safari, você terá Se você fizer for(var i = 0; i < 30; i++){console.log(i + " == " + 78764357878563800 + " ? ");console.log((78764357878563790+i) == 78764357878563800);} Você começa a comparar os valores de 78764357878563790 a 78764357878563790 + 29, então … como você vê se você executá-lo, você […]

Problema ao agendar tarefas usando a function clock ()

Eu gostaria de agendar tarefas em intervalos de tempo diferentes: a 0.1 seg, 0.9s …. 2s etc eu uso o clock () function C ++ que retorna o número de ticks desde o início da simulação e eu converto o número de ticks para segundos usando CLOCKS_PER_SEC, mas notei que a tarefa não está programada […]

questão de ponto flutuante em R?

Duplicar Possível: Por que esses números não são iguais? A expressão abaixo, que avalia a 0.1, é considerada maior que 0.1. > round(1740/600,0) – 1740/600 [1] 0.1 > (round(1740/600,0) – 1740/600) (round(1740/600,0) – 1740/600) <= 0.1000000000000000000000000000000000000001 [1] TRUE Pensando que o problema pode ser devido ao arredondamento, tentei isso com o mesmo resultado: > 3 […]

Emular “double” usando 2 “float” s

Eu estou escrevendo um programa para um hardware incorporado que suporta apenas aritmética de ponto flutuante de precisão única de 32 bits. O algoritmo que estou implementando, no entanto, requer uma adição e comparação de precisão dupla de 64 bits. Eu estou tentando emular o tipo de dados double usando uma tupla de dois float […]

Erro de precisão com flutuadores em Java

Eu estou querendo saber qual é a melhor maneira de corrigir erros de precisão em Java. Como você pode ver no exemplo a seguir, há erros de precisão: class FloatTest { public static void main(String[] args) { Float number1 = 1.89f; for(int i = 11; i < 800; i*=2) { System.out.println("loop value: " + i); […]

É seguro verificar valores de ponto flutuante para igualdade para 0?

Eu sei que você não pode confiar na igualdade entre valores de tipo double ou decimal normalmente, mas eu estou querendo saber se 0 é um caso especial. Embora eu possa entender imprecisões entre 0,00000000000001 e 0,00000000000002, 0 em si parece ser muito difícil de ser confundido, já que não é nada. Se você é […]

Truncar (não arredondar) números decimais em javascript

Eu estou tentando truncar números decimais para casas decimais. Algo assim: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2) faz quase a coisa certa, mas arredonda o valor. Eu não preciso do valor arredondado. Espero que isso seja possível em javascript.

Precisão do C # DateTime.Now

Acabei de me deparar com algum comportamento inesperado com o DateTime.UtcNow enquanto fazia alguns testes de unidade. Parece que quando você chama DateTime.Now/UtcNow em sucessão rápida, parece dar-lhe de volta o mesmo valor para um intervalo de tempo maior que o esperado, em vez de capturar incrementos de milissegundos mais precisos. Eu sei que há […]

Qual é a diferença entre float e double?

Eu li sobre a diferença entre precisão dupla e precisão única. No entanto, na maioria dos casos, float e double parecem ser intercambiáveis, ou seja, usar um ou outro não parece afetar os resultados. É este realmente o caso? Quando flutuadores e duplos são intercambiáveis? Quais são as diferenças entre eles?