Articles of ponto flutuante

Por que nós influenciamos o expoente de um número de ponto flutuante?

Eu estou tentando envolver minha cabeça em torno desta representação de números binários de ponto flutuante, mas não consegui encontrar, não importa onde eu olhasse, uma boa resposta para a pergunta. Por que o expoente é tendencioso? O que há de errado com o método do complemento de dois bons e confiáveis? Eu tentei olhar […]

Em .net, como faço para escolher entre um decimal e um duplo

Nós estávamos discutindo isso no outro dia no trabalho e eu gostaria que houvesse uma pergunta do Stackoverflow que eu diria às pessoas, então aqui vai.) Qual é a diferença entre um Double e um Decimal ? Quando (em quais casos) você deve sempre usar um Double ? Quando (em quais casos) você deve sempre […]

Melhor maneira de analisar o float?

Qual é a melhor maneira de analisar um float no CSharp? Eu sei sobre TryParse, mas o que eu particularmente estou querendo saber são pontos, vírgulas etc. Estou com problemas no meu site. No meu servidor de desenvolvimento, o ‘,’ é para decimais, o ‘.’ para separador. No servidor prod, porém, é o contrário. Como […]

Impressão dupla sem perder precisão

Como você imprime um duplo em um stream para que, quando ele for lido, você não perca a precisão? Eu tentei: std::stringstream ss; double v = 0.1 * 0.1; ss << std::setprecision(std::numeric_limits::digits10) << v <> u; std::cout << "precision " << ((u == v) ? "retained" : "lost") << std::endl; Isso não funcionou como eu […]

São dobra mais rápido do que carros alegóricos em c #?

Eu estou escrevendo um aplicativo que lê grandes matrizes de carros alegóricos e executa algumas operações simples com eles. Estou usando carros alegóricos, porque achei que seria mais rápido do que o dobro, mas depois de fazer algumas pesquisas descobri que há alguma confusão sobre esse assunto. Alguém pode elaborar sobre isso?

Por que o Double.compare (double, double) do Java é implementado da maneira que é?

Eu estava olhando para a implementação de compare (double, double) na biblioteca padrão Java (6). Lê: public static int compare(double d1, double d2) { if (d1 d2) return 1; // Neither val is NaN, thisVal is larger long thisBits = Double.doubleToLongBits(d1); long anotherBits = Double.doubleToLongBits(d2); return (thisBits == anotherBits ? 0 : // Values are […]

Comparando tipos de dados flutuantes e duplos no objective C

Ao usar o tipo de dados double ou float em um aplicativo do iPhone, estou tendo problemas com comparações “> =” e ” = 4,2″ é falsa em vez de verdadeira. Como posso evitar esse problema?

Qual a melhor forma de sumr vários números de ponto flutuante?

Imagine que você tenha uma grande variedade de números de ponto flutuante, de todos os tipos de tamanhos. Qual é a maneira mais correta de calcular a sum, com o menor erro? Por exemplo, quando a matriz se parece com isso: [1.0, 1e-10, 1e-10, … 1e-10.0] e você sum da esquerda para a direita com […]

São operações de ponto flutuante em C associativa?

Adição matematicamente mantém a propriedade associativa: (a + b) + c = a + (b + c) No caso geral, essa propriedade não vale para números de ponto flutuante porque eles representam valores em uma precisão finita. Um compilador pode fazer a substituição acima ao gerar código de máquina de um programa em C como […]

Comparar carros alegóricos no Unity

Eu tenho 6 InputFields na minha cena. Seu tipo de conteúdo é decimal. Eu busco valores destes campos de input e verifico se sua sum é igual a 100.02. Eu entro em 16,67 em todos eles. float fireP = float.Parse(firePercentage.text); float waterP = float.Parse(waterPercentage.text); float lightP = float.Parse(lightPercentage.text); float nightP = float.Parse(nightPercentage.text); float natureP = […]