Preguntas con la etiqueta [floating-accuracy]
Manejo de la precisión flotante en Javascript [duplicado]
Tengo una gran cantidad de valores numéricos yen javascript. Quiero agruparlos redondeándolos al múltiplo más cercano xy convertir el resultado en una cadena. ¿Cómo puedo evitar la molesta precisión del
Cálculo rápido de Exp: ¿es posible mejorar la precisión sin perder demasiado rendimiento?
Estoy probando la función rápida Exp(x) que se describió anteriormente en esta respuesta a una pregunta SO sobre cómo mejorar la velocidad de cálculo en C#: public static double Exp(double
¿Está disponible la precisión arbitraria de punto flotante?
Solo por diversión y porque fue realmente fácil, escribí un programa corto para generar números de injerto , pero debido a problemas de precisión de punto flotante no encuentro algunos
PHP - Precisión de números flotantes [duplicado]
$a = '35'; $b = '-34.99'; echo ($a + $b); Resultados en 0,009999999999998 ¿Qué pasa con eso? Me preguntaba por qué mi programa seguía informando resultados extraños. ¿Por qué PHP
Números grandes redondeados erróneamente en JavaScript
Vea este código: var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(jsonString); console.log(jsonString, jsonParsed); Ejecutar fragmento de códigoHide resultsExpandir fragmento Cuando veo mi consola en Firefox 3.5, el valor de jsonParsedes
¿Por qué estos números no son iguales?
El siguiente código es obviamente incorrecto. ¿Cuál es el problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not
