Preguntas con la etiqueta [precision]
¿Las matemáticas de punto flotante son consistentes en C#? ¿Puede ser?
No, esta no es otra pregunta de "¿Por qué es (1/3.0)*3! = 1" . Últimamente he estado leyendo mucho sobre puntos flotantes; específicamente, cómo el mismo cálculo puede dar resultados
Obtenga DateTime.Now con precisión de milisegundos
¿Cómo puedo construir exactamente una marca de tiempo de la hora real con una precisión de milisegundos? Necesito algo como 16.4.2013 9:48:00:123. es posible? Tengo una aplicación en la que
Controlar el número de dígitos decimales en la salida de impresión en R
Hay una opción en R para controlar la visualización de dígitos. Por ejemplo: options(digits=10) se supone que proporciona los resultados del cálculo en 10 dígitos hasta el final de la
¿Por qué veo una variable doble inicializada con algún valor como 21,4 como 21,399999618530273?
double r = 11.631; double theta = 21.4; En el depurador, estos se muestran como 11.631000000000000y 21.399999618530273. ¿Cómo puedo evitar esto?
JavaScript muestra un flotante con 2 decimales
Quería mostrar un número con 2 decimales. Pensé que podría usarlo toPrecision(2)en JavaScript. Sin embargo, si el número es 0.05, obtengo 0.0500. Prefiero que siga igual. Véalo en JSbin .
decimal vs doble! - ¿Cuál debo usar y cuándo? [duplicar]
Sigo viendo gente usando dobles en C#. Sé que leí en alguna parte que los dobles a veces pierden precisión. Mi pregunta es ¿cuándo debo usar un tipo doble y
PHP - Precisión de números flotantes [duplicado]
$a = '35'; $b = '-34.99'; echo ($a + $b); Resultados en 0,009999999999998 ¿Qué pasa con eso? Me preguntaba por qué mi programa seguía informando resultados extraños. ¿Por qué PHP
Limitar los flotadores a dos decimales
Quiero aque me redondeen a 13,95 . Intenté usar round, pero obtengo: >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Para un problema análogo con la clase decimal de la biblioteca
¿Por qué 24.0000 no es igual a 24.0000 en MATLAB?
Estoy escribiendo un programa en el que necesito eliminar puntos duplicados almacenados en una matriz. El problema es que a la hora de comprobar si esos puntos están en la
