Preguntas con la etiqueta [floating-point]
Especificador de ancho de impresión para mantener la precisión del valor de punto flotante
¿Existe un printfespecificador de ancho que pueda aplicarse a un especificador de punto flotante que formatee automáticamente la salida con el número necesario de dígitos significativos? de modo que al
¿Cómo puedo lidiar con la precisión de los números de punto flotante en JavaScript? [duplicar]
Tengo el siguiente script de prueba ficticio: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Ejecutar fragmento de códigoHide resultsExpandir fragmento Esto imprimirá el resultado 0.020000000000000004cuando
¿Por qué no utilizar Double o Float para representar moneda?
Siempre me han dicho que nunca represente dinero con doubleo floattipos, y esta vez les planteo la pregunta: ¿por qué? Estoy seguro de que hay una muy buena razón, simplemente
Formato flotante hasta n decimales
Necesito formatear un flotante en "n" lugares decimales. Estaba intentando BigDecimal, pero el valor de retorno no es correcto... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function
Cómo obtener la representación binaria IEEE 754 de un flotante en C#
Tengo algunos flotadores de precisión simple y doble en los que quiero escribir y leer desde un byte []. ¿Hay algo en .Net que pueda usar para convertirlos hacia y
Alcance y flotadores Haskell
¿Por qué el comportamiento de la notación de rango de Haskell es diferente para flotantes que para números enteros y caracteres? Prelude> [1, 3 .. 10] :: [Int] [1,3,5,7,9] Prelude>
Manejo de la precisión flotante en Javascript [duplicado]
Tengo una gran cantidad de valores numéricos yen javascript. Quiero agruparlos redondeándolos al múltiplo más cercano xy convertir el resultado en una cadena. ¿Cómo puedo evitar la molesta precisión del
¿Cómo analizar flotante con dos decimales en javascript?
tengo el siguiente código. Me gustaría que fuera tal que si precio_resultado fuera igual a un número entero, digamos 10, entonces me gustaría agregar dos decimales. Entonces 10 serían 10.00.
Cómo lidiar con números grandes en javascript [duplicado]
Estoy buscando una solución matemática que se ocupe de números reales (largos, grandes, enormes, tormentas). No he encontrado nada todavía, pero no quiero pensar que este problema no se haya
Cómo formatear muy bien números flotantes en cadenas sin ceros decimales innecesarios
Un doble de 64 bits puede representar un número entero +/- 2 53 exactamente. Dado este hecho, elijo utilizar un tipo doble como tipo único para todos mis tipos, ya
¿Cómo convertir una cadena en flotante en JavaScript?
Estoy intentando analizar dos valores de una cuadrícula de datos. Los campos son numéricos y cuando tienen una coma (ej. 554,20), no puedo obtener los números después de la coma.
Representación binaria de float en Python (bits no hexadecimales)
¿Cómo puedo obtener una cadena de 0s y 1s, según los bits de la representación IEEE 754 de un flotante de 32 bits? Por ejemplo, dada una entrada 1.00, el
¿Por qué la división de dos números enteros devuelve 0,0 en Java? [duplicar]
int totalOptCount = 500; int totalRespCount=1500; float percentage =(float)(totalOptCount/totalRespCount); ¿Por qué esto siempre devuelve el valor 0,0? ¿También quiero formatear esto en formato 00.00 y convertirlo en una cadena?
¿Está disponible la precisión arbitraria de punto flotante?
Solo por diversión y porque fue realmente fácil, escribí un programa corto para generar números de injerto , pero debido a problemas de precisión de punto flotante no encuentro algunos
¿Cómo uso un valor de paso decimal para el rango()?
¿Cómo itero entre 0 y 1 en un paso de 0,1? Esto dice que el argumento del paso no puede ser cero: for i in range(0, 1, 0.1): print(i)
