Preguntas con la etiqueta [floating-point]
¿Cómo puedo comparar dos números de punto flotante en Bash?
Estoy intentando comparar dos números de punto flotante dentro de un script Bash. Tengo dos variables, por ejemplo let num1=3.17648e-22 let num2=1.5 Ahora sólo quiero hacer una comparación simple de
Generación aleatoria de números flotantes
¿Cómo genero flotantes aleatorios en C++? Pensé que podría tomar el rand entero y dividirlo por algo, ¿sería suficiente?
JavaScript muestra un flotante con 2 decimales
Quería mostrar un número con 2 decimales. Pensé que podría usarlo toPrecision(2)en JavaScript. Sin embargo, si el número es 0.05, obtengo 0.0500. Prefiero que siga igual. Véalo en JSbin .
salida extraña en comparación de flotante con literal flotante
float f = 0.7; if( f == 0.7 ) printf("equal"); else printf("not equal"); ¿Por qué es la salida not equal? ¿Por qué pasó esto?
¿Cuál es la mejor manera de comparar flotadores en busca de casi igualdad en Python?
Es bien sabido que comparar flotadores para determinar la igualdad es un poco complicado debido a problemas de redondeo y precisión. Por ejemplo: Comparación de números de coma flotante, edición
División de enteros siempre cero [duplicado]
Posible duplicado: división de programación C Probablemente mi pregunta sea muy simple y estúpida. Me gustaría almacenar el valor de una división, en particular 1 / xsi xes un valor
PHP - Precisión de números flotantes [duplicado]
$a = '35'; $b = '-34.99'; echo ($a + $b); Resultados en 0,009999999999998 ¿Qué pasa con eso? Me preguntaba por qué mi programa seguía informando resultados extraños. ¿Por qué PHP
Limitar los flotadores a dos decimales
Quiero aque me redondeen a 13,95 . Intenté usar round, pero obtengo: >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Para un problema análogo con la clase decimal de la biblioteca
División de números enteros en Java [duplicado]
Esta es una pregunta básica pero no encuentro una respuesta. He investigado la aritmética de coma flotante y algunos otros temas, pero nada parece abordar esto. Estoy seguro de que
Números grandes redondeados erróneamente en JavaScript
Vea este código: var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(jsonString); console.log(jsonString, jsonParsed); Ejecutar fragmento de códigoHide resultsExpandir fragmento Cuando veo mi consola en Firefox 3.5, el valor de jsonParsedes
¿Existe un tipo de entrada flotante en HTML5?
Según html5.org , el "atributo de valor" del tipo de entrada "número", si se especifica y no está vacío, debe tener un valor que sea un número de punto flotante
¿Por qué NaN no es igual a NaN? [duplicar]
El estándar IEEE relevante define una constante numérica NaN (no un número) y prescribe que NaN debe compararse como no igual a sí mismo. ¿Porqué es eso? Todos los idiomas
¿Diferencia entre decimal, flotante y doble en .NET?
¿ Cuál es la diferencia entre y decimalen .NET?floatdouble ¿Cuándo alguien usaría uno de estos?
¿Cómo debo hacer una comparación de punto flotante?
Actualmente estoy escribiendo un código donde tengo algo como: double a = SomeCalculation1(); double b = SomeCalculation2(); if (a < b) DoSomething2(); else if (a > b) DoSomething3(); Y luego,
¿Cómo uso la aritmética de punto flotante en bash?
Estoy intentando dividir dos anchos de imagen en un script Bash, pero bash me da 0el resultado: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Estudié la guía de Bash y sé que debería usarla bcen todos
