Preguntas con la etiqueta [floating-point]

Lista floating-point preguntas

No, esta no es otra pregunta de "¿Por qué es (1/3.0)*3! = 1" . Últimamente he estado leyendo mucho sobre puntos flotantes; específicamente, cómo el mismo cálculo puede dar resultados

Dificultad de comparación numérica en R

8
respuestas
53
votos
vistas

Estoy tratando de comparar dos números en R como parte de una condición de declaración if: (a-b) >= 0.5 En este caso particular, a = 0,58 y b = 0,08...

¿Cómo se puede modificar el formato de salida de una operación groupby en pandas que produce notación científica para números muy grandes? Sé cómo formatear cadenas en Python, pero no

¿Por qué cambiar el orden de la suma arroja un resultado diferente? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Tanto Java como JavaScript

Tengo una función que toma argumentos flotantes (generalmente enteros o decimales con un dígito significativo) y necesito generar los valores en una cadena con dos decimales (5 → 5,00, 5,5

¿ Cuál es el especificador de formato correcto doubleen printf? ¿Es %fo es %lf? Creo que lo es %f, pero no estoy seguro. Ejemplo de código #include <stdio.h> int main()

¿Por qué el siguiente programa imprime lo que imprime? class Program { static void Main(string[] args) { float f1 = 0.09f*100f; float f2 = 0.09f*99.999999f; Console.WriteLine(f1 > f2); } }

Conversión de doble a cadena sin notación científica

18
respuestas
104
votos
135.4k
vistas

¿Cómo convertir un doble en una representación de cadena de punto flotante sin notación científica en .NET Framework? Muestras "pequeñas" (los números efectivos pueden ser de cualquier tamaño, como 1.5E200o

Necesito hacer algo de aritmética de punto flotante en Java como se muestra en el siguiente código: public class TestMain { private static Map<Integer, Double> ccc = new HashMap<Integer, Double>()

Tengo números flotantes como 3.2y 1.6. Necesito separar el número en parte entera y decimal. Por ejemplo, un valor de 3.2se dividiría en dos números, es decir, 3y0.2 Obtener la

¿Cómo puedo redondear un valor flotante (como 37,777779) a dos decimales (37,78) en C?

Usando bit a bit OR 0 para establecer un número

7
respuestas
237
votos
59.4k
vistas

Un colega mío se topó con un método para establecer números flotantes usando bit a bit o: var a = 13.6 | 0; //a == 13 Estábamos hablando de ello

¿Por qué este fragmento de código, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16]

random.randrange(start, stop)sólo toma argumentos enteros. Entonces, ¿cómo obtendría un número aleatorio entre dos valores flotantes?

double r = 11.631; double theta = 21.4; En el depurador, estos se muestran como 11.631000000000000y 21.399999618530273. ¿Cómo puedo evitar esto?