■■■■■■■■■■■■■■■■■■■■■■
1 ≤ n ≤ 20 y 1 ≤ k ≤ 5.
Valor medio:
Desviación estándar absoluta:
Desviación estándar relativa (en %):
Explicaciones
En la estadística, se utilizan los valores individuales con toda su exactitud.
En el formato numérico de 64 bits, para el formato de número de coma
flotante se obtienen 15 posiciones significativas en notación decimal.
La exactitud se puede controlar mediante la selección del prefijo de la uni-
dad (mili, micro) y el número de posiciones decimales.
Ejemplo
El resultado mostrado 1234.56789158763 mg/L tiene 15 posiciones
significativas. Se debe redondear a tres posiciones decimales según el pro-
cedimiento de redondeo anterior:
1234,568 mg/L.
■
En caso de que se imprima el mismo resultado en g/L
(1.23456789158763 g/L) y se redondee igualmente a tres posiciones
decimales, se obtiene
1,235 g/L.
■
Esto significa que si selecciona la aplicación y el formato numérico, de
modo que los números visualizados tengan el mayor número posible de
dígitos antes de la coma, conseguirá la menor pérdida de exactitud debida
al redondeo.
Un nuevo cálculo completo de la estadística mediante una calculadora de
bolsillo o un programa informático de cálculo puede dar lugar a desviacio-
nes. Esto se debe a los diferentes formatos de números binarios utilizados
en estas herramientas.
Las pérdidas de exactitud descritas ocasionadas por el redondeo en
lo relativo a las posiciones significativas tienen meramente relevan-
cia teórica. En general se encuentran en un orden de magnitud infe-
rior a las incertezas metrológicas (errores de balanza, de dosificador
o de medida).
Descripción de funciones
23
■■■■■■■■