Teoría de la Información
Hola BankHacker, no sé si sabrás algo sobre la entropía y la Teoría de la Información... Pero como tiene que ver con la informática.
Me gustaría que me dieras cuatro ideas para empezar ...
Muchas gracias.
Me gustaría que me dieras cuatro ideas para empezar ...
Muchas gracias.
1 Respuesta
Respuesta de bankhacker
1
La entropía en la Teoría de la Información, juega un papel fundamental. Su primera aplicación fueron las matemáticas y la informática. Posteriormente se descubrió la relación directa entre el concepto matemático de la entropía (el de la Teoría de la Información) y el concepto físico de la entropía (el termodinámico). El puente entre el concepto matemático y el físico es la Mecánica Estadistica; que también es el puente entre el mundo microscópico y microscópico.
En la Teoría de la Información, el concepto de entropía es más sencillo que entender que en Física. Simplemente define el grado de complejidad de la información. Por ejemplo, compara la cadena:
Aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa
Con la cadena:
Asdf890asf789aasd789SD789DFG789sd456a
La primera es simple y la segunda es compleja. Esta diferencia, aunque es obvia, a nivel científico hay que medirla de alguna forma. Y para eso está la entropia; que es una fórmula matemática que al aplicarla nos devuelve el
grado de complejidad de la cadena.
¿Y esto para que sirve? Pues por ejemplo para averiguar hasta que grado podemos comprimir la información. Actualmente existen sistemas muy potentes de compresión de información, como por ejemplo las imágenes .jpg (reducen 100 veces los ficheros), los videos .mpeg y .divx (nuevos formatos de viedos que serán la revolución de aquí a dos años) o el famosísimo .mp3. Gracias a la entropía sabemos con seguridad absoluta que la información no se puede comprimir más, que el mp3 ha alcanzado el límite teórico y por lo tanto en un cd de mp3 no nos caben más que 150 canciones, hoy y dentro de 1000
años.
Sin embargo, hay que tener muchísimo cuidado con las comparaciones, relaciones y analogías entre la entropía y cualquier otra área, incluyendo la Teoría de la Información. A este respecto, hay un artículo en el que comenta este cuidado:
"Shuffled cards, messy desks, and disorderly dorm rooms-examples of entropy increase? Nosense!"
Frank L. Lambert, Journal of Chemical Education, Vol. 76, págs. 1385-1387, (1999)
Bueno, no sé si te habrá servido para algo esta respuesta o si te habrá liado un poco más...
En la Teoría de la Información, el concepto de entropía es más sencillo que entender que en Física. Simplemente define el grado de complejidad de la información. Por ejemplo, compara la cadena:
Aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa
Con la cadena:
Asdf890asf789aasd789SD789DFG789sd456a
La primera es simple y la segunda es compleja. Esta diferencia, aunque es obvia, a nivel científico hay que medirla de alguna forma. Y para eso está la entropia; que es una fórmula matemática que al aplicarla nos devuelve el
grado de complejidad de la cadena.
¿Y esto para que sirve? Pues por ejemplo para averiguar hasta que grado podemos comprimir la información. Actualmente existen sistemas muy potentes de compresión de información, como por ejemplo las imágenes .jpg (reducen 100 veces los ficheros), los videos .mpeg y .divx (nuevos formatos de viedos que serán la revolución de aquí a dos años) o el famosísimo .mp3. Gracias a la entropía sabemos con seguridad absoluta que la información no se puede comprimir más, que el mp3 ha alcanzado el límite teórico y por lo tanto en un cd de mp3 no nos caben más que 150 canciones, hoy y dentro de 1000
años.
Sin embargo, hay que tener muchísimo cuidado con las comparaciones, relaciones y analogías entre la entropía y cualquier otra área, incluyendo la Teoría de la Información. A este respecto, hay un artículo en el que comenta este cuidado:
"Shuffled cards, messy desks, and disorderly dorm rooms-examples of entropy increase? Nosense!"
Frank L. Lambert, Journal of Chemical Education, Vol. 76, págs. 1385-1387, (1999)
Bueno, no sé si te habrá servido para algo esta respuesta o si te habrá liado un poco más...
