|
La entropia en la Teoría de la Información, juega un papel fundamental. Su primera aplicación fueron las matematicas y la informatica. Posteriomente se descubrió la relacion directa entre el concepto matemático de la entropia (el de la Teoría de la Información) y el concepto físico de la entropía (el termodinámico). El puente entre el concepto matemático y el físico es la Mecánica Estadistica; que también es el puente entre el mundo macroscópico y microscópico.
En la Teoría de la Información, el concepto de entropia es mas sencillo que entender que en Física.Simplemente define el grado de complejidad de la información. Por ejemplo, compara la cadena:
aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa
con la cadena:
asdf890asf789aasd789SD789DFG789sd456a
La primera es simple y la segunda es compleja. Esta diferencia, aunque es obvia, a nivel cientifico hay que medirla de alguna forma. Y para eso está la entropia; que es una fórmula matematica que al aplicarla nos devuelve el
grado de complejidad de la cadena.
¿Y esto para que sirve? pues por ejemplo para averiguar hasta que grado podemos comprimir la información. Actualmente existen sistemas muy potentes de compresión de información, como por ejemplo las imagenes .jpg (reducen 100 veces los ficheros), los videos .mpeg y .divx (nuevos formatos de viedos que serán la revolución de aquí a dos años) o el famosisimo .mp3. Gracias a la entropia sabemos con seguridad absoluta que la informacion no se puede comprimir más, que el mp3 ha alcanzado el límite teórico y por lo tanto en un cd de mp3 no nos caben mas que 150 canciones, hoy y dentro de 1000
años.
Sin embargo, hay que tener muchísimo cuidado con las comparaciones, relaciones y analogías entre la entropia y cualquier otra área, incluyendo la Teoría de la Información. A este respecto, hay un artículo en el que comenta este cuidado:
"Shuffled cards, messy desks, and disorderly dorm rooms-examples of entropy increase? Nosense!"
Frank L. Lambert, Journal of Chemical Education, Vol. 76, págs. 1385-1387, (1999)
Bueno, no sé si te habrá servido para algo esta respuesta o si te habrá liado un poco más...
|
