Trabajo Práctico de Teoría de la Información
El presente trabajo práctico tiene como objetivo Introducir al estudiante sobre la importancia de la teoría de la información en las comunicaciones.
Conceptos Involucrados
- Teoría de la información
- Redundancia
- Capacidad de canal
- Codificación de fuente
- Codificación de canal
Formato de reporte
Información
Ejercicio Nº 1 (14.3 - 14.4 LR)
a) La representación de caracteres ASCII utiliza 8 bits. Utilice dec2bin(‘a’) para obtener el valor binario del carácter “a”. Considerando a los caracteres ASCII como una fuente de símbolos discretos equiprobables, ¿cuanta información transporta el símbolo “a”?
b) Considere una representación decimal del número π = 3.1415926.. calcule la información (número de bits) requerida para transmitir sucesivamente los dígitos de π considerando que cada dígito es independiente del otro. Ofrezca una propuesta de solución a este problema identificando:
i) N : La cantidad de símbolos.
ii) xi : Los símbolos.
iii) p(xi) : La probabilidad de ocurrencia del símbolo xi .
¿Cuánta información está contenido en el primer millón de dígitos de la letra π ?
Redundancia
Ejercicio Nº 2
a) En base a lo expuesto en la sección 14.2 LR, resuelva el ejercicio 14.5. Pruebe con el texto oxidado.txt que es un texto en castellano. Argumente sobre la redundancia, la capacidad de interpretación del texto y las diferencias del lenguaje.
b) Analice los ejercicios 14.6 y 14.7 LR. Luego repita los mismos con el texto oxidado.txt. Argumente sobre las diferencias del lenguaje. Argumente sobre la redundancia, la capacidad de interpretación del texto y las diferencias del lenguaje.
Entropía
Ejercicio Nº 3
Analice el ejercicio 14.11 LR. ¿Cuál es la conclusión sobre la ocurrencia de los símbolos?
Capacidad de Canal
Ejercicio Nº 4
a) Analice la sección 14.4 LR y argumente.
- ¿Es posible enviar una cantidad infinita de información incrementando la entropía?
- ¿Cuál es la limitación?
- ¿Cuáles son las situaciones de compromiso entre SNR, Ancho de banda y probabilidad de error?
b) Realice los ejercicios 14.12 al 14.15 LR y argumente sobre la relación entre los niveles de señal, el ruido y los errores.
Codificación de fuente
Analice la sección 14.5.
Ejercicio Nº 5
a) Exponga el método de codificación de Huffman 7 .
b) Resuelva los ejercicios 14.16 al 14.17
c) Resuelva los ejercicios 14.18 al 14.21. Ofrezca una versión para el texto oxidado.txt
d) [Opcional] Argumente sobre el ejercicio 14.22
Codificación de canal Analice la sección 14.6 LR.
Ejercicio Nº 6
a) Investigue sobre la codificación de Hamming 8 .
b) Exponga los resultados de los ejercicios 14.24 al 14.27.
Ejercicio Nº 7
Explore conceptualmente la sección 14.7 LR
Libro de Referencia (LR):
- Johnson Jr, C. R., Sethares, W. A., & Klein, A. G. (2011). Software receiver design: build your own digital communication system in five easy steps. Cambridge University Press. (Los códigos compatibles con Octave se pueden descargar de aquí.)