Entropie, Irrelevanz usw. im Diagramm

[Bitfolgernummer1 (Gast)]

Ich habe hier mehrere Aufgaben vorliegen wo man die Entropie, Irrelevanz 
usw einzeichnen sol in ein Diagramm, man kann das dann so amchen oder?

Beispielaufgabe:

Skizzieren und beschriften Sie ein Diagramm, in dem zu erkennen ist, wie 
in einem nicht-idealen Übertragungskanal die Verbundentropie einer 
Nachrichtenübertragung aus Äquivokation und Irrelevanz konstruiert 
werden kann!

Antwort (Siehe Anhang)

Freue mich über jede Antwort

[Michael W. (Gast)]

ja, und die Schnittmenge in der Mitte bezeichnet man als 
"Transinformation" I(x,y).

Also:

H(x,y) = H(x) + H(y|x) = H(y) + H(x|y)

I(x,y) = H(x) - H(x|y) = H(y) - H(y|x)

Letztlich muss I maximiert werden, um möglichst viel Information von der 
Quelle zur Senke zu transportieren.