Gast
#3710449
Hallo zusammen, befasse mich gerade etwas mit Informationstheorie. Ich muss vorweg sagen, dass ich nicht sicher bin, ob ich hier im richtigen Forum gelandet bin, aber wüsste nicht, wo ich sonst fragen sollte, daher versuche ich es mal hier. Also, meine Frage dreht sich um die Begriffe der Transinformation, Kanalkapazität und der Entropie. Auf Wikipedia http://de.wikipedia.org/wiki/Transinformation gibts ja den leider kaum verständlichen Artikel zu dem Thema. Das Thema ist leider recht abstrakt, aber mit dem Bild finde ich es einigermassen anschaulich. Könnt ihr mir verraten, ob meine Vorstellung so korrekt ist: 1. über einen Kanal werden Informationen übertragen, z.B. ein Funkkanal, wo man mit WLAN Daten versendet. 2. der Kanal beinhaltet Rauschen, welches zu Fehlern führt. Diese Fehler bedeuten im Prinzip einen "Verlust" an Informationen, das wäre die bedingte Entropie H(X|Y). Anschaulich: wenn der Empfänger das Symbol y empfängt, kann er mit einer bestimmten Sicherheit sagen, ob die Quelle x gesendet hat. Richtig? 3. durch die Fehler entstehen eine Art "neue", "zusätzliche" Informationen, das wäre die bedingte Entropie H(Y|X). Auch hier: wenn der Sender x sendet, kann er nicht mit Sicherheit wissen, ob der Empfänger auch wirklich y empfängt oder was anderes. 4. die Transinformation ist diejenige Menge an Informationen, die ich fehlerfrei durch den Kanal bringe. Richtig? Anhand des Bildes könnte man dies jedenfalls vermuten. 5. Dementsprechend gibt die Kanalkapazität an, wie viele Informationen ich bei optimaler Codierung und Fehlerkorrektur maximal durch den Kanal übertragen kann. Versuche ich mehr Informationen zu übertragen, geht immer was verloren. Stimmen meine anschaulichen Überlegungen so ungefähr? bin ja kein Mathematiker, das muss nicht 100% exakt sein, aber ein bisschen anschaulich will ich es verstehen. Insbesondere bei 5. bin ich nicht ganz sicher. Bin mal sehr gespannt auf die Antworten. Viele Grüsse!