Forum: Offtopic Entropie und Informationsgehalt berechnen


Announcement: there is an English version of this forum on EmbDev.net. Posts you create there will be displayed on Mikrocontroller.net and EmbDev.net.
von Mathiasl (Gast)


Bewertung
0 lesenswert
nicht lesenswert
Mir ist klar was beide Begriffe bedeuten und ich weiss auch wie man den 
informationsgehalt berechnet, jedoch erkenne ich bei der Berechnung 
keinen Unterschied zur Entropie. ... Oder ist die Entropie einfach nur 
der Kehrwert des informationsgehaltes ?

: Verschoben durch Admin
von Max H. (hartl192)


Bewertung
0 lesenswert
nicht lesenswert
Der Informationsgehalt ist die Entropie.

http://de.wikipedia.org/wiki/Entropie_(Informationstheorie)
> Entropie (nach dem Kunstwort εντροπία) ist ein Maß für den
> mittleren Informationsgehalt oder auch Informationsdichte
> einer Nachricht.

: Bearbeitet durch User
von Michael W. (armeinsteiger)


Bewertung
0 lesenswert
nicht lesenswert
Max H. :

Nein nicht ganz, denn die Entropie ist der Erwartungswert des 
Informationsgehalts (du hast es oben selbst so geschrieben). Mathiasl 
wollte ja genau den Unterschied wissen, der sich hinter den beiden 
Begriffen verbirgt. Und wenn du nun flapsig sagst, es sei ohnehin das 
gleiche, wirst du ihn mehr verwirren als helfen.

Der Informationsgehalt eines Ereignisses mit Wahrscheinlichkeit p ist

Der Erwartungswert davon, über alle Wahrscheinlichkeiten verschiedener 
Ereignisse gemittelt, ist H, die Entropie:

: Bearbeitet durch User
Bitte melde dich an um einen Beitrag zu schreiben. Anmeldung ist kostenlos und dauert nur eine Minute.
Bestehender Account
Schon ein Account bei Google/GoogleMail, Yahoo oder Facebook? Keine Anmeldung erforderlich!
Mit Google-Account einloggen | Mit Facebook-Account einloggen
Noch kein Account? Hier anmelden.