Die Mathe-Redaktion - 05.12.2019 15:29 - Registrieren/Login
Auswahl
ListenpunktHome
ListenpunktAktuell und Interessant ai
ListenpunktArtikelübersicht/-suche
ListenpunktAlle Links / Mathe-Links
ListenpunktFach- & Sachbücher
ListenpunktMitglieder / Karte / Top 15
ListenpunktRegistrieren/Login
ListenpunktArbeitsgruppen
Listenpunkt? im neuen Schwätz
ListenpunktWerde Mathe-Millionär!
ListenpunktFormeleditor fedgeo
Schwarzes Brett
Aktion im Forum
Suche
Stichwortsuche in Artikeln und Links von Matheplanet
Suchen im Forum
Suchtipps

Bücher
Englische Bücher
Software
Suchbegriffe:
Mathematik bei amazon
Naturwissenschaft & Technik
In Partnerschaft mit Amazon.de
Kontakt
Mail an Matroid
[Keine Übungsaufgaben!]
Impressum

Bitte beachten Sie unsere Nutzungsbedingungen, die Distanzierung, unsere Datenschutzerklärung und
die Forumregeln.

Sie können Mitglied werden. Mitglieder können den Matheplanet-Newsletter bestellen, der etwa alle 2 Monate erscheint.

Der Newsletter Okt. 2017

Für Mitglieder
Mathematisch für Anfänger
Wer ist Online
Aktuell sind 872 Gäste und 17 Mitglieder online.

Sie können Mitglied werden:
Klick hier.

Über Matheplanet
 
Zum letzten Themenfilter: Themenfilter:
Matroids Matheplanet Forum Index
Moderiert von Bilbo
Informatik » Theoretische Informatik » Informationsgehalt
Druckversion
Druckversion
Antworten
Antworten
Autor
Universität/Hochschule Informationsgehalt
Physiker123
Aktiv Letzter Besuch: in der letzten Woche
Dabei seit: 16.02.2016
Mitteilungen: 483
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Themenstart: 2019-11-14 14:46


Guten Tag,
ich beschäftige mich gerade mit der klassischen Informationstheorie. In meinem Skript steht, dass der Informationsgehalt folgende Bedingungen erfüllen soll:

\[I(p)\ge 0\] \[I(1)=0\] \[I(p_1p_2)=I(p_1)+I(p_2)\]
Der Informationsgehalt einer Nachricht die aus zwei Symbolen besteht kann als Summe der einzelnen Informationsgehalte berechnet werden falls das Auftreten der Symbole unabhängig voneinander ist.

Im Skript wird nun mit Hilfe der letzten Eigenschaft die zweite gezeigt:

\[I(1)=I(1)+I(1)\Leftrightarrow I(1)=0\]
Dies kann aber nur richtig sein wenn die Symbole aus zwei unterschiedlichen Alphabeten stammen (die Wahrscheinlichkeiten eines Alphabets addieren sich zu eins). Ich denke eher, dass die zweite Eigenschaft eine Definition ist.

Liege ich damit richtig?



  Profil  Quote  Link auf diesen Beitrag Link
rlk
Senior Letzter Besuch: in der letzten Woche
Dabei seit: 16.03.2007
Mitteilungen: 10590
Aus: Wien
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.1, eingetragen 2019-11-14 15:38


Hallo Physiker123,
welche Bedeutung haben $p$, $p_1$ und $p_2$? Ich vermute, dass es sich um Wahrscheinlichkeiten handelt, aber das Skript sollte helfen, diese Frage zu beantworten.

Wenn $I(1)=0$ aus der dritten Eigenschaft abgeleitet werden kann, erübrigt sich eine Definition.

Servus,
Roland


[Verschoben aus Forum 'Logik, Mengen & Beweistechnik' in Forum 'Theoretische Informatik' von rlk]



  Profil  Quote  Link auf diesen Beitrag Link
Physiker123
Aktiv Letzter Besuch: in der letzten Woche
Dabei seit: 16.02.2016
Mitteilungen: 483
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.2, vom Themenstarter, eingetragen 2019-11-14 15:54


Hallo und danke für deine Nachricht. Ja, \(p,p_1,p_2\) sind Wahrscheinlichkeiten.



Es wird unterschlagen, dass die Symbole, die mit den Wahrscheinlichkeiten \(p_1\) und \(p_2\) auftreten aus verschiedenen Alphabeten stammen müssen. Diese können ja sonst nicht beide den Wert eins annehmen.

\[\sum\limits_x p(x)=1\]
für alle Symbole \(x\) aus einem Alphabet \(X\).

Der Beweis ist also meiner Meinung nach nicht allgemein gültig.


Ich denke, dass (ii) eigentlich eine Definition ist, die man an den Informationsgehalt stellt \(\Rightarrow\) Ein Symbol, das mit der W'keit eins auftritt enthält keine Information.

Ist das richtig?



  Profil  Quote  Link auf diesen Beitrag Link
rlk
Senior Letzter Besuch: in der letzten Woche
Dabei seit: 16.03.2007
Mitteilungen: 10590
Aus: Wien
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.3, eingetragen 2019-11-14 16:15


Hallo Physiker123,
warum denkst Du, dass es zwei verschiedene Symbole sein müssen?

Servus,
Roland



  Profil  Quote  Link auf diesen Beitrag Link
Physiker123
Aktiv Letzter Besuch: in der letzten Woche
Dabei seit: 16.02.2016
Mitteilungen: 483
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.4, vom Themenstarter, eingetragen 2019-11-15 11:00


Hallo nochmal. Ich sagte, dass die Symbole aus unterschiedlichen Alphabeten stammen müssen. Sonst geht der Beweis nicht durch. Es kann nicht sein, dass zwei Symbole eines Alphabets mit der Wahrscheinlichkeit eins auftreten.




  Profil  Quote  Link auf diesen Beitrag Link
rlk
Senior Letzter Besuch: in der letzten Woche
Dabei seit: 16.03.2007
Mitteilungen: 10590
Aus: Wien
Zum letzten BeitragZum nächsten BeitragZum vorigen BeitragZum erstem Beitrag  Beitrag No.5, eingetragen 2019-11-15 13:12


Hallo Physiker123,
wenn das Symbol $\aleph$ die Wahrscheinlichkeit 1 hat, haben Nachrichten der Form $\aleph\ldots \aleph$ den Informationsgehalt 0.

Wie habt ihr das Alphabet definiert?

Servus,
Roland



  Profil  Quote  Link auf diesen Beitrag Link
Physiker123 hat die Antworten auf ihre/seine Frage gesehen.
Neues Thema [Neues Thema] Antworten [Antworten]    Druckversion [Druckversion]

 


Wechsel in ein anderes Forum:
 Suchen    
 
All logos and trademarks in this site are property of their respective owner. The comments are property of their posters, all the rest © 2001-2019 by Matroids Matheplanet
This web site was made with PHP-Nuke, a web portal system written in PHP. PHP-Nuke is Free Software released under the GNU/GPL license.
Ich distanziere mich von rechtswidrigen oder anstößigen Inhalten, die sich trotz aufmerksamer Prüfung hinter hier verwendeten Links verbergen mögen.
Lesen Sie die Nutzungsbedingungen, die Distanzierung, die Datenschutzerklärung und das Impressum.
[Seitenanfang]