Übungsaufgaben zur Informationstheorie

Inhaltsverzeichnis1. Zahlensysteme und Kombinatorik.1.1. Zahlensysteme.1.2. Kombinatorik.2. Wahrscheinlichkeitsrechnung.2.1. Allgemeines.2.2. Bedingte Wahrscheinlichkeiten.2.3. Der Satz von Bayes.2.4. Zufallsvariable.3. Statistik.3.1. Grundbegriffe.3.2. Graphische Darstellungen.3.3. Charakteristische Parameter einer Häufigkeitsverteilung.3.4. Gesetz der Statistik.4. Informationstheorie.4.1. Definitionen.4.2. Abzählung der verschiedenen möglichen Nachrichten.4.3. Die Entropie.4.4. Codierung und Übertragung der Information.5. Fehler erkennende und Fehler korrigierende Codes.5.1. Allgemeines über Codierung.5.2. Lineare Codes.5.3. Zyklische binäre Codes.5.4. Verkettete Codes.1. Zerlegung von a und b in Primfaktoren.3. Mögliche Werte von n.4. Spezialfall.5. Beispiele.Anhang 2: Codierung numerischer Informationen — Die wichtigsten Codes.1. Änderung der Basis und Codierung.2. Binärcodierung einer Dezimalzahl.3. Die wichtigsten binären Codes.3.1. Codes mit Gewichten.3.1.1. Reiner Binärcode.3.1.2. Neuner-Komplement.3.1.3. Code mit den Gewichten 2, 4, 2, 1..3.1.4. Code mit den Gewichten 5, 4, 2,1..3.2. Codes ohne Gewichte.3.2.1. Drei-Exzeß-Code.3.2.2. Reflexiver Binärcode.3.2.3. Binärer Code, bei dem jede Folge wenigstens eine und höchstens zwei Einsen enthält.4. Fehler erkennende Codes oder redundante Codes.4.1. Der biquinäre Code.4.2. „Zwei aus Fünf“-Codes.Anhang 3: Codes die besonderen Erfordernissen entsprechen.1. Ein Code, der es gestattet, einen einzelnen Fehler oder eine Vertauschung zweier Ziffern in einer Zahl mit der Basis b zu erkennen.1.1. Fehlererkennung und Fehlerkorrektur.1.1.1. Fehlererkennung.1.1.2. Korrektur eines Fehlers.1.1.3. Beispiele.1.2. Erkennung vonzwei Arten von Fehlern.1.2.1. Arten von Fehlern die erkannt werden.1.2.2. Erkennung von Fehlern und die Kontrollzahl.1.2.3. Darstellung der Kontrollzahl.1.2.4. Praktische Methode zur Berechnung der Kontrollzahl S.2. Codes, die es gestatten, Fehlergruppen zu korrigieren (Telegraphische Übertragung).2.1. Eigenschaften systematischer Codes.2.2. Korrektur der Fehlergruppen.2.4. Beispiel.3. Ein Code, der es gestattet, einen einfachen Fehler zu korrigieren, der nacheinander an derselben Stelle in den Teilen einer Nachricht auftritt.3.1. Restklassen modulo p.3.2. Fehlererkennung und -korrektur.3.3. Beispiele.Anhang 4: Vektoren und Matrizen — Der n-dimensionale Vektorraum.1. Struktur des Vektorraumes.2. Unterräume.3. Lineare Unabhängigkeit von Unterräumen.4. Die Basis eines Vektorraumes.5. Rang einer Menge von p Vektoren in einem Unterraum F von E.6. Matrizen, die ein Vektorsystem darstellen.7. Kanonische Form einer (m, n)-Matrix.8. Matrizenoperationen zur Reduktion einer regulären Matrix auf ihre kanonische Form.9. Orthogonale Unterräume.10. Charakteristische Gleichung einer Matrix.Anhang 5: Auszüge aus Tafeln.Tafel 1. Binominalverteilung.Tafel 1.1. Binominalkoeffizienten C(math) für n= 2 bis 15.Tafel 1.2. Wahrscheinlichkeitsverteilung.Tafel 2. Poisson-Verteilung.Tafel 3. Normalverteilung.Tafel 3.1. Wahrscheinlichkeitsdichte S(u).Tafel 3.2. Verteilungsfunktion ø(u).Tafel 3.3. Irrtumswahrscheinlichkeiten.Tafel 4. Logarithmen mit der Basis 2.Schrifttumsverzeichnis.Statistische Tafeln.Zusätzliche Literatur.