Schema zur Übermittlung von Informationen über verschiedene technische Kanäle. Übertragung von Informationen Kodierung und Dekodierung von Informationen

Der Prozess der Informationsübertragung ist in der Abbildung schematisch dargestellt. Es wird davon ausgegangen, dass es eine Quelle und einen Empfänger von Informationen gibt. Die Nachricht von der Quelle zum Empfänger wird über einen Kommunikationskanal (Informationskanal) übermittelt.

Reis. 3. – Informationsübertragungsprozess

Dabei werden Informationen in Form einer bestimmten Abfolge von Signalen, Symbolen, Zeichen dargestellt und übermittelt. Während eines direkten Gesprächs zwischen Menschen werden beispielsweise Tonsignale übertragen – Sprache; beim Lesen eines Textes nimmt eine Person Buchstaben wahr – grafische Symbole. Die übertragene Sequenz wird als Nachricht bezeichnet. Von der Quelle zum Empfänger wird die Nachricht über ein materielles Medium übertragen (Schall – akustische Wellen in der Atmosphäre, Bild – elektromagnetische Lichtwellen). Sofern bei der Übermittlung technische Kommunikationsmittel zum Einsatz kommen, werden diese aufgerufen Informationsübertragungskanäle(Informationskanäle). Dazu gehören Telefon, Radio, Fernsehen.

Wir können sagen, dass die menschlichen Sinne als biologische Informationskanäle fungieren. Mit ihrer Hilfe wird die Informationswirkung auf eine Person ins Gedächtnis übertragen.

Claude Shannon Es wurde ein Diagramm des Prozesses der Informationsübertragung über technische Kommunikationskanäle vorgeschlagen, das in der Abbildung dargestellt ist.

Reis. 4. – Shannon-Informationsübertragungsprozess

Die Funktionsweise eines solchen Schemas kann am Telefongespräch erklärt werden. Die Informationsquelle ist die sprechende Person. Das Kodierungsgerät ist ein Telefonhörermikrofon, mit dessen Hilfe Schallwellen (Sprache) in elektrische Signale umgewandelt werden. Der Kommunikationskanal ist das Telefonnetz (Kabel, Schalter von Telefonknoten, durch die das Signal geleitet wird)). Das Dekodiergerät ist der Hörer (Kopfhörer) der zuhörenden Person – der Informationsempfänger. Hier wird das eingehende elektrische Signal in Ton umgewandelt.

Kommunikation, bei der die Übertragung kontinuierlich erfolgt elektrisches Signal, nennt man analoge Kommunikation.

Unter Codierung bezieht sich auf jede Umwandlung von Informationen aus einer Quelle in eine Form, die für die Übertragung über einen Kommunikationskanal geeignet ist.

Derzeit ist die digitale Kommunikation weit verbreitet, bei der die übertragenen Informationen in binärer Form kodiert werden (0 und 1 sind Binärziffern) und dann in Text, Bild und Ton dekodiert werden. Digitale Kommunikation ist diskret.

Unter dem Begriff „Rauschen“ versteht man verschiedene Arten von Störungen, die das übertragene Signal verzerren und zu Informationsverlusten führen. Solche Störungen entstehen vor allem aus technischen Gründen: schlechte Qualität der Kommunikationsleitungen, Unsicherheit verschiedener Informationsströme, die über dieselben Kanäle voneinander übertragen werden. In solchen Fällen ist Lärmschutz erforderlich.

Zunächst gelten sie technische Methoden Schutz der Kommunikationskanäle vor Lärm. Verwenden Sie beispielsweise ein abgeschirmtes Kabel anstelle eines blanken Drahtes. die Verwendung verschiedener Arten von Filtern, die das Nutzsignal vom Rauschen usw. trennen.

Claude Shannon entwickelte eine spezielle Codierungstheorie, die Methoden zum Umgang mit Rauschen bereitstellt. Eine der wichtigen Ideen dieser Theorie ist, dass der über die Kommunikationsleitung übertragene Code redundant sein muss. Dadurch kann der Verlust eines Teils der Informationen während der Übertragung ausgeglichen werden.

Allerdings sollte die Redundanz nicht zu groß sein. Dies wird zu Verzögerungen und erhöhten Kommunikationskosten führen. Die Codierungstheorie von K. Shannon ermöglicht es uns, einen optimalen Code zu erhalten. In diesem Fall ist die Redundanz der übertragenen Informationen möglichst gering und die Zuverlässigkeit der empfangenen Informationen maximal.

In modernen digitalen Kommunikationssystemen wird häufig die folgende Technik eingesetzt, um dem Informationsverlust während der Übertragung entgegenzuwirken. Die gesamte Nachricht ist in Abschnitte – Blöcke – unterteilt. Für jeden Block wird eine Prüfsumme (die Summe der Binärziffern) berechnet und zusammen mit dem Block übertragen. An der Empfangsstelle wird die Prüfsumme des empfangenen Blocks neu berechnet, und wenn sie nicht mit der ursprünglichen übereinstimmt, wird die Übertragung dieses Blocks wiederholt. Dies geschieht so lange, bis die Prüfsummen von Quelle und Ziel übereinstimmen.

Informationsübertragungsrate ist die Informationsmenge einer pro Zeiteinheit übertragenen Nachricht. Einheiten zur Messung der Geschwindigkeit des Informationsflusses: Bit/s, Byte/s usw.

Für technische Inf(Telefonleitungen, Funkkommunikation, Glasfaserkabel) gilt eine sogenannte Geschwindigkeitsbegrenzung für die Datenübertragung Informationskanalkapazität. Beschränkungen der Übertragungsgeschwindigkeit sind physikalischer Natur.

Finden Sie mithilfe von Internetressourcen Antworten auf die Fragen:

Übung 1

1. Wie läuft die Übermittlung von Informationen ab?

Übermittlung von Informationen- der physische Prozess, durch den Informationen übertragen werden im Weltraum. Wir haben die Informationen auf einer Diskette aufgezeichnet und sie in einen anderen Raum verschoben. Dieser Prozess ist durch das Vorhandensein folgender Komponenten gekennzeichnet:

Basierend auf der Art des Verbreitungsmediums werden die Kommunikationskanäle unterteilt in:

Telekommunikation(griech. tele – in die Ferne, weit weg und lat. communicatio – Kommunikation) ist die Übertragung und der Empfang beliebiger Informationen (Ton, Bild, Daten, Text) über eine Distanz über verschiedene elektromagnetische Systeme (Kabel- und Glasfaserkanäle, Funkkanäle). und andere drahtgebundene und drahtlose Kommunikationskanäle).

Telekommunikationsnetz ist ein System technischer Mittel, mit denen Telekommunikation durchgeführt wird.

Zu den Telekommunikationsnetzen gehören:
1. Computernetzwerke (zur Datenübertragung)
2. Telefonnetze (Übertragung von Sprachinformationen)
3. Funknetze (Übertragung von Sprachinformationen – Rundfunkdienste)
4. Fernsehsender (Sprach- und Bildübertragung – Rundfunkdienste)

Computer-Telekommunikation ist eine Telekommunikation, deren Endgeräte Computer sind.

Die Übertragung von Informationen von Computer zu Computer wird als synchrone Kommunikation bezeichnet und erfolgt über einen zwischengeschalteten Computer, der es ermöglicht, Nachrichten zu sammeln und an diesen zu übertragen persönliche Computer wie vom Benutzer gewünscht - asynchron.

Computer-Telekommunikation wird zunehmend in die Bildung eingeführt. Im Hochschulbereich dienen sie der Koordinierung wissenschaftlicher Forschung, dem schnellen Informationsaustausch zwischen Projektteilnehmern, Fernunterricht und Beratungen. Im schulischen Bildungssystem – zur Steigerung der Effizienz selbständige Tätigkeit Studenten, die mit einer Vielzahl von Typen verbunden sind kreative Arbeiten, einschließlich Bildungsaktivitäten, basierend auf dem weit verbreiteten Einsatz von Forschungsmethoden, freiem Zugang zu Datenbanken, Informationsaustausch mit Partnern im In- und Ausland.

Die Geschwindigkeit der Informationsübertragung hängt weitgehend von der Geschwindigkeit ihrer Erstellung (Quellenleistung) sowie den Kodierungs- und Dekodierungsmethoden ab. Die höchstmögliche Informationsübertragungsgeschwindigkeit in einem bestimmten Kanal wird als Durchsatz bezeichnet. Die Kanalkapazität ist per Definition die Geschwindigkeit der Informationsübertragung bei Verwendung der „besten“ (optimalen) Quelle, des besten Encoders und Decoders für einen bestimmten Kanal, sie charakterisiert also nur den Kanal.

Heutzutage verbreiten sich Informationen so schnell, dass nicht immer genug Zeit bleibt, sie zu verstehen. Die meisten Menschen denken selten darüber nach, wie und mit welchen Mitteln sie übermittelt werden, geschweige denn, dass sie sich ein Schema für die Übermittlung von Informationen vorstellen können.

Grundlegendes Konzept

Unter Informationsübertragung versteht man den physikalischen Vorgang der Bewegung von Daten (Zeichen und Symbolen) im Raum. Aus datentechnischer Sicht handelt es sich um eine vorgeplante, technisch ausgestattete Veranstaltung zum Übertragen von Informationseinheiten Zeit einstellen von der sogenannten Quelle zum Empfänger über einen Informationskanal bzw. Datenübertragungskanal.

Ein Datenübertragungskanal ist eine Reihe von Mitteln oder Medien zur Datenverteilung. Mit anderen Worten ist dies der Teil des Informationsübertragungskreislaufs, der die Übertragung von Informationen von der Quelle zum Empfänger und unter bestimmten Bedingungen auch zurück gewährleistet.

Es gibt viele Klassifizierungen von Datenübertragungskanälen. Wenn wir die wichtigsten hervorheben, können wir Folgendes auflisten: Funkkanäle, optisch, akustisch oder drahtlos, kabelgebunden.

Technische Kanäle zur Übermittlung von Informationen

Zu den technischen Datenübertragungskanälen zählen direkt Funkkanäle, Glasfaserkanäle und Kabel. Das Kabel kann koaxial oder verdrillt sein. Ersteres ist ein elektrisches Kabel mit einem Kupferdraht im Inneren, letzteres schon verdrillte Paare paarweise isolierte Kupferdrähte, die sich in einer dielektrischen Hülle befinden. Diese Kabel sind sehr flexibel und einfach zu verwenden. Lichtwellenleiter bestehen aus optischen Fasersträngen, die Lichtsignale durch Reflexion übertragen.

Die Hauptmerkmale sind Durchsatz und Störfestigkeit. Unter Bandbreite versteht man üblicherweise die Menge an Informationen, die über einen Kanal übertragen werden kann bestimmte Zeit. Und die Störfestigkeit ist der Parameter für die Widerstandsfähigkeit eines Kanals gegenüber externen Störungen (Rauschen).

Datenübertragung verstehen

Wenn Sie den Geltungsbereich nicht angeben, allgemeines Schema Die Informationsübertragung sieht einfach aus, sie besteht aus drei Komponenten: „Quelle“, „Empfänger“ und „Übertragungskanal“.

Shannon-Schema

Claude Shannon, ein amerikanischer Mathematiker und Ingenieur, war der Begründer der Informationstheorie. Sie schlugen ein Schema zur Übermittlung von Informationen über technische Kommunikationskanäle vor.

Dieses Diagramm ist nicht schwer zu verstehen. Vor allem, wenn man sich seine Elemente in Form bekannter Objekte und Phänomene vorstellt. Die Informationsquelle ist beispielsweise eine Person, die telefoniert. Das Mobilteil ist ein Encoder, der Sprach- oder Schallwellen in elektrische Signale umwandelt. Der Datenübertragungskanal sind in diesem Fall die Kommunikationsknoten, im Allgemeinen das gesamte Telefonnetz, das von einem Telefonapparat zum anderen führt. Das Dekodiergerät ist das Mobilteil des Teilnehmers. Es wandelt das elektrische Signal wieder in Schall, also in Sprache, um.

In diesem Diagramm des Informationsübertragungsprozesses werden Daten als kontinuierliches elektrisches Signal dargestellt. Diese Art der Kommunikation wird als analog bezeichnet.

Codierungskonzept

Unter Codierung versteht man die Umwandlung von Informationen, die von einer Quelle gesendet werden, in eine Form, die für die Übertragung über den verwendeten Kommunikationskanal geeignet ist. Das verständlichste Beispiel für eine Codierung ist der Morsecode. Darin werden Informationen in eine Folge von Punkten und Strichen, also kurze und lange Signale, umgewandelt. Die empfangende Seite muss diese Sequenz dekodieren.

Moderne Technologien nutzen digitale Kommunikation. Darin werden Informationen in binäre Daten, also 0 und 1, umgewandelt (kodiert). Es gibt sogar ein binäres Alphabet. Eine solche Verbindung wird als diskret bezeichnet.

Störungen in Informationskanälen

Es gibt auch Rauschen in der Datenübertragungsschaltung. Der Begriff „Rauschen“ bedeutet in diesem Fall Störungen, durch die das Signal verzerrt wird und dadurch verloren geht. Die Gründe für den Eingriff können vielfältig sein. Beispielsweise können Informationskanäle schlecht voreinander geschützt sein. Zur Vermeidung von Störungen werden verschiedene technische Schutzmaßnahmen, Filter, Abschirmungen etc. eingesetzt.

K. Shannon entwickelte und schlug eine Kodierungstheorie zur Lärmbekämpfung vor. Da der Informationsverlust unter dem Einfluss von Rauschen auftritt, bedeutet dies, dass die übertragenen Daten redundant sein sollten, gleichzeitig aber nicht so sehr, dass dadurch die Übertragungsgeschwindigkeit verringert wird.

In digitalen Kommunikationskanälen werden Informationen in Teile – Pakete – aufgeteilt, für die jeweils eine Prüfsumme berechnet wird. Dieser Betrag wird zusammen mit jedem Paket überwiesen. Der Informationsempfänger berechnet diese Summe neu und akzeptiert das Paket nur, wenn es mit dem Original übereinstimmt. Andernfalls wird das Paket erneut gesendet. Und so weiter, bis die gesendeten und empfangenen Prüfsummen übereinstimmen.

Allgemeines Schema zur Übertragung von Informationen in einer Kommunikationsleitung

Bisher wurde die Informationsquelle als ein Objekt oder Subjekt definiert, das Informationen generiert und die Fähigkeit besitzt, diese in Form einer Nachricht darzustellen, d. h. Signalfolgen in einem materiellen Medium. Mit anderen Worten: Die Quelle verbindet Informationen mit ihrem materiellen Träger. Die Übertragung einer Nachricht von der Quelle zum Empfänger ist immer mit einem instationären Prozess verbunden, der in der materiellen Umgebung abläuft. Diese Bedingung ist zwingend, da Information selbst kein materieller Gegenstand oder eine Existenzform der Materie ist. Es gibt viele Möglichkeiten, Informationen zu übertragen: Post, Telefon, Radio, Fernsehen, Computernetzwerke usw. Bei all der Vielfalt spezifischer Implementierungen von Kommunikationsmethoden ist es jedoch möglich, darin gemeinsame Elemente zu identifizieren, die im Diagramm dargestellt sind (Abb . 9).

Es ist möglich, dass das Kodiergerät in Bezug auf die Informationsquelle extern ist, beispielsweise ein Telegrafengerät oder Computer in Bezug auf den daran arbeitenden Bediener. Als nächstes müssen die Codes in eine Folge materieller Signale übersetzt, also auf einem materiellen Medium platziert werden – dieser Vorgang wird von einem Konverter durchgeführt. Der Konverter kann mit einem Verschlüsselungsgerät (z. B. einem Telegraphengerät) kombiniert werden.

Reis. 9.

Kommunikation kann auch ein unabhängiges Element einer Kommunikationsleitung sein (z. B. ein Modem, das diskrete elektrische Signale mit einer Computerfrequenz in analoge Signale mit einer Frequenz umwandelt, bei der ihre Dämpfung in Telefonleitungen minimal ist). Zu den Wandlern gehören auch Geräte, die eine Nachricht von einem Medium auf ein anderes übertragen, beispielsweise ein Megaphon oder Telefon, das Sprachsignale in elektrische Signale umwandelt; ein Funksender, der Sprachsignale in Funkwellen umwandelt; eine Fernsehkamera, die Bilder in eine Folge elektrischer Impulse umwandelt. Im Allgemeinen geben Ausgangssignale bei der Konvertierung nicht alle Merkmale der Eingangsnachricht vollständig wieder, sondern nur deren wesentliche Aspekte, d. h. bei der Konvertierung geht ein Teil der Informationen verloren. Beispielsweise liegt die Frequenzbandbreite für Telefonkommunikation zwischen 300 und 3400 Hz, während die vom menschlichen Ohr wahrgenommenen Frequenzen im Bereich von 16 bis 20.000 Hz liegen (d. h. Telefonleitungen sind „abgeschnitten“) hohe Frequenzen, was zu Klangverzerrungen führt); Beim Schwarzweißfernsehen geht bei der Konvertierung die Farbe des Bildes verloren. In diesem Zusammenhang stellt sich die Aufgabe, ein Verfahren zur Kodierung von Nachrichten zu entwickeln, das bei der Konvertierung eine möglichst vollständige Darstellung der ursprünglichen Informationen bietet und gleichzeitig mit der Geschwindigkeit der Informationsübertragung über eine bestimmte Kommunikationsleitung im Einklang steht.

Nach dem Konverter treffen die Signale ein und breiten sich dort aus Kommunikationskanal. Das Konzept des „Kommunikationskanals“ umfasst materielle Umgebung, und auch körperlich oder andere Verfahren, durch die eine Nachricht übertragen wird, also die Ausbreitung von Signalen im Raum über die Zeit. Tabelle 10 zeigt Beispiele einiger Kommunikationskanäle.

Jeder reale Kommunikationskanal unterliegt äußeren Einflüssen; in ihm können auch interne Prozesse ablaufen, wodurch die übertragenen Signale und damit die damit verbundene Nachricht verzerrt werden. Solche Einflüsse nennt man Lärm (Interferenz). Störquellen können externe sein,

Verbindungskanäle

Tabelle 10

Nachdem die Nachricht den Kommunikationskanal durchlaufen hat, werden die Signale mithilfe eines Empfangskonverters in eine Folge von Codes umgewandelt, die von der Dekodiervorrichtung in der vom Informationsempfänger benötigten Form präsentiert werden. Sowohl beim Empfang als auch beim Senden kann der Konverter mit einem Dekodiergerät (z. B. einem Radio oder Fernseher) kombiniert werden oder unabhängig vorhanden sein (z. B. ein Modem).

Das Konzept der „Kommunikationslinie“ vereint alle im Diagramm dargestellten Elemente – von der Informationsquelle bis zum Informationsempfänger. Die Merkmale jeder Kommunikationsleitung sind die Geschwindigkeit, mit der eine Nachricht über sie übertragen werden kann, sowie der Grad der Nachrichtenverzerrung während der Übertragung. Aus diesen Parametern isolieren wir diejenigen, die sich direkt auf den Kommunikationskanal beziehen, also die Umgebung und den Übertragungsprozess charakterisieren.

Eigenschaften des Kommunikationskanals

Als nächstes betrachten wir Kommunikationskanäle, über die Nachrichten mithilfe elektrischer Impulse übertragen werden. Aus praktischer Sicht sowie für Computerkommunikationsleitungen sind diese Kanäle von größtem Interesse.

Bandbreite

Jeder Wandler, dessen Funktionsweise auf der Nutzung von Schwingungen (elektrisch oder mechanisch) basiert, kann Signale aus einem begrenzten Frequenzbereich erzeugen und übertragen. (Ein Beispiel für die Telefonkommunikation wurde oben gegeben.) Das Gleiche gilt für die Radio- und Fernsehkommunikation: Das gesamte Frequenzspektrum ist in Bereiche (LW, MW, KBI, KVP, VHF, DM V) unterteilt, innerhalb derer sich jeder Sender befindet ein eigenes Subband, damit die Ausstrahlung anderer nicht beeinträchtigt wird.

Der Frequenzbereich, den ein bestimmter Kommunikationskanal zur Übertragung von Signalen verwendet, wird als Bandbreite bezeichnet.

Um eine Theorie aufzustellen, ist nicht die Bandbreite selbst wichtig, sondern der maximale Frequenzwert eines bestimmten Bandes (v m), da dieser die mögliche Geschwindigkeit der Informationsübertragung über den Kanal bestimmt.

Die Dauer eines Elementarimpulses lässt sich aus folgenden Überlegungen ermitteln. Ändert sich der Signalparameter sinusförmig, dann, wie aus der Abbildung ersichtlich, in einer Schwingungsperiode T Das Signal hat einen Maximalwert und einen Minimalwert.

Reis. 10.

Wenn wir eine Sinuskurve annähern Rechteckimpulse und verschieben Sie den Referenzpunkt auf das Niveau des Minimalwerts. Es stellt sich heraus, dass das Signal nur zwei Werte annimmt: den Maximalwert (bezeichnen wir ihn). „1“)- Impuls, Minimum (kann benannt werden "UM")- Pause. Ein Impuls und eine Pause können als elementare Signale betrachtet werden; Mit der gewählten Näherung sind ihre Dauern offensichtlich gleich und gleich:

Die Impulse werden von einem Taktgenerator mit einer Frequenz erzeugt vm, Das

So können Sie alle 0 Sekunden einen Impuls oder eine Pause senden und bestimmte Codes mit ihrer Reihenfolge verknüpfen. Grundsätzlich ist es möglich, Signale mit einer längeren Dauer als t 0 (z. B. 2 t 0) zu verwenden – dies führt nicht zu Informationsverlusten, verringert jedoch die Übertragungsgeschwindigkeit über den Kanal. Die Verwendung von Signalen, die kürzer als t 0 sind, kann zu Informationsverlusten führen, da die Signale dann einige Zwischenwerte zwischen Minimum und Maximum annehmen, was ihre Interpretation erschwert.

Also, v m bestimmt die Dauer eines Elementarsignals t 0, wird verwendet, um eine Nachricht zu übermitteln.

Kapazität des Kommunikationskanals

Wenn die Übertragung eines Impulses mit der Informationsmenge 1. tr verbunden ist, wird diese rechtzeitig übertragen t 0, Verhältnis I zu t 0, Offensichtlich spiegelt es die durchschnittliche Informationsmenge wider, die pro Zeiteinheit über den Kanal übertragen wird. Dieser Wert ist ein Merkmal des Kommunikationskanals und wird als Kanalkapazität C bezeichnet:

Wenn G tr ausgedrückt in Bits und t 0 - in Sekunden, dann ist die Maßeinheit C bps Früher hieß eine solche Einheit Baud, aber der Name blieb nicht hängen, und aus diesem Grund wird der Durchsatz eines Kommunikationskanals in Bits/s gemessen. Abgeleitete Einheiten sind:

• 1 Kbit/s = 10 3 Bit/s,
• 1 Mbit/s = 10 6 Bit/s,
• 1 Gbit/s = 10 9 Bit/s.

Informationsübertragungsrate

Lassen Sie den Kommunikationskanal rechtzeitig durch T Menge der übertragenen Informationen I. Sie können einen Wert einführen, der die Geschwindigkeit der Informationsübertragung charakterisiert – Informationsübertragungsgeschwindigkeit J:

Abmessungen J, ist wie C Bit/s. Welcher Zusammenhang besteht zwischen diesen Merkmalen? Da m 0 die minimale Dauer eines Elementarsignals ist, ist es offensichtlich, dass C der maximalen Geschwindigkeit der Informationsübertragung über eine gegebene Kommunikationsleitung entspricht, d.h. J J max Somit, maximale Geschwindigkeit Die Übertragung von Informationen über einen Kommunikationskanal entspricht seinem Durchsatz.

Entropie und Information

Zufällige Ereignisse können mit dem Konzept der „Wahrscheinlichkeit“ beschrieben werden. Die Beziehungen der Wahrscheinlichkeitstheorie ermöglichen es, die Wahrscheinlichkeiten sowohl einzelner Zufallsereignisse als auch komplexer Experimente zu finden (zu berechnen), die mehrere unabhängige oder miteinander verbundene Ereignisse kombinieren. Zufällige Ereignisse können jedoch nicht nur durch Wahrscheinlichkeiten beschrieben werden.

Die Tatsache, dass ein Ereignis zufällig ist, bedeutet, dass es keine vollständige Sicherheit seines Eintretens gibt, was wiederum zu Unsicherheit in den Ergebnissen von Experimenten im Zusammenhang mit diesem Ereignis führt. Natürlich variiert der Grad der Unsicherheit je nach Situation. Wenn das Experiment beispielsweise darin besteht, das Alter eines zufällig ausgewählten Vollzeitstudenten im ersten Jahr an einer Universität zu bestimmen, können wir mit hoher Sicherheit sagen, dass er weniger als 30 Jahre alt sein wird; Obwohl je nach Situation auch Personen unter 35 Jahren ein Vollzeitstudium absolvieren können, studieren am häufigsten Absolventen der weiterführenden Schulen in Vollzeit. Eine ähnliche Erfahrung ist weitaus weniger sicher, wenn geprüft wird, ob das Alter eines zufällig ausgewählten Schülers unter 18 Jahren liegt. Für die Praxis ist es wichtig, die Unsicherheit verschiedener Experimente numerisch abschätzen zu können. Versuchen wir, ein solches quantitatives Maß für die Unsicherheit einzuführen.

Beginnen wir mit einer einfachen Situation, in der Erfahrung vorhanden ist P gleich wahrscheinliche Ergebnisse. Offensichtlich hängt die Unsicherheit jedes einzelnen von ihnen davon ab P, d.h. Das Maß der Unsicherheit ist eine Funktion der Anzahl der Ergebnisse f(n).

Sie können einige angeben Eigenschaften diese Funktion:

• 1. f(l)= 0, weil bei n = 1 Das Ergebnis des Experiments ist nicht zufällig und daher besteht keine Unsicherheit.
• 2. f(n) nimmt mit dem Wachstum zu P, Denn je größer die Anzahl möglicher Ergebnisse ist, desto schwieriger wird es, den Ausgang eines Experiments vorherzusagen.

Maßeinheit der Unsicherheit für zwei mögliche gleichwahrscheinliche Werte

Das Ergebnis des Experiments wird als Bit bezeichnet.

Es wurde eine explizite Form der Funktion etabliert, die das Maß der Unsicherheit des Experiments beschreibt P gleich wahrscheinliche Ergebnisse:

Diese Menge heißt Entropie. IN im Folgenden werden wir es bezeichnen N.Stellungnahme.Entropie ist gleich der darin enthaltenen Erfahrungsinformation.

Sie können Folgendes klären:

Die Entropie einer Erfahrung entspricht der Information, die wir als Ergebnis ihrer Umsetzung erhalten.

Informationseigenschaften:

• 1. /(a,P) > 0 und /(a,|3) = 0 sind die Experimente unabhängig.
• 2. /(a,p) = /(P,a), d. h. die Informationen sind symmetrisch bezüglich der Versuchsfolge.

3. 5, d. h. die Informationen einer Erfahrung entsprechen dem Durchschnittswert der Informationsmenge, die in einem ihrer Ergebnisse enthalten ist.

Leicht zu haben Folgerung der Formel für den Fall, dass

Alle P Ergebnisse sind gleichermaßen wahrscheinlich. In diesem Fall alles und deshalb

Diese Formel wurde 1928 von einem amerikanischen Ingenieur abgeleitet R. Hartley und trägt seinen Namen. Es gibt die Anzahl der gleichwahrscheinlichen Zustände an (P) und die Menge an Informationen in der Nachricht (/), dass einer dieser Zustände aufgetreten ist. Seine Bedeutung ist, dass wenn eine Menge enthält P Elemente und x gehören zu dieser Menge. Um sie unter anderem zu isolieren (eindeutige Identifizierung), ist eine Informationsmenge von log 2 „ erforderlich.

Ein besonderer Anwendungsfall der Hartley-Formel ist die Situation, wenn P= 2 k. Wenn wir diesen Wert in Hartleys Formel einsetzen, erhalten wir offensichtlich:

Shannons Formel

Bekannte Wahrscheinlichkeiten , mit dem das System einen seiner Zustände einnimmt

- Shannons Formel - Entropie des Systems - Formel zur Messung der Informationsmenge.

Eigenschaften der Entropie

2. . (Hartley-Formel)

Dies ist ein Fall maximaler Entropie.

Shannons erster Satz.

Ohne Interferenz ist es immer möglich, eine Nachricht so zu kodieren, dass die Coderedundanz beliebig nahe bei Null liegt.

Shannons zweiter Satz.

Bei der Übertragung von Informationen über einen verrauschten Kanal gibt es immer ein Codierungsverfahren, bei dem die Nachricht mit beliebig hoher Zuverlässigkeit übertragen wird, wenn die Übertragungsgeschwindigkeit die Kanalkapazität nicht überschreitet.