Codage de
l'information
A. Types d'information
Les informations transmises peuvent être réparties en deux grandes catégories selon :
- l'élément qu'elles représentent
- et les traitements subis dans les systèmes informatiques.
On distingue :
- les données discrètes,
- les données analogiques ou continues.
1. Données discrètes
Dans les données discrètes, l'information correspond à l'assemblage d'une suite d'éléments
indépendants les uns des autres (suite discontinue de valeurs) et dénombrables (ensemble
fini).
Par exemple, un texte est une association de mots eux-mêmes composés de lettres (symboles
élémentaires).
2. Données continues
Les données continues ou analogiques résultent de la variation continue d'un phénomène
physique : température, voix, image...
Un signal analogique est un signal qui varie de manière analogue au phénomène physique.
Un signal analogique peut prendre une infinité de valeurs dans un intervalle déterminé
(bornes).
Le traitement des informations par des équipements informatiques necessite de remplacer à
chaque élément d'information une valeur binaire.
On parle alors de :
- codage de l'information (codage à la source) pour les informations discrètes
- et numérisation de l'information pour les informations analogiques.
B. Codage de l'information
Définition : Coder une information
Coder l'information consiste à faire correspondre (bijection) à chaque symbole d'un alphabet
(élément à coder) une représentation binaire (mot code). L'ensemble des mots codes constitue
le code.
4
Les informations à coder peuvent être des commandes d'une machine-outil ou des caractères
alphanumériques...
Les informations que nous codons dans la suite sont des caractères alphanumériques.
1-Différents types de code
Le codage des différents états d'un système peut s'envisager selon deux approches. La
première, la plus simple, considère que chacun des états du système est équiprobable. La
seconde prend en compte la fréquence d'apparition d'un état. Cette approche conduit à définir
deux types de code :
- les codes de longueur fixe ,
- et les codes de longueur variable.
2. Codes de longueur fixe
Chaque état du système est codé par un certain nombre de bits, appelé longueur du code,
longueur du mot code ou encore code à n moments.
Avec 1 bit on peut coder 2 états (0,1)
- Avec 2 bits on peut coder 4 états (00, 01, 10, 11)
- Avec 3 bits on peut coder 8 états (000, 001, 010, 011, 100, 101, 110, 111).
D'une manière générale :
Avec n bits on code 2^n états (^ est le symbole d'exposant).
Définition : 2.1. Puissance lexicographique
Le nombre d'états pouvant être codés par un code de n bits s'appelle puissance
lexicographique du code .
La puissance lexicographique se note P:
P=2^n.
2.2. Quantité d'information
Ce nombre de bits (n) représente la quantité d'information (Q) apportée par la connaissance
d'un état du système.
Lorsque dans un système, tous les états sont équiprobables, la quantité d'information
apportée par la connaissance d'un état est la même quel que soit l'état connu.
Si l'information est représentée par deux valeurs équiprobables (0 ou 1, pile ou face...), la
quantité d'information, exprimée en bit, est Q=1 bit (le logarithme à base 2 de 2 est égal à
1).
Lorsque tous les états ne sont pas équiprobables, la quantité d'information est d'autant
plus grande que la probabilité de réalisation de l'état est faible. Si p est la probabilité de
réalisation de l'état E,
3. Codes de longueur variable
Lorsque les états du système ne sont pas équiprobables, la quantité d'information apportée par
la connaissance d'un état est d'autant plus grande que cet état a une faible probabilité de se
réaliser.
3.1. Quantité moyenne d'information
La quantité moyenne d'information apportée par la connaissance d'un état, appelée entropie,
est donnée par la relation suivante :
pi représente la probabilité d'apparition du symbole de rang i.
L'entropie représente la longueur optimale du codage des symboles du système.
Exemple
Déterminons la longueur optimale du code pour le système décrit par le tableau ci-dessous.
Le code optimal utile déterminé avec la formule 1 est de 1,92 bit, alors que l'utilisation d'un
code à longueur fixe nécessite 3 bits pour coder les 6 états de ce système (2^2 < 6 <2^3).
3.2. Codage de Huffman
Le codage de Huffman prend en compte la fréquence d' apparition des états et se rapproche de
la longueur optimale.
Construction du code de Huffman:
1. lecture complète du fichier et création de la table des symboles ;
2. classement des symboles par ordre des fréquences décroissantes (occurrence);
3. réductions successives en rassemblant en une nouvelle occurrence les deux occurrences de
plus petite fréquence ;
4. l'occurrence obtenue est insérée dans la table et celle-ci est à nouveau triée par ordre
décroissant;
5. les réductions se poursuivent jusqu'à ce qu'il n'y ait plus d'élément ;
6. construire l'arbre binaire en reliant chaque occurrence à la racine ;
7. le codage consiste à lire l'arbre du sommet aux feuilles en attribuant par exemple la valeur
0 aux branches basses et 1 aux branches hautes.
II - Numérisation de
l'information
analogique
A. Principe de numérisation
Numériser une grandeur analogique consiste à transformer la suite continue de valeurs en une
suite discrète et finie. À cet effet, on prélève, à des instants significatifs, un échantillon du
signal et on exprime son amplitude par rapport à une échelle finie (quantification).
Le récepteur, à partir des valeurs transmises, reconstitue le signal d'origine. Une restitution
fidèle du signal nécessite que soient définis :
- l'intervalle d'échantillonnage qui doit être une constante du système (fréquence
d'échantillonnage);
- l'amplitude de l'échelle de quantification, celle-ci doit être suffisante pour reproduire la
dynamique du signal (différence d'amplitude entre la valeur la plus faible et la valeur la plus
forte);
- que chaque valeur obtenue soit codée.
1. Échantillonnage
L'échantillonnage consiste à prélever à intervalle régulier (période d'échantillonnage), une
fraction du signal (échantillon).
Plus la bande passante du signal est grande, plus il faut prendre d'échantillons par seconde.
La fréquence minimale d'échantillonnage (fréquence de Nyquist) d'un signal doit être le
double de la fréquence maximale du signal à échantillonner.
2. Quantification
La quantification suit l'échantillonnage. Elle consiste à faire correspondre à l'amplitude de
chaque échantillon une valeur (quantification).
Cela doit être effectué de telle sorte que la valeur des signaux ait le plus de signification
possible.
3. Codage
Le codage consiste à transformer la valeur obtenue après la quantification en valeur binaire
(codification).
Numérisation de la parole téléphonique
La numérisation de la parole téléphonique s'effectue au moyen de deux méthodes :
- PCM (Pulse Code Modulation), utilisée en Amérique avec un débit de sortie de 56 Kbit/s
- MIC (Modulation par Impulsion et Codage) en Europe avec un débit de sortie de 64 Kbit/s.
La fréquence d’échantillonnage normalisée est de 8 000 fois par seconde.
l'information
A. Types d'information
Les informations transmises peuvent être réparties en deux grandes catégories selon :
- l'élément qu'elles représentent
- et les traitements subis dans les systèmes informatiques.
On distingue :
- les données discrètes,
- les données analogiques ou continues.
1. Données discrètes
Dans les données discrètes, l'information correspond à l'assemblage d'une suite d'éléments
indépendants les uns des autres (suite discontinue de valeurs) et dénombrables (ensemble
fini).
Par exemple, un texte est une association de mots eux-mêmes composés de lettres (symboles
élémentaires).
2. Données continues
Les données continues ou analogiques résultent de la variation continue d'un phénomène
physique : température, voix, image...
Un signal analogique est un signal qui varie de manière analogue au phénomène physique.
Un signal analogique peut prendre une infinité de valeurs dans un intervalle déterminé
(bornes).
Le traitement des informations par des équipements informatiques necessite de remplacer à
chaque élément d'information une valeur binaire.
On parle alors de :
- codage de l'information (codage à la source) pour les informations discrètes
- et numérisation de l'information pour les informations analogiques.
B. Codage de l'information
Définition : Coder une information
Coder l'information consiste à faire correspondre (bijection) à chaque symbole d'un alphabet
(élément à coder) une représentation binaire (mot code). L'ensemble des mots codes constitue
le code.
4
Les informations à coder peuvent être des commandes d'une machine-outil ou des caractères
alphanumériques...
Les informations que nous codons dans la suite sont des caractères alphanumériques.
1-Différents types de code
Le codage des différents états d'un système peut s'envisager selon deux approches. La
première, la plus simple, considère que chacun des états du système est équiprobable. La
seconde prend en compte la fréquence d'apparition d'un état. Cette approche conduit à définir
deux types de code :
- les codes de longueur fixe ,
- et les codes de longueur variable.
2. Codes de longueur fixe
Chaque état du système est codé par un certain nombre de bits, appelé longueur du code,
longueur du mot code ou encore code à n moments.
Avec 1 bit on peut coder 2 états (0,1)
- Avec 2 bits on peut coder 4 états (00, 01, 10, 11)
- Avec 3 bits on peut coder 8 états (000, 001, 010, 011, 100, 101, 110, 111).
D'une manière générale :
Avec n bits on code 2^n états (^ est le symbole d'exposant).
Définition : 2.1. Puissance lexicographique
Le nombre d'états pouvant être codés par un code de n bits s'appelle puissance
lexicographique du code .
La puissance lexicographique se note P:
P=2^n.
2.2. Quantité d'information
Ce nombre de bits (n) représente la quantité d'information (Q) apportée par la connaissance
d'un état du système.
Lorsque dans un système, tous les états sont équiprobables, la quantité d'information
apportée par la connaissance d'un état est la même quel que soit l'état connu.
Si l'information est représentée par deux valeurs équiprobables (0 ou 1, pile ou face...), la
quantité d'information, exprimée en bit, est Q=1 bit (le logarithme à base 2 de 2 est égal à
1).
Lorsque tous les états ne sont pas équiprobables, la quantité d'information est d'autant
plus grande que la probabilité de réalisation de l'état est faible. Si p est la probabilité de
réalisation de l'état E,
3. Codes de longueur variable
Lorsque les états du système ne sont pas équiprobables, la quantité d'information apportée par
la connaissance d'un état est d'autant plus grande que cet état a une faible probabilité de se
réaliser.
3.1. Quantité moyenne d'information
La quantité moyenne d'information apportée par la connaissance d'un état, appelée entropie,
est donnée par la relation suivante :
pi représente la probabilité d'apparition du symbole de rang i.
L'entropie représente la longueur optimale du codage des symboles du système.
Exemple
Déterminons la longueur optimale du code pour le système décrit par le tableau ci-dessous.
Le code optimal utile déterminé avec la formule 1 est de 1,92 bit, alors que l'utilisation d'un
code à longueur fixe nécessite 3 bits pour coder les 6 états de ce système (2^2 < 6 <2^3).
3.2. Codage de Huffman
Le codage de Huffman prend en compte la fréquence d' apparition des états et se rapproche de
la longueur optimale.
Construction du code de Huffman:
1. lecture complète du fichier et création de la table des symboles ;
2. classement des symboles par ordre des fréquences décroissantes (occurrence);
3. réductions successives en rassemblant en une nouvelle occurrence les deux occurrences de
plus petite fréquence ;
4. l'occurrence obtenue est insérée dans la table et celle-ci est à nouveau triée par ordre
décroissant;
5. les réductions se poursuivent jusqu'à ce qu'il n'y ait plus d'élément ;
6. construire l'arbre binaire en reliant chaque occurrence à la racine ;
7. le codage consiste à lire l'arbre du sommet aux feuilles en attribuant par exemple la valeur
0 aux branches basses et 1 aux branches hautes.
II - Numérisation de
l'information
analogique
A. Principe de numérisation
Numériser une grandeur analogique consiste à transformer la suite continue de valeurs en une
suite discrète et finie. À cet effet, on prélève, à des instants significatifs, un échantillon du
signal et on exprime son amplitude par rapport à une échelle finie (quantification).
Le récepteur, à partir des valeurs transmises, reconstitue le signal d'origine. Une restitution
fidèle du signal nécessite que soient définis :
- l'intervalle d'échantillonnage qui doit être une constante du système (fréquence
d'échantillonnage);
- l'amplitude de l'échelle de quantification, celle-ci doit être suffisante pour reproduire la
dynamique du signal (différence d'amplitude entre la valeur la plus faible et la valeur la plus
forte);
- que chaque valeur obtenue soit codée.
1. Échantillonnage
L'échantillonnage consiste à prélever à intervalle régulier (période d'échantillonnage), une
fraction du signal (échantillon).
Plus la bande passante du signal est grande, plus il faut prendre d'échantillons par seconde.
La fréquence minimale d'échantillonnage (fréquence de Nyquist) d'un signal doit être le
double de la fréquence maximale du signal à échantillonner.
2. Quantification
La quantification suit l'échantillonnage. Elle consiste à faire correspondre à l'amplitude de
chaque échantillon une valeur (quantification).
Cela doit être effectué de telle sorte que la valeur des signaux ait le plus de signification
possible.
3. Codage
Le codage consiste à transformer la valeur obtenue après la quantification en valeur binaire
(codification).
Numérisation de la parole téléphonique
La numérisation de la parole téléphonique s'effectue au moyen de deux méthodes :
- PCM (Pulse Code Modulation), utilisée en Amérique avec un débit de sortie de 56 Kbit/s
- MIC (Modulation par Impulsion et Codage) en Europe avec un débit de sortie de 64 Kbit/s.
La fréquence d’échantillonnage normalisée est de 8 000 fois par seconde.
Commentaires
Enregistrer un commentaire