À retenir
- C'est l'unité de base de l'information liée à un choix entre deux possibilités égales.
- Il quantifie ce qu'on appelle l'entropie d'un message.
- C'est le fondement mathématique derrière la compression et la transmission de données modernes.
Le shannon est l'unité qui permet de mesurer la quantité d'information contenue dans un message ou un événement. Pour mieux comprendre, imaginez un lancer de pièce : comme il y a deux résultats possibles et identiques (pile ou face), connaître le résultat nous apporte exactement 1 shannon d'information.
Étymologie
Le terme vient du nom de Claude Shannon, un mathématicien et ingénieur américain considéré comme le père fondateur de la théorie de l'information. Il a formalisé ces concepts dans les années 1940 pour optimiser la transmission des messages sur les réseaux.
Exemples d'usage
- Le résultat d'un tirage au sort entre deux candidats (si chacun a 50 % de chances de gagner) représente 1 shannon.
- Un choix parmi quatre options équiprobables représente 2 shannons d'information (car il faut répondre à deux questions binaires pour trouver la solution).
- La mesure de l'incertitude dans un flux de données réseau.
Cas d'usage
On utilise ce concept principalement en théorie de l'information, en cryptographie pour mesurer le désordre (entropie) d'une clé de chiffrement, et dans la compression de données pour savoir jusqu'à quel point on peut réduire la taille d'un fichier sans perdre de contenu essentiel.
Bonnes pratiques
Il est important de ne pas confondre le shannon avec le bit de stockage informatique. Bien qu'ils soient souvent numériquement égaux dans un système binaire, le shannon est une unité de mesure de l'incertitude ou de la surprise, tandis que le bit est une unité de capacité physique de mémoire.
Synonymes
Conseil
Pour bien débuter, retenez que plus un événement est imprévisible, plus sa réalisation apporte de shannons. Si vous savez déjà ce qui va se passer, l'information apportée est de 0 shannon.
Questions fréquentes
Quelle est la différence entre un bit et un shannon ?
Dans le langage courant, on les confond souvent. Techniquement, le bit est le support (0 ou 1), alors que le shannon mesure la valeur informationnelle. Un bit qui vaut toujours 0 n'apporte aucun shannon d'information car il n'y a pas d'incertitude.
Un shannon peut-il être une valeur décimale ?
Oui, contrairement au bit physique, la quantité d'information calculée en shannons peut être un nombre à virgule (par exemple 1,58 shannons pour un choix entre trois options égales).