À retenir
- Elle mesure l'imprévisibilité d'un événement.
- L'unité de mesure de base est le bit.
- Plus un message est redondant, moins il contient d'information utile par unité de stockage.
La quantité d'information est une mesure qui indique le degré de surprise ou d'incertitude associé à un message ou un événement. Plus un événement est rare ou imprévisible, plus son annonce apporte une grande quantité d'information. Par exemple, apprendre qu'il neige en plein été apporte beaucoup plus d'information que d'apprendre que le soleil s'est levé ce matin.
Étymologie
Cette locution trouve ses racines dans les travaux de Claude Shannon à la fin des années 1940, fondateur de la théorie de l'information. Elle combine le concept mathématique de mesure (quantité) avec celui de réduction de l'incertitude (information).
Exemples d'usage
- Le résultat d'un pile ou face : comme il n'y a que deux possibilités égales, la quantité d'information est de 1 bit.
- Un mot de passe complexe : il contient une grande quantité d'information car chaque caractère est difficile à deviner par rapport à une suite logique comme "12345".
- Un fichier texte rempli uniquement de la lettre "A" : sa quantité d'information réelle est très faible car le contenu est totalement prévisible.
Cas d'usage
Ce concept est fondamental dans la compression de données (éliminer ce qui est prévisible), en cryptographie (rendre l'information la plus imprévisible possible) et dans les réseaux pour calculer la capacité maximale de transmission d'un canal.
Bonnes pratiques
Il ne faut pas confondre la taille d'un fichier (le nombre d'octets sur le disque) avec sa quantité d'information réelle. Un fichier peut être très lourd mais contenir peu d'information s'il est très répétitif. C'est d'ailleurs ce qui permet aux logiciels comme ZIP ou WinRAR de réduire la taille des fichiers sans perdre de données.
Synonymes
Antonymes
Conseil
Pour bien comprendre, visualisez l'information comme le nombre minimal de questions (auxquelles on répond par oui ou par non) qu'il faudrait poser pour deviner un résultat. Plus il faut poser de questions, plus la quantité d'information est élevée.
Questions fréquentes
Quelle est l'unité de la quantité d'information ?
L'unité la plus courante est le bit (binary digit), qui correspond au choix entre deux possibilités identiques (0 ou 1, oui ou non).
Pourquoi dit-on qu'un événement certain n'apporte aucune information ?
Si vous savez déjà qu'un événement va se produire à 100%, son annonce ne vous apprend rien de nouveau, la surprise est nulle, donc l'information est de zéro.