Aller au menu Aller au contenu
Une voie, plusieurs choix
Informatique et Mathématiques appliquées
Une voie, plusieurs choix

> Formation > Cursus ingénieur

Théorie de l'information - 3MMTINF

A+Augmenter la taille du texteA-Réduire la taille du texteImprimer le documentEnvoyer cette page par mail Partagez cet article Facebook Twitter Linked In Google+ Viadeo
  • Volumes horaires

    • CM : 16.5
    • TD : 16.5
    Crédits ECTS : 3.0

Objectifs

Fournir les notions théoriques de base pour la mesure quantitative de l’information (qu'est-ce qu'un bit d'information ?), sa représentation, son stockage, sa transmission, sa protection et sa dissimulation. Application à la compression sans perte, au codage correcteur, à la sécurité des transmissions et des contenus (stéganographie).

Contact Jean-Marc BROSSIER

Contenu

  • Incertitude et information. Entropies. L’entropie de Shannon et ses propriétés. Entropie de lois composées et transfert d'information.
  • Structure d'une chaîne de communication. Sources d'information et compression. Canaux, capacité et codage de canal.
  • Codage des sources discrètes. Equipartition asymptotique, notion de suite typique. Codes optimaux théoriques. Construction effective de codes optimaux.
  • Transmettre et stocker l'information. Canal discret (canal binaire symétrique). Codage de canal et second théorème de Shannon.
  • Codes détecteurs et correcteurs d’erreurs. Répétition et second théorème de Shannon. Codes détecteurs d’erreur. Codes correcteurs d’erreur. Codes en blocs linéaires. Distance de Hamming et distance Euclidienne. Décodage au sens du maximum de vraisemblance.
  • Quelques applications : Stéganographie, tatouage, fuite d'information et sécurité.


Prérequis

Probabilités discrètes.

Contrôles des connaissances

CONTRÔLE CONTINU :
Type d'évaluation (ex : TP, assiduité, participation) :

SESSION NORMALE :
Type d'examen (écrit, oral, examen sur machine) : examen écrit
Salle spécifique :
Durée : 2 h 00
Documents autorisés (ex : aucun, résumé feuille A4 manuscrite, dictionnaires, tous documents) : POLYCOPIE, NOTES DE COURS AUTORISES
Documents interdits (ex : livres, tous documents) : TOUT CE QUI N'EST PAS AUTORISE
Matériel (ex : calculatrices):

  • matériel autorisé, préciser : CALCULATRICE AUTORISÉE
  • matériel interdit, préciser : TOUT LE RESTE
    Commentaires :

SESSION DE RATTRAPAGE :
Type d'examen (écrit, oral, examen sur machine) : examen écrit
Salle spécifique :
Durée : 2 h 00
Documents autorisés (ex : aucun, résumé feuille A4 manuscrite, dictionnaires, tous documents) : POLYCOPIE, NOTES DE COURS AUTORISES
Documents interdits (ex : livres, tous documents) : TOUT CE QUI N'EST PAS AUTORISE
Matériel (ex : calculatrices):

  • matériel autorisé, préciser : CALCULATRICE AUTORISÉE
  • matériel interdit, préciser : TOUT LE RESTE
    Commentaires :


N1 = E1
N2= E2

Bibliographie

C. Shannon, W. Weaver, La théorie mathématique de la communication, Cassini, avril 2018.

Théorie de l'information et du codage. O. Rioul. Hermès, 2007.

Elements of Information Theory. T.M. Cover, Joy A. Thomas. John Wiley & Sons Inc, 2006.

David J.C. MacKay “Information Theory, Inference, and Learning Algorithm”, Cambridge Univ. Press, 2003. http://www.cs.toronto.edu/~mackay/itila/book.html

R.G. Gallager, « Information Theory and reliable communication », Wiley, 1968

A+Augmenter la taille du texteA-Réduire la taille du texteImprimer le documentEnvoyer cette page par mail Partagez cet article Facebook Twitter Linked In Google+ Viadeo

mise à jour le 15 janvier 2017

Grenoble INP Institut d'ingénierie Univ. Grenoble Alpes