Sciences des données : fondements algébriques et statistiques - WMMBESDF

Objectif(s)

Acquérir une culture générale suffisante en science des données pour pourvoir interagir avec des spécialistes de la théorie de l’apprentissage statistique.

Contenu(s)

• Rappels d'algèbre linéaire,
• Minimisation du risque empirique,
• Introduction à la théorie statistique de l’apprentissage,
• Spécificités de l’apprentissage dans un contexte « Big Data » : Malédiction et bénédiction de la dimension,
• Apprentissage de variété,
• Parcimonie et pénalité,
• Inférence à large échelle : rappels sur le test d’hypothèse et la simulation de données i.i.d.,
• Contrôle du taux de fausses découvertes et correction de tests multiples.

• Notions fondamentales d’algèbre linéaire
  • Espace euclidiens
  • Produit scalaire
  • Opérations de base sur les matrices
  • Matrices semi-définies positives
  • Formes hermitiennes
  • Diagonalisation de matrice et valeurs propres

• Bibliographie indicative :
  • Fabien Margairaz. Algèbre linéaire I & II: Notes de cours de l’EPFL. https://docplayer.fr/23918385-Algebre-lineaire-i-ii.html
  • Les notions de base d’algèbre sont aussi très bien décrites sur Wikipédia

• Notions fondamentales de probabilités
  • Espérance, variance
  • Probabilités jointes et conditionnelles, formule de Bayes
  • Lois usuelles (loi de Bernoulli, loi uniforme, loi normale)
  • Estimation des paramètres d’une loi par maximisation de la vraisemblance

• Bibliographie indicative :
  • Olivier François. Notes de cours de Probabilités Appliquées. Les 40 premières pages. http://membres-timc.imag.fr/Olivier.Francois/Poly_Cours_Proba.pdf

• Notions fondamentales de statistiques
  • Statistiques descriptives : Population statistique, Estimateurs de tendance centrale et de dispersion, Représentations usuelles (histogramme, diagramme en bâtons, etc.)
  • Notions élémentaires de test d'hypothèse : Echantillons, Hypothèse nulle, hypothèse alternative, risques de type I et II, Test de Student

• Bibliographie indicative :
  • Olivier Gaudoin. Principes et Méthodes Statistiques : Notes de cours, Ensimag 2A. Chapitres I,II, V (3 premières sections) https://www-ljk.imag.fr/membres/Olivier.Gaudoin/PMS.pdf