Volumes horaires
- CM 9.0
- Projet -
- TD -
- Stage -
- TP 15.0
- DS -
Crédits ECTS
Crédits ECTS 3.0
Objectif(s)
L'objet de ce cours est de présenter aux étudiants plusieurs concepts associés aux réseaux de neurones, et d'étudier leur mise en application en construisant une librairie de réseaux de neurones possédant plusieurs fonctionnalités comme l'accélération de la descente de gradient à l'aide de la stratégie Momentum ou la régularisation lors de l'apprentissage grâce à la pénalisation L2. Cette librairie est utilisée pour résoudre un problème d'apprentissage supervisé sur des données financières.
Responsable(s)
Patrick REIGNIER
Contenu(s)
Présentation des réseaux de neurones: historique, premières limites identifiées
Perceptron et perceptron multicouches, universalité
Principe de l'apprentissage profond, dérivation des équations de rétropropagation du gradient
Optimisation de la descente de gradient: Momentum, Nesterov, Adam...
Techniques de régularisation: L1, L2, Dropout...
Standardisation des entrées, Batch Normalization
Mise en oeuvre: réalisation en Java d'une librairie réseaux de neurones
Aucun prérequis n'est nécessaire pour ce projet.
Contrôle des connaissances
Evaluation : Projet (évaluation en continu et sur le rendu)
Rattrapage : Examen oral (exposé, soutenance, etc..) (30mns)
N1 = Projet en CC
N2 = Oral
où
CC = note de contrôle continu (projet à rendre)
Calendrier
Le cours est programmé dans ces filières :
- Cursus ingénieur - Filière IF - Semestre 9
Informations complémentaires
Code de l'enseignement : WMMF9M41
Langue(s) d'enseignement : 
Vous pouvez retrouver ce cours dans la liste de tous les cours.
Bibliographie
Ian Goodfellow and Yoshua Bengio and Aaron Courville: Deep Learning
Charu C. Aggarwal: Neural Networks and Deep Learning