Volumes horaires
- CM 9.0
- Projet -
- TD -
- Stage -
- TP 15.0
- DS -
Crédits ECTS
Crédits ECTS 3.0
Objectif(s)
L'objet de ce cours est de présenter aux étudiants plusieurs concepts associés aux réseaux de neurones, et d'étudier leur mise en application en construisant une librairie de réseaux de neurones possédant plusieurs fonctionnalités comme l'accélération de la descente de gradient à l'aide de la stratégie Momentum ou la régularisation lors de l'apprentissage grâce à la pénalisation L2. Cette librairie est utilisée pour résoudre un problème d'apprentissage supervisé sur des données financières.
Responsable(s)
Mnacho ECHENIM
Contenu(s)
Présentation des réseaux de neurones: historique, premières limites identifiées
Perceptron et perceptron multicouches, universalité
Principe de l'apprentissage profond, dérivation des équations de rétropropagation du gradient
Optimisation de la descente de gradient: Momentum, Nesterov, Adam...
Techniques de régularisation: L1, L2, Dropout...
Standardisation des entrées, Batch Normalization
Mise en oeuvre: réalisation en C# d'une librairie réseaux de neurones
Aucun prérequis n'est nécessaire pour ce projet.
Contrôle des connaissances
N1 = Projet
N2 = Projet
N1=CC
N2 = Pas de rattrapage possible
où
CC = note de contrôle continu (projet à rendre)
Calendrier
Le cours est programmé dans ces filières :
- Cursus ingénieur - Filière IF - Semestre 9
- Cursus ingénieur - Filière IF - Semestre 9
Informations complémentaires
Code de l'enseignement : WMMF9M40
Langue(s) d'enseignement : 
Vous pouvez retrouver ce cours dans la liste de tous les cours.
Bibliographie
Ian Goodfellow and Yoshua Bengio and Aaron Courville: Deep Learning
Charu C. Aggarwal: Neural Networks and Deep Learning