Matin [3h] : Le machine learning, premières notions

Introduction au Machine Learning
Qu’est-ce que le Machine Learning ?
1. Cas d’usages du quotidien, utilisation du ML par les géants industriels d’aujourd’hui
2. Qu’est-ce que le Machine Learning ? Définitions et résumé des étapes clés
3. Le cas d’usages possibles dans les grands secteurs types, leurs spécificités et points en commun
4. Compromis performance vs. interprétabilité : faut-il toujours choisir entre les deux ?

M1 – Apprentissage supervisé – Processus de Data Science
Focus sur la typologie d’algorithme la plus fréquente : l’apprentissage supervisé
1. Définition de la cible et des variables explicatives. Construction du jeu de données et préparation des échantillons.
2. Choix et entraînement du modèle : importance des statistiques descriptives et prévision de variables.
3. Comment quantifier et présenter la performance d’un modèle tout en choisissant la métrique adaptée à notre besoin
Travaux pratiques

Après-Midi [4h] : Apprentissage supervisé

M1 – Apprentissage supervisé – Gestion du sur-apprentissage
Comprendre et éviter le sur-apprentissage
1. Apprendre les tendances identifiées dans les données, mais pas par cœur : les problèmes de sous et sur-apprentissage
2. Échantillonnage des données : bien choisir le set d’entrainement et de test
3. Garder les caractéristiques des données dans ses échantillons : l’échantillonnage stratifié
4. Gérer la présence dans le test de valeurs jamais observées en phase d’entrainement
5. Mieux utiliser les données à disposition grâce à la validation croisée
6. Cas particulier : les séries temporelles

M2 – Apprentissage supervisé – Algorithmes classiques
Les grands algorithmes de l’apprentissages supervisé
1. Les arbres de décisions, et les modèles ensemblistes qui sont basés sur eux : forêts aléatoires et gradient boosting
2. Les support vector machines
3. Optimisation des hyperparamètres : grid search et randomized search

Matin [3h] : Apprentissage non supervisé

M1 – Apprentissage non supervisé
Que faire en l’absence d’une variable cible ?
1. Méthodologie et exemple d’apprentissage non supervisé : clustering avec k-means et Dbscan
2. Coupler les approches supervisées et non supervisées afin d’obtenir des résultats plus exploitables.
3. Un problème non supervisé classique : la réduction de dimension. Analyse en composantes principales et feature selection

Après-Midi [4h] : Exploration de texte, web scraping

M1 – Text mining
Exploiter des données textuelles
1. Clarification de la terminologie et des cas d’usage possibles : NLP, NLU, NLG, NER
2. Les sources de données possibles à utiliser dans un projet
3. Les étapes d’un pretraitement de texte : nettoyage, gestion des signes spéciaux, lemmatisation et racinisation
4. Principaux algorithmes : TF-IDF, Latent Dirichlet Analysis, Word2Vec, Doc2Vec, …

M2 – Web scraping
Extraire les données du web, différentes approches et mise en pratique
1. Collecte des données web : utilisation des API vs. web scraping. Coûts et limites des deux approches.
2. Packages utilisés : urllib et beautifulsoup. TP associé
3. Contraintes légales : on n’a pas le droit de faire tout ce qu’on est en mesure de faire !

Matin [4h] : Étude de cas – Explorer la donnée

M1 – Appropriation du jeux de données
Mise en condition sur un projet de Data Science
1. Présentation de la plateforme Kaggle et extraction d’un jeu de données
2. Exploration des données : types des colonnes / valeurs manquantes ou abérrantes, distribution des valeurs.
3. Visualisation des données : graphiques univariés et bivariés, corrélation entre features
4. Manipulation des variables : valeurs manquantes, outliers, gérer les variables catégorielles et feature engineering

Après-Midi [3h] : Étude de cas – modélisation et prédiction

M1 – Création de modèle
Calibration d’un modèle
1. Création d’un échantillon d’entraînement et de validation, définition de la métrique de score.
2. Choix des modèles à essayer et leur entrainement. Mesures de performances sur le train set.
3. Calibration du modèle : validation croisée, hyperparamétrage (grid search).

M2 – Prédiction
Mesurer les performances du modèle
1. Prédiction sur le set de test. Bug-fixing en cas de problèmes (ex. variable catégorielle inconnue)
2. Mesures de performances des prédictions sur le set de test, et comparaisons avec les métriques sur le training set.
3. Étude des résultats, identification du modèle plus performant, discussion des possibles pistes d’amélioration.