Examen blanc

Énoncez la définition formelle du Machine Learning selon Tom Mitchell (1997) et définissez chaque notation. Illustrez avec un exemple concret autre que le filtre anti-spam.

Citez dans l'ordre les 6 étapes du cycle de vie d'un projet de Data Science, puis expliquez en une ou deux phrases la différence entre la phase de préparation des données et la phase de modélisation.

Décrivez la fonction de décision g(x) en classification binaire. Précisez comment elle définit les régions R₀ et R₁. Étendez la définition au cas multi-classe.

Expliquez la différence entre sous-apprentissage, ajustement approprié et sur-apprentissage. Comment détecte-t-on expérimentalement le sur-apprentissage ? Quelle est la condition V ∩ T = ∅ et pourquoi est-elle essentielle ?

Pour chacune des variables suivantes, donnez son type exact (quantitative continue, quantitative discrète, qualitative nominale, qualitative ordinale) et indiquez les opérations mathématiques autorisées :

1. Température en °C
2. Code postal
3. Mention au BAC
4. Nombre de clics

Comparez les cinq algorithmes de classification étudiés (régression logistique, KNN, SVM, arbres de décision, forêts aléatoires) selon les critères suivants :

1. Idée centrale en une phrase.
2. Nature de la frontière de décision (linéaire / non linéaire).
3. Hyperparamètre principal à régler.
4. Force principale et faiblesse principale.

Présentez vos réponses sous forme de tableau.

Dans le contexte des SVM :

1. Définissez la marge γ, les hyperplans H⁺ et H⁻, la zone d'indécision.
2. Définissez les vecteurs de support.
3. Expliquez pourquoi une petite perturbation d'un vecteur de support modifie l'hyperplan, alors qu'une perturbation d'un point non-vecteur de support ne le modifie pas.

Concernant KNN et les forêts aléatoires :

1. Décrivez l'algorithme KNN (étapes, distances, règle de décision en classification et en régression).
2. Pourquoi le choix de k est-il un compromis biais-variance ?
3. Décrivez l'algorithme des forêts aléatoires et précisez la valeur par défaut de q en classification et en régression.

Soit un modèle de régression logistique binaire avec w⃗ = (0,5 ; −2,0)^T et b = 1,0. Pour l'observation x⃗ = (2, 1)^T :

1. Calculez le score z.
2. Calculez la probabilité σ(z) (3 décimales).
3. Donnez la classe prédite f(x⃗).
4. Interprétez le résultat en une phrase.

Soit la matrice de confusion : TP = 50, FP = 10, FN = 5, TN = 135. Calculez et interprétez :

1. Précision
2. Rappel
3. Spécificité
4. F1-score
5. Accuracy

Soit le jeu de données E = {(1, 2), (2, 3), (3, 7)}.

1. Calculez x̄ et ȳ.
2. Dressez le tableau de travail et calculez la pente â et l'ordonnée à l'origine b̂.
3. Écrivez la fonction de prédiction f̂(x).
4. Pour x = 4, quelle est la prédiction ŷ ?

Décrivez l'algorithme de Lloyd (K-Means) en quatre étapes. Donnez la formule de l'inertie intra-cluster et celle de la mise à jour d'un centroïde.

Soient x₁ = (0, 0), x₂ = (4, 4) dans le même cluster. Calculez le centroïde et l'inertie. Interprétez le résultat.

Soient C₁ = {(0, 0), (1, 0)} et C₂ = {(0, 3)}. Calculez les distances en lien simple, lien complet et lien moyen. Quel type de structure chaque lien favorise-t-il dans le dendrogramme ?