Learning: Supervised og Unsupervised Learning

Der findes mindst to store felter inden for dataanalyse: klassisk statistik og machine learning (maskinlæring). Klassisk statistik har været domineret af matematikere, mens ingeniører og softwareudviklere har haft en vigtig rolle i machine learning. Formålet med machine learning og klassisk statistik er dog det samme, nemlig at:

1. Beskrive data
2. Forklare sammenhænge og relationer mellem variabler
3. Prædiktere (forudsige) en variabel ud fra værdierne af andre variabler

Strategierne for at beskrive, forklare og prædiktere adskiller sig dog mellem machine learning og klassisk statistik. Det betyder, at metoderne (algoritmerne) er forskellige, selvom der er mange ligheder, og visse metoder og algoritmer går igen i begge felter. Der er ingen nytte i at adskille klassisk statistik fra machine learning, og de fleste analytikere bruger metoder fra begge områder. Fordi machine learning og klassisk statistik har udviklet sig nogenlunde adskilt, findes der terminologiske forskelle, som forklares i tabellen nedenfor.

I dag bruges betegnelsen learning (læring) om beregninger og algoritmer, der udforsker data. Figuren nedenfor illustrerer, hvordan learning kan klassificeres. Den vigtigste skelnen er mellem supervised learning og unsupervised learning. Om learning er supervised eller unsupervised, afhænger af, om der findes et udfald ($Y$), som styrer læringen.

graph LR
    A[Learning] --> |Y findes| S(Supervised learning);
    S --> |Y er kontinuert| R(Regression);
    S --> |Y er kategorisk| C(Classification);
    R --> RE(Linear Regression<br/>Support Vector Machine<br/>Random forest<br/>Gradient boosting<br/>Neural networks);
    C --> CE(Logistic Regression<br/>Random forest<br/>Gradient boosting<br/>Neural networks);

    A[Learning] --> |Y findes ikke| U(Unsupervised learning);
    U --> |Opdag skjulte strukturer| X(Klyngeanalyse) --> KE(K-means clustering<br/>Hierarchical Clustering);
    U --> |Undersøg sammenhænge| Y(Associationsanalyse) --> AP(Associationsanalyse);
    U --> |Reducer kompleksitet| Z(Dimensionality reduction) --> DE(Principal Component Analysis);

Supervised learning (SL)

I supervised learning findes der et udfald ($Y$), som styrer algoritmerne, der derefter kan bruges til at prædiktere (forudsige) $Y$. I supervised learning undersøges, hvordan $Y$ relaterer sig til en eller flere variabler ($X$). Formålet er at prædiktere værdien af Y givet værdierne af relaterede variabler ($X_1$, $X_2$, $X_3$, $X_n$). Ved at bruge en algoritme kan vi beregne, hvordan $X_1$, $X_2$, $X_3$, $X_n$ osv. er relateret til $Y$, og desuden opbygge en prædiktionsmodel til at forudsige $Y$ givet værdierne af $X_1$, $X_2$, $X_3$, $X_n$.

Eksempel 1: En analyse, hvor risikoen for at få diabetes (Y) undersøges som en funktion af alder (X1), køn (X2) og BMI (X3).

Eksempel 2: En analyse, hvor årlig indkomst (Y) undersøges som en funktion af alder (X1), uddannelse (X2) og erhverv (X3).

*I klassisk statistik bruges betegnelsen regression om modeller, der prædikterer både kontinuerte og kategoriske Y.

Eksempler på algoritmer i supervised learning: lineær regression, logistisk regression, Cox-regression, random forest, dyb læring, gradient boosting osv.

Supervised learning kan inddeles i regression og klassifikation.

Classification (klassifikation)

Klassifikation betyder, at man prædikterer et kategorisk udfald. Eksempler på sådanne udfald er følgende:

• Død (ja/nej)
• Diabetes (ja/nej)
• Konkurs (ja/nej)
• Vægtkategori (normalvægt, overvægt, fedme)

Regression

Betegnelsen regression er lidt forvirrende; den klassiske statistik rummer en lang række regressionsmodeller, som kan bruges til at prædiktere både kontinuerte og kategoriske udfald. Inden for machine learning bruges betegnelsen dog om modeller, der prædikterer kontinuerte udfald (numeriske tal). Eksempler på sådanne er:

• Alder (år)
• Vægt (kg)
• Indkomst (kr)
• Pris (kr)

Unsupervised learning (UL)

Unsupervised learning kortlægger mønstre i data uden at tage hensyn til et udfald (Y). Unsupervised learning betyder altså, at algoritmen identificerer strukturer i data. Der er intet behov for at indsamle information om Y, hvilket ikke sjældent fører til, at der er store mængder data at analysere.

Eksempel 1: Forestil dig en undersøgelse af tusindvis af menneskers livsstil, kostvaner, motionsvaner og deres risikofaktorer for hjerte-kar-sygdom. Med unsupervised learning kan man identificere grupper eller klynger (eng. cluster) af individer, der ligner hinanden med hensyn til disse variabler.

Typer af unsupervised learning er følgende:

• Klyngeanalyse (cluster analysis): Med klyngeanalyse kan skjulte mønstre og grupper opdages i data.
• Association: Rene associationsanalyser betyder, at man undersøger, hvordan variabler relaterer sig til hinanden.
• Dimensionsreduktion (dimensionality reduction): Ved dimensionality reduction bruges algoritmer til at skære overflødig information i data bort. Det kan eksempelvis betyde, at antallet af variabler i et datasæt reduceres ved at identificere variabler, som ikke tilfører noget. Det kan også betyde, at variablerne i datasættet erstattes af nye, og færre, variabler, som er afledt af disse data.