Multipel lineær regression

I simpel lineær regression undersøger vi, hvordan én uafhængig variabel $x$ påvirker en afhængig variabel $y$. Men i virkelighedens verden er tingene sjældent så enkle. Hvis vi vil forudsige en bils bremselængde, er det ikke kun farten, der tæller – vejens tilstand, dækkenes mønster og bilens vægt spiller også ind.

Eksempel: Hvad bestemmer energiforbruget?

Forestil dig, at du vil modellere varmeforbruget i en bygning. Du kan kigge på udetemperaturen ($x_1$), men dit estimat bliver meget bedre, hvis du også medtager antallet af beboere ($x_2$) og isoleringstykkelsen ($x_3$). Multipel lineær regression er værktøjet, der gør det muligt at inddrage mange forklarende variabler på én gang for at skabe en mere præcis model.

Modellen for multipel lineær regression

Hvor den simple lineære funktion følger forskriften $y = ax + b$, udvider vi her modellen til flere led. Den generelle forskrift for en lineær funktion af mange variabler ser således ud:

$$y = a_1 \cdot x_1 + a_2 \cdot x_2 + \dots + a_n \cdot x_n + b$$

Her er:

• $y$: Den afhængige variabel (responsvariablen).
• $x_1, x_2, \dots, x_n$: De uafhængige variabler (forklaringsvariablerne).
• $a_1, a_2, \dots, a_n$: Partial-hældningskoefficienter (regressionskoefficienter).
• $b$: Skæringen med y-aksen (konstantleddet).

Ved multipel lineær regression bestemmer vi ved hjælp af it-værktøjer (som Excel, GeoGebra eller TI-Nspire) den lineær funktion af mange variabler der bedst forudsiger $y$-værdien for et givent sæt af $x$-værdier ($x_1, x_2, \dots, x_n$). Mere præcist minimerer vi summen af de kvadrerede afvigelser (mindste kvadraters metode). Computeren finder de værdier for $a$ ($a_1, a_2, \dots, a_n$) og $b$, der bedst muligt beskriver sammenhængen i det samlede datasæt.

Modellens parametre og fortolkning

Når vi har fået en forskrift fra vores computerprogram, skal vi kunne tolke tallene. En vigtig læresætning i multipel regression er, at koefficienten $a_1$ fortæller os, hvor meget $y$ ændrer sig, når $x_1$ vokser med 1, under forudsætning af at alle andre variabler holdes konstante.

Eksempel 1: Prisen på en brugtbil

En model for prisen i 1000 kr. på en brugtbil ($y$) kunne se således ud:

$$ y = -0,8 \cdot x_1 – 0,05 \cdot x_2 + 150$$

• $x_1$ : Alder i år
• $x_2$: Antal kørte 1000 km

Her betyder $-0,8$, at for hvert år bilen bliver ældre, falder prisen med 800 kr. og $-0,05$ betyder at for hvert kørte 1000 km falder prisen med 50 kr. Tallet 150 svarer til nyprisen i tusinde kroner.

Neurale Netværk

I de foregående afsnit har vi set, hvordan multipel lineær regression kan finde den bedste sammenhæng mellem flere variabler. Denne matematiske struktur er præcis den samme, som man finder i en neuron i et kunstigt neuralt netværk. Når vi “træner” et neuralt netværk, bruger vi i virkeligheden principperne fra multipel regression til at justere netværkets parametre, så det bliver bedre til at forudsige et resultat.

Neuronen som en regressionsmodel

En enkelt neuron i et netværk modtager en række input ($x_1, x_2, \dots, x_n$). Hvert input bliver ganget med en vægt ($w$), som svarer til hældningskoefficienterne ($a$) i regressionen. Til sidst lægges en bias ($b$) til, som svarer til konstantleddet.

Neurones output eller “forudsigelse” ($\hat{y}$) kan skrives som:
$$\hat{y} = w_1 \cdot x_1 + w_2 \cdot x_2 + \dots + w_n \cdot x_n + b$$

Træning af neuronen handler om at finde de vægte ($w$), der gør fejlen mellem det forudsagte output ($\hat{y}$) og det faktiske, ønskede output ($y$) så lille som muligt. Dette gøres ved at minimere en tabsfunktion (Loss Function), præcis ligesom vi minimerer summen af de kvadrerede afvigelser i regression (de mindste kvadraters metode).

Eksempel: Justering af vægte i en neuron

Forestil dig, at vi har en neuron, der skal forudsige energiforbruget i en maskine baseret på to sensorer: temperatur ($x_1$) og omdrejningstal ($x_2$).

Indsamlede data (træningsdata):

• Input: $x_1 = 10, x_2 = 5$
• Forventet output (det korrekte svar): $y = 51$

Neurones nuværende tilstand (tilfældige vægte i starten):

• Vægte: $w_1 = 2, w_2 = 3$
• Bias: $b = 1$

1. Beregning af forudsigelse:

Neuronen beregner sit bud:

$$\hat{y} = 2 \cdot 10 + 3 \cdot 5 + 1 = 36$$

2. Beregning af afvigelse (Fejl):

Afvigelsen mellem det forudsagte (36) og det forventede (51) er:

$$\text{Fejl} = y – \hat{y} = 51 – 36 = 15$$

3. Justering (Træning):

For at gøre fejlen mindre næste gang, bruger vi principperne fra regression til at justere vægtene. Da fejlen er positiv ($15$), og begge inputs er positive, skal vi øge vægtene $w_1$ og $w_2$ en lille smule for at komme tættere på 51.

I multipel regression findes de optimale vægte analytisk (beregner løsning), mens neurale netværk typisk justerer dem gradvist gennem mange små skridt (læringsskridt). Men målet er det samme: at finde de koefficienter, der minimerer afvigelsen til alle indsamlede data.

Fra regression til dyb læring

Når man har mange af disse “regressions-neuroner” sat sammen i lag, får man et Deep Neural Network. Selvom funktionerne i moderne AI kan være meget komplekse og indeholde ikke-lineære led, er grundlogikken stadig den samme som i multipel lineær regression. Dette viser, at multipel regression ikke bare er en statistisk metode til at analysere gamle data, men motoren i den teknologi, der driver selvkørende biler, ansigtsgenkendelse og sprogmodeller.

Opsamling

I dette modul har vi gennemgået, hvordan man arbejder med komplekse lineære sammenhænge. Du har nu fået forståelse for:

• Forskriften for en lineær funktion af mange forklarende variabler
• Koefficienternes betydning i praksis
• Anvendelse af it-værktøjer til at udføre multipel lineær regression