Soms na het uitzetten van een set gegevens, lijkt een lineaire relatie te bestaan tussen de afhankelijke variabele en de onafhankelijke variabelen. In veel gevallen willen onderzoekers oplossen van het probleem van de lineaire regressie om te verkrijgen van een echte lineaire functie met betrekking van de afhankelijke en onafhankelijke variabelen. Het oplossen van lineaire regressie vereist een methode die bekend staat als de kleinste kwadraten. Voor het gebruik van de methode van de kleinste kwadraten om te komen tot een oplossing voor de functie van de lineaire regressie, moet u een stevige achtergrond in de lineaire algebra of matrixalgebra.
Label uw gegevens als 'X' en 'y'. De gegevens in matrixvorm is "X", terwijl de uitvoer in de vorm van de vector 'y'.
De residuele som van kwadraten functie instellen Invoering van een nieuwe vector van variabelen, "beta". Deze vector vormt de coëfficiënten van de functie van de lineaire regressie. De residuele som van kwadraten functie is RSS(beta) = t(y-Xbeta) (y - Xbeta), waar de functie "t()" is de functie TRANSPONEREN toch omzetten, waardoor de getransponeerde van een matrix (schakeling kolommen voor rijen).
Neem de eerste afgeleide met betrekking tot "beta" van de residuele som van kwadraten functie. Gebruik standaard matrix calculus. De oplossing is altijd - 2t(X)(y-Xbeta).
Stel de afgeleide gelijk is aan nul. U levert de vergelijking-2t(X)(y-Xbeta) = 0. Merk op dat de -2 verdwijnt wanneer beide zijden delen door -2, waardoor t(X)(y-Xbeta) = 0.
De vergelijking voor bèta oplossen. Matrixalgebra blijkt dat de oplossing beta is = inv [t (X) X] t (X) y, waar de functie "inv()" is de functie waarmee de inverse van een matrix. Schrijven van bèta op deze manier kunt u een nummer voor het berekenen. Bel dit nummer "betahat."
Het schrijven van de lineaire regressievergelijking. De lineaire regressie vergelijkingen is y = Xbetahat. In deze vergelijking is "X" niet uw gegevens-matrix, maar een matrix van variabelen. Gebruik van nieuwe gegevens of ramingen voor X kunt lineaire regressie schattingen opleveren.