Alle Herausforderungen
Mittel 0 gelöst 0% Erfolgsquote

Linear Regression with Gradient Descent

Learn the slope and intercept of a line by repeatedly stepping down the mean squared error.

Das lernst du

  • Minimize mean squared error step by step
  • Compute gradients for slope and intercept
  • See how the learning rate affects training

Problem

Übersetzung anzeigen

Instead of a formula, train the line y = w × x + b with batch gradient descent on the mean squared error MSE = Σ(w × x + b - y)² / n.

Start with w = 0 and b = 0. In each epoch, using all points:

  1. errorᵢ = w × xᵢ + b - yᵢ
  2. dw = (2 / n) × Σ errorᵢ × xᵢ and db = (2 / n) × Σ errorᵢ
  3. w ← w - learning_rate × dw and b ← b - learning_rate × db (both computed from the same errors)

Implement train_linear_regression(xs, ys, learning_rate, epochs).

Input

xs, ys: The data points (same length).

learning_rate, epochs: The step size and the number of updates.

Output

Return [w, b] after training.

Einschränkungen

1 ≤ number of points ≤ 1,000, 0 ≤ epochs ≤ 10,000

0 < learning_rate ≤ 1

-100 ≤ each value ≤ 100

Beispiele

Beispiel 1
Eingabe:
xs = [1.0, 2.0]
ys = [2.0, 4.0]
learning_rate = 0.1
epochs = 1

Erwartete Ausgabe:
expected = [1.0, 0.6]
Eingabe:
std::vector<double> xs = {1.0, 2.0};
std::vector<double> ys = {2.0, 4.0};
double learning_rate = 0.1;
long long epochs = 1;

Erwartete Ausgabe:
std::vector<double> expected = {1.0, 0.6};
Eingabe:
double[] xs = new double[] {1.0, 2.0};
double[] ys = new double[] {2.0, 4.0};
double learning_rate = 0.1;
long epochs = 1;

Erwartete Ausgabe:
double[] expected = new double[] {1.0, 0.6};

Erläuterung

With w = b = 0 the errors are -2 and -4. dw = (2 / 2) × (-2×1 - 4×2) = -10 and db = (2 / 2) × (-2 - 4) = -6, so w = 0 - 0.1 × (-10) = 1 and b = 0 - 0.1 × (-6) = 0.6. Result: [1, 0.6].

Beispiel 2
Eingabe:
xs = [1.0, 2.0, 3.0]
ys = [3.0, 5.0, 7.0]
learning_rate = 0.05
epochs = 2000

Erwartete Ausgabe:
expected = [2.0, 1.0]
Eingabe:
std::vector<double> xs = {1.0, 2.0, 3.0};
std::vector<double> ys = {3.0, 5.0, 7.0};
double learning_rate = 0.05;
long long epochs = 2000;

Erwartete Ausgabe:
std::vector<double> expected = {2.0, 1.0};
Eingabe:
double[] xs = new double[] {1.0, 2.0, 3.0};
double[] ys = new double[] {3.0, 5.0, 7.0};
double learning_rate = 0.05;
long epochs = 2000;

Erwartete Ausgabe:
double[] expected = new double[] {2.0, 1.0};

Erläuterung

The data lies on y = 2x + 1. After 2,000 epochs gradient descent has converged to w = 2 and b = 1, the same answer as the least squares formula.

So gehst du vor

Versuch es zuerst allein und öffne dann einen Hinweis nach dem anderen.

Hinweis 1

Each epoch uses every point to measure how wrong the current line is.

Hinweis 2

Accumulate the gradient from all samples before updating both parameters together.

Hinweis 3

Be careful not to update one parameter early, because both updates must use the same epoch’s errors.

Erwartete Komplexität

O(epochs × n) time, O(1) extra space

Referenzen

Diese Aufgabe wurde für CodeUtility angepasst. Beachte die oben genannten Vorgaben und Einschränkungen.

Die beste bestandene Lösung jedes Coders. Schnellere, sparsamere und besser bewertete Lösungen stehen weiter oben.

Noch keine bestandene Lösung. Löse sie und hol dir Platz eins.

Von anderen lernen

Community-Lösungen

Noch keine veröffentlichten Lösungen. Löse die Aufgabe und teile als Erster eine Lösung.