Вместо формулы обучите прямую y = w × x + b пакетным градиентным спуском по среднеквадратичной ошибке MSE = Σ(w × x + b - y)² / n.
Начните с w = 0 и b = 0. В каждой эпохе, используя все точки:
- errorᵢ = w × xᵢ + b - yᵢ
- dw = (2 / n) × Σ errorᵢ × xᵢ и db = (2 / n) × Σ errorᵢ
- w ← w - learning_rate × dw и b ← b - learning_rate × db (оба вычисляются по одним и тем же ошибкам)
Реализуйте train_linear_regression(xs, ys, learning_rate, epochs).
Входные данные
xs, ys: точки данных (одинаковой длины).
learning_rate, epochs: размер шага и число обновлений.
Выходные данные
Верните [w, b] после обучения.
Ограничения
1 ≤ число точек ≤ 1000, 0 ≤ epochs ≤ 10 000
0 < learning_rate ≤ 1
-100 ≤ каждое значение ≤ 100
Примеры
Ввод:
xs = [1.0, 2.0]
ys = [2.0, 4.0]
learning_rate = 0.1
epochs = 1
Ожидаемый вывод:
expected = [1.0, 0.6]
Ввод:
std::vector<double> xs = {1.0, 2.0};
std::vector<double> ys = {2.0, 4.0};
double learning_rate = 0.1;
long long epochs = 1;
Ожидаемый вывод:
std::vector<double> expected = {1.0, 0.6};
Ввод:
double[] xs = new double[] {1.0, 2.0};
double[] ys = new double[] {2.0, 4.0};
double learning_rate = 0.1;
long epochs = 1;
Ожидаемый вывод:
double[] expected = new double[] {1.0, 0.6};
Пояснение
При w = b = 0 ошибки равны -2 и -4. dw = (2 / 2) × (-2×1 - 4×2) = -10 и db = (2 / 2) × (-2 - 4) = -6, поэтому w = 0 - 0.1 × (-10) = 1 и b = 0 - 0.1 × (-6) = 0.6. Результат: [1, 0.6].
Ввод:
xs = [1.0, 2.0, 3.0]
ys = [3.0, 5.0, 7.0]
learning_rate = 0.05
epochs = 2000
Ожидаемый вывод:
expected = [2.0, 1.0]
Ввод:
std::vector<double> xs = {1.0, 2.0, 3.0};
std::vector<double> ys = {3.0, 5.0, 7.0};
double learning_rate = 0.05;
long long epochs = 2000;
Ожидаемый вывод:
std::vector<double> expected = {2.0, 1.0};
Ввод:
double[] xs = new double[] {1.0, 2.0, 3.0};
double[] ys = new double[] {3.0, 5.0, 7.0};
double learning_rate = 0.05;
long epochs = 2000;
Ожидаемый вывод:
double[] expected = new double[] {2.0, 1.0};
Пояснение
Данные лежат на y = 2x + 1. После 2000 эпох градиентный спуск сходится к w = 2 и b = 1 — тот же ответ, что и по формуле наименьших квадратов.
Как подступиться
Сначала попробуйте сами, затем открывайте подсказки по одной.
Подсказка 1
Каждая эпоха использует все точки, чтобы измерить, насколько текущая прямая ошибается.
Подсказка 2
Накопите градиент по всем примерам перед тем, как вместе обновить оба параметра.
Подсказка 3
Не обновляйте один параметр раньше времени, потому что оба обновления должны использовать ошибки одной и той же эпохи.
Ожидаемая сложность
время O(epochs × n), доп. память O(1)
Ссылки
Это задание адаптировано для CodeUtility. Следуйте условию и ограничениям выше.