Hồi quy tuyến tính nhiều biến — Multivariate Regression

Họ tên: Ngày: Thời gian: ~13 phút

Vì sao quan trọng. Dữ liệu thật có nhiều cột (tuổi, cân, giờ học…). Dự đoán = tổ hợp tuyến tính các đặc trưng có trọng số. Đây đúng là phép một nơ-ron làm trước khi qua hàm kích hoạt.

ŷ = w·x + b = w₁x₁ + w₂x₂ + b | MSE = (1/m) Σ (ŷⱼ − yⱼ)²

💡 Trực giác Mỗi đặc trưng có một núm chỉnh (trọng số wᵢ): núm lớn → đặc trưng đó ảnh hưởng mạnh tới dự đoán. Dự đoán = cộng các đóng góp wᵢxᵢ rồi thêm "mức nền" b.

Cho sẵn

2 đặc trưng

Trọng số w = (1, 2), bias b = 1.
Mẫu 1: x⁽¹⁾ = (2, 3), nhãn y₁ = 9 · Mẫu 2: x⁽²⁾ = (1, 1), nhãn y₂ = 5.

Dự đoán hai mẫu

w·x + b

ŷ₁ = 1·2 + 2·3 + 1 =
ŷ₂ = 1·1 + 2·1 + 1 =

Vì sao: đúng là một tích vô hướng w·x rồi cộng bias — "một nơ-ron tuyến tính".

Sai số & MSE

đo lệch

ŷ₂ − y₂ = (mẫu 1 khớp: ŷ₁−y₁ = 0)
MSE = ½[(ŷ₁−y₁)² + (ŷ₂−y₂)²] =

Mẹo: bình phương dư rồi lấy trung bình trên m = 2 mẫu.

Một gradient cho w₁

∂MSE/∂w₁

∂MSE/∂w₁ = (2/m) Σ (ŷⱼ−yⱼ)·x₁⁽ʲ⁾
= (2/2)[(0)(2) + (−1)(1)] =

Vì sao: gradient chỉ hướng giảm sai số; trừ nó (×học suất) là một bước cập nhật trọng số (Bài D5).

✎ Tự kiểm tra

wᵢ lớn nghĩa là gì? →
ŷ = w·x + b giống thành phần nào của mạng nơ-ron? →

Làm toán AI ✍️ — Bài B2 · Hồi quy nhiều biếnTrang 1/2 · ĐỀ

Làm toán AI ✍️ · Toán × AI

ĐÁP ÁN

Bài B2

Hồi quy nhiều biến — lời giải & kiểm tra

Dự đoán

ŷ₁ = 9 | ŷ₂ = 4

Sai số & MSE

ŷ₂ − y₂ = −1 | MSE = ½[0² + (−1)²] = 0.5

Gradient w₁

∂MSE/∂w₁ = (2/2)[0·2 + (−1)·1] = −1

Cập nhật: w₁ ← w₁ − η·(−1) → tăng w₁ một chút để kéo ŷ₂ về gần y₂.

✎ Tự kiểm tra — đáp án

wᵢ lớn → đặc trưng i ảnh hưởng mạnh tới dự đoán
ŷ = w·x + b → phần tuyến tính của một nơ-ron (trước hàm kích hoạt)

Rút ra. Hồi quy nhiều biến = tích vô hướng trọng số + bias + đo sai số bằng MSE; gradient cho biết chỉnh trọng số ra sao. Bài tiếp (B3): thêm hàm sigmoid để dự đoán xác suất (hồi quy logistic).

Làm toán AI ✍️ — Bài B2 · Hồi quy nhiều biếnTrang 2/2 · ĐÁP ÁN