3.3 Những cân nhắc khác về mô hình hồi quy — Khóa học học thống kê ISLP

3.3 Cân nhắc khác cho mô hình hồi quy 📖 ISLP §3.3 📄 pp. 91–108 ★★★☆☆ Trung bình ⏱️ Khoảng 50 phút Biến giả Tương tác Hồi quy đa thức Phân tích dư multicollinearity VIF Biến phương sai không đồng nhất Giá trị leverage ← §3.2 Hồi quy tuyến tính đa biến 👄 Trang chủ khóa học §3.4 Kế hoạch tiếp thị → 3.3.1 Biến dự đoán định tính (Qualitative Predictors) Cho đến nay, chúng ta giả định rằng tất cả các biến trong mô hình hồi quy đều là biến định lượng (quantitative). Tuy nhiên, trong thực tế, nhiều biến dự đoán là biến định tính (qualitative) – ví dụ như giới tính, khu vực, có hay không sở hữu nhà, v.v. ISLP §3.3.1, pp. 91–94 · James, Witten, Hastie, Tibshirani (2023). "An Introduction to Statistical Learning with Applications in Python." Biến định tính chỉ có hai mức (Two-Level Factor) Nếu biến định tính chỉ có hai mức (ví dụ: "có sở hữu nhà hay không"), chúng ta có thể tạo một biến giả (dummy variable), còn được gọi là biến chỉ báo. Trong lĩnh vực học máy, quá trình này được gọi là one-hot encoding. \[ x_i = \begin{cases} 1 & \text{Nếu người thứ } i \text{ sở hữu nhà} \\ 0 & \text{Nếu người thứ } i \text{ không sở hữu nhà} \end{cases} \] Công thức 3.26: Mã hóa biến giả Kết hợp biến này vào mô hình hồi quy: \[ y_i = \beta_0 + \beta_1 x_i + \epsilon_i = \begin{cases} \beta_0 + \beta_1 + \epsilon_i & \text{Sở hữu nhà} \\ \beta_0 + \epsilon_i & \text{Không sở hữu nhà} \end{cases} \] Công thức 3.27: Mô hình tuyến tính với biến giả Trong mô hình này: \(\beta_0\): Số dư thẻ tín dụng trung bình của người không sở hữu nhà. \(\beta_1\): Sự khác biệt trung bình giữa người sở hữu nhà và người không sở hữu nhà. \(\beta_0 + \beta_1\): Số dư thẻ tín dụng trung bình của người sở hữu nhà. 💡 Ý tưởng cốt lõi: Lấy ví dụ trên bộ dữ liệu Credit, nợ thẻ tín dụng trung bình của người không sở hữu nhà là $509.80, còn người sở hữu nhà là $529.53. Tuy nhiên, p-value của biến giả là 0.669, cho thấy không có bằng chứng thống kê nào hỗ trợ việc sở hữu nhà ảnh hưởng đến số dư thẻ tín dụng. # minh họa: Sử dụng biến giả cho hồi quy tuyến tính đơn giản try: from google.colab import drive drive.mount('/content/drive') DATA_PATH = '/content/drive/MyDrive/ISLP_data/' except ImportError: DATA_PATH = '/tmp/' import matplotlib matplotlib.use('Agg') import matplotlib.pyplot as plt import numpy as np import pandas as pd from sklearn.linear_model import LinearRegression # Mô phỏng một phần dữ liệu Credit np.random.seed(42) n = 100 own = np.random.choice([0, 1], size=n, p=[0.6, 0.4]) balance = 509.80 + 19.73 * own + np.random.normal(0, 150, n) # Fitting mô hình X = own.reshape(-1, 1) model = LinearRegression().fit(X, balance) print(f"截距 (β₀): {model.intercept_:.2f}") print(f"係數 (β₁): {model.coef_[0]:.2f}") print(f"Trung bình người không sở hữu: {model.intercept_:.2f}") print(f"Trung bình người sở hữu: {model.intercept_ + model.coef_[0]:.2f}") # Trực quan hóa fig, ax = plt.subplots(figsize=(8, 4)) colors = ['#58a6ff' if o == 0 else '#3fb950' for o in own] ax.scatter(own + np.random.normal(0, 0.03, n), balance, c=colors, alpha=0.6, edgecolors='white', linewidth=0.5)