Lợi nhuận:
- Khả năng xây dựng mô hình hồi quy tuyến tính với sự hỗ trợ của trí tuệ nhân tạo và giải thích các hệ số, sai số chuẩn và bình phương R bằng ngôn ngữ chính xác và phi nhân quả
- Khả năng hiểu các giả định cơ bản mà mô hình dựa trên (tuyến tính, ngoại sinh, phương sai không đổi) và điều gì xảy ra khi chúng bị vi phạm, đồng thời sử dụng trí tuệ nhân tạo để kiểm soát giả định.
- Khả năng nhận biết và sửa chữa các tuyên bố nhân quả quá mức và các vấn đề biến đổi bị bỏ qua trong cách giải thích hệ số do trí tuệ nhân tạo tạo ra
Hồi quy tuyến tính là xương sống của kinh tế lượng và thống kê ứng dụng. Ở dạng đơn giản nhất, nó ước tính một biến phụ thuộc (kết quả bạn muốn giải thích, chẳng hạn như thu nhập) thay đổi như thế nào thông qua mối quan hệ tuyến tính với một hoặc nhiều biến độc lập (các yếu tố giải thích, chẳng hạn như số năm học tập, kinh nghiệm). Mô hình có dạng: thu nhập = β0 + β1·giáo dục + β2·kinh nghiệm + u. Ở đây hệ số β (beta) thể hiện quy mô của mối quan hệ, và u thể hiện hạng sai số (tất cả các tác động không quan sát được) mà mô hình không thể giải thích được. Trong phần này, chúng ta sẽ xem trí tuệ nhân tạo (AI) tăng tốc độ xây dựng và giải thích hồi quy như thế nào, nhưng tại sao giải thích hệ số lại là nơi thường xuyên mắc lỗi nhất.
Hãy đặt mục đích cơ bản ngay từ đầu: AI viết mã hồi quy, sắp xếp bảng đầu ra, đưa ra bản nháp để giải thích hệ số. Nhưng chính bạn là người quyết định biến nào sẽ được đưa vào mô hình (đặc tả mô hình), hệ số được hiểu là quan hệ nhân quả hay quan hệ và liệu có biến nào bị bỏ qua hay không. Thói quen nguy hiểm nhất của AI là trình bày các hệ số hồi quy thông thường bằng ngôn ngữ nhân quả như “X tăng Y”; trong khi hầu hết các hồi quy chỉ hiển thị mối quan hệ (tương quan).
Quy trình hồi quy từng bước
1. Xây dựng mô hình bằng lý thuyết. Biến nào sẽ phụ thuộc và biến nào sẽ độc lập xuất phát từ kiến thức và lý thuyết hiện trường chứ không phải từ thống kê. Logic của "Yếu tố nào ảnh hưởng hợp lý đến kết quả này?" không phải là logic "bất cứ điều gì tôi đưa vào dữ liệu, hệ số sẽ rất đáng kể".
2. Đoán xem. Phương pháp phổ biến nhất là OLS (Bình phương tối thiểu thông thường): nó chọn các hệ số theo cách giảm thiểu tổng chênh lệch bình phương giữa các giá trị được quan sát và dự đoán. AI tạo mã cho điều này (lm() trong R, mô hình thống kê trong Python) một cách nhanh chóng.
3. Đọc đầu ra. Hãy tìm bốn yếu tố trong kết quả hồi quy: hệ số (hướng và độ lớn của mối quan hệ), sai số chuẩn (độ không đảm bảo ước tính của hệ số), thống kê t và giá trị p (độ mạnh của bằng chứng cho thấy hệ số khác 0), R bình phương (mức độ biến thiên của biến phụ thuộc mà mô hình giải thích, nằm trong khoảng từ 0 đến 1). R bình phương cao không có nghĩa là "mô hình tốt"; Không có nhân quả nào cả.
4. Giải thích chính xác hệ số. Nếu hệ số giáo dục là 1.200 thì cách giải thích đúng là: "Các biến khác không đổi, trình độ học vấn tăng lên trong một năm có liên quan đến mức thu nhập trung bình cao hơn là 1.200 đơn vị." Giải thích sai: “Thêm một năm học tập sẽ tăng thu nhập thêm 1.200”. Thứ hai là khẳng định về tính nhân quả và chỉ có thể được bảo vệ bằng thiết kế phù hợp (đơn vị 9).
5. Kiểm tra các giả định. Hiệu lực của hồi quy phụ thuộc vào các giả định nhất định (bên dưới). AI tạo mã chẩn đoán; Bạn đưa ra nhận xét.
Các giả định cơ bản của hồi quy tuyến tính
Các giả định làm cơ sở cho mô hình tuyến tính cổ điển là cần thiết để các hệ số không bị chệch (tập trung vào đường thẳng) và các sai số chuẩn đáng tin cậy:
- Độ tuyến tính: Mối quan hệ là tuyến tính theo các tham số (được kéo dài theo thuật ngữ log/bình phương nếu cần thiết).
- Tính ngoại sinh (trung bình có điều kiện bằng 0): Thuật ngữ lỗi không tương quan với các biến giải thích. Đây là giả định quan trọng nhất và thường xuyên bị vi phạm nhất; vi phạm tạo ra sai lệch biến bị bỏ qua.
- Phương sai không đổi (độ đồng nhất thay đổi): Phương sai của hạng sai số là như nhau trong tất cả các quan sát (vi phạm: phương sai thay đổi - đơn vị 5).
- Không có hiện tượng tự tương quan: Các lỗi độc lập với nhau (vi phạm thường xuyên trong chuỗi thời gian - đơn vị 5 và 8).
- Không có hiện tượng đa cộng tuyến cực độ: Các biến giải thích gần như không giống nhau (đơn vị 5).
Thận trọng: Vấn đề nguy hiểm nhất là bị bỏ qua sai lệch biến đổi. Nếu bạn loại bỏ một yếu tố khỏi mô hình của mình có liên quan đến cả thu nhập và trình độ học vấn (ví dụ: hoàn cảnh gia đình, khả năng), thì hệ số trình độ học vấn sẽ chịu tác động của yếu tố còn thiếu này và trở nên tăng cao. AI không thể biết biến còn thiếu; Chỉ có kiến thức lĩnh vực của bạn mới có thể nắm bắt được nó.
Bảng so sánh: giải thích hệ số đúng và sai
đầu ra
Giải thích (nhân quả) không chính xác
Giải thích đúng (quan hệ)
hệ số học vấn = 1.200
"Giáo dục tăng thu nhập thêm 1.200"
“Thêm một năm học tập, ceteris paribus, gắn liền với thu nhập cao hơn 1.200 người.”
R2 = 0,68
"Mô hình nắm bắt được thực tế"
"68% sự thay đổi được giải thích; không thể hiện quan hệ nhân quả"
p < 0,01
“Tác động là rất lớn”
"Bằng chứng chắc chắn rằng hệ số này khác 0; độ lớn là rời rạc"
hệ số âm
"X làm giảm Y"
"Khi X tăng, trung bình Y giảm; tại sao lại có vấn đề khác?"
Bốn lời nhắc có thể sao chép
1. Tạo mã hồi quy:
Vai trò của bạn: trợ lý mã kinh tế lượng. Tôi không chia sẻ dữ liệu, tôi muốn mã R. Trong data.frame 'dữ liệu', thu nhập (phụ thuộc), giáo dục, kinh nghiệm, giới tính (phân loại). Nhiệm vụ: viết mã hồi quy với lm() cho thu nhập ~ trình độ học vấn + kinh nghiệm + giới tính, hiển thị kết quả tóm tắt và khoảng tin cậy (confint) của các hệ số. Giải thích từng phần bằng một dòng bình luận. Tôi sẽ chạy và xác minh kết quả.
2. Phác thảo diễn giải hệ số (bằng ngôn ngữ quan hệ):
Giải thích đầu ra hồi quy bên dưới nhưng QUY TẮC: - viết các hệ số bằng ngôn ngữ QUAN HỆ (“liên kết với”), KHÔNG sử dụng ngôn ngữ nhân quả, - thêm “hằng số biến khác”, - trình bày bình phương R là 'quan hệ nhân quả', - không nhầm lẫn tầm quan trọng với kích thước hiệu ứng. Đầu ra: [dán bảng]
3. Mã kiểm tra giả định:
Viết mã chẩn đoán giả định cho mô hình thu nhập ~ giáo dục + kinh nghiệm (R): đồ thị phần dư (dư lượng) phù hợp, đồ thị QQ, phân phối phần dư. Giải thích trong dòng nhận xét giả định từng bài kiểm tra biểu đồ. Đề nghị sửa chữa; Chỉ cần đưa ra chẩn đoán và tôi sẽ đưa ra quyết định.
4. Truy vấn biến bị thiếu:
Hãy giúp tôi xem xét nguy cơ sai lệch biến đổi bị bỏ qua trong mô hình thu nhập ~ giáo dục. Liệt kê các biến có thể có liên quan đến cả thu nhập và trình độ học vấn nhưng KHÔNG có trong mô hình (ví dụ: hoàn cảnh gia đình, khu vực, khả năng) và giải thích mỗi biến có thể làm sai lệch hệ số giáo dục theo hướng nào. Đây không phải là điều chắc chắn, hãy để nó là một danh sách những điều cần cân nhắc; Tôi sẽ đưa ra quyết định.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Giải thích kết quả hồi quy này và giải thích kết quả.
Lời nhắc này sẽ giải phóng AI; rất có thể sẽ tạo ra những câu nhân quả và cường điệu như “đào tạo tăng thu nhập” và “mô hình rất thành công”.
Lời nhắc mạnh mẽ:
Vai trò của bạn: trợ lý kinh tế lượng cẩn thận. Giải thích kết quả đầu ra, nhưng: (1) viết tất cả các hệ số bằng ngôn ngữ quan hệ, (2) sử dụng mẫu "tất cả những thứ khác ceteris paribus", (3) không nhầm R bình phương với quan hệ nhân quả, (4) tách biệt tầm quan trọng khỏi quy mô ảnh hưởng, (5) lưu ý việc không kiểm tra giả định ngoại sinh của mô hình và rủi ro của các biến bị bỏ qua. Đầu ra: [bảng]
Sự khác biệt: ý chí mạnh mẽ cấm ngôn ngữ nhân quả, làm cho sự mơ hồ và giới hạn của giả định trở nên rõ ràng.
ba trường hợp nhỏ
Trường hợp 1 - Bẫy ngôn ngữ nhân quả. Một nhà phân tích nhận thấy hệ số quảng cáo là 2,4 trong quảng cáo ~ hồi quy doanh số bán hàng của anh ấy và sử dụng kế hoạch chi tiết AI như sau: “Mỗi đơn vị chi cho quảng cáo sẽ tăng doanh số bán hàng lên 2,4 đơn vị”. Ban quản lý đã tăng ngân sách tương ứng; trong khi đó trong thời kỳ doanh số cao đã có nhiều quảng cáo hơn (quan hệ nhân quả ngược) và hệ số phản ánh điều này. Bài học: hồi quy thông thường không phải là bằng chứng của quan hệ nhân quả; hướng đi không rõ ràng.
Trường hợp 2 - Biến bị bỏ qua. Trong một nghiên cứu, hệ số thu nhập ~ giáo dục là 1.900. Khi trình độ học vấn của cha mẹ và khu vực được thêm vào mô hình, hệ số giảm xuống còn 1.150. Trong mô hình đầu tiên, giáo dục thực sự đã thay thế một số ảnh hưởng của nền tảng gia đình. Bài học: một biến bị thiếu nhưng có tương quan sẽ làm tăng hệ số; Xem xét những thiếu sót có thể xảy ra với kiến thức miền.
Trường hợp 3 - Ảo ảnh bình phương R cao. Một sinh viên nhìn thấy R2=0,94 và nói "mô hình của tôi thật hoàn hảo". Nhưng một trong những biến độc lập gần như giống với biến phụ thuộc (một mặt hàng đã được đưa vào đợt giảm giá). Mô hình không giải thích thực tế, nó đang giải thích chính nó. Bài học: R bình phương cao không đảm bảo chất lượng mô hình; Kiểm tra logic là cần thiết.
Những lỗi thường gặp
- Giải thích hệ số một cách nhân quả. Ngôn ngữ “Tăng/giảm” là sai trừ khi được thiết kế bảo vệ; Nói "liên kết với".
- Bỏ qua biến bị bỏ qua. Một yếu tố bị thiếu liên quan đến cả X và Y sẽ làm sai lệch hệ số; Xem xét những thiếu sót có thể xảy ra.
- Sai lầm R bình phương là thước đo thành công. Bình phương R cao không có nghĩa là quan hệ nhân quả hoặc mô hình chính xác; Nó thậm chí có thể là dấu hiệu của sự rò rỉ khác nhau.
- Ý nghĩa khó hiểu với sự vĩ đại. p<0,05 không có nghĩa là ảnh hưởng lớn; Xem thêm độ lớn thực tế của hệ số.
- Giải thích các giả định mà không kiểm tra chúng. Vi phạm làm sai lệch các lỗi tiêu chuẩn và cách giải thích; chẩn đoán không thể bỏ qua.
Gợi ý: Với mỗi hệ số, hãy hỏi "Tôi có thể giải thích mối quan hệ này theo hướng ngược lại không? Hay có yếu tố thứ ba ảnh hưởng đến cả hai?" Hai câu hỏi này ngăn chặn sự diễn giải quá mức về nhân quả trước khi ngòi bút chạm vào trang giấy.
Tóm lại
Hồi quy tuyến tính là công cụ cơ bản để đo lường mối quan hệ của kết quả với các yếu tố giải thích. AI nhanh chóng tạo ra mã mô hình, bố cục đầu ra và phác thảo diễn giải; nhưng đặc tả mô hình, việc giải thích mối quan hệ của hệ số và rủi ro của các biến bị bỏ qua là trách nhiệm của chuyên gia. Sai lầm phổ biến nhất là trình bày hệ số là quan hệ nhân quả ("tăng"); ngôn ngữ đúng là có tính chất quan hệ ("liên quan đến, tất cả những thứ khác không đổi"). Bình phương R cao không phải là thành công hay nhân quả; Không có cách giải thích nào là an toàn nếu không kiểm tra các giả định (đặc biệt là tính ngoại sinh).
Nhiệm vụ ứng dụng
Thiết lập hồi quy với một biến phụ thuộc và ít nhất hai biến độc lập trên tập dữ liệu. Yêu cầu mã từ AI và chạy nó. Trước tiên, hãy để AI giải thích các hệ số bằng ngôn ngữ quan hệ, sau đó bạn xem xét và sửa từng tuyên bố nhân quả. Thêm một biến có khả năng liên quan vào mô hình và quan sát hệ số chính thay đổi như thế nào và diễn giải điều này trong một đoạn văn trong khuôn khổ độ lệch biến bị bỏ qua. Cuối cùng, tạo ra các sơ đồ chẩn đoán giả định và lưu ý giả định nào có vẻ chắc chắn và giả định nào có vẻ nghi vấn.
danh sách kiểm tra
- [ ] Tôi xây dựng mô hình dựa trên lý thuyết và kiến thức thực địa chứ không dựa trên dữ liệu.
- [ ] Tôi giải thích các hệ số bằng ngôn ngữ quan hệ ("liên quan đến, ceteris paribus").
- [ ] Tôi lưu ý rằng các tuyên bố nhân quả đòi hỏi phải có một thiết kế riêng biệt.
- [ ] Tôi đã kiểm tra độ nhạy của hệ số chính bằng cách xem xét các biến có thể bị bỏ qua.
- [ ] Tôi không trình bày bình phương R như thước đo thành công/quan hệ nhân quả.
- [ ] Lập và giải thích các sơ đồ chẩn đoán giả định; Tôi đã đánh giá liệu có vi phạm hay không.