Lợi nhuận:
- Khả năng phân biệt quy trình làm việc sáu giai đoạn của khoa học dữ liệu (xác định vấn đề, thu thập, làm sạch, khám phá, mô hình hóa, giao tiếp) và thẩm quyền mà trí tuệ nhân tạo hoạt động ở từng giai đoạn, theo mức độ rủi ro của nhiệm vụ
- Khả năng áp dụng một nguyên tắc xác minh từng đầu ra trí tuệ nhân tạo bằng cách kết nối nó với nguồn, chạy và so sánh nó cũng như chuyển nó qua bộ lọc chuyên gia.
- Khả năng biến các nguyên tắc về khả năng tái tạo và quyền riêng tư (viết thành mã, ẩn danh) thành thói quen phân tích ngay từ ngày đầu
Dữ liệu thô, lộn xộn và thường “dối trá” nằm trên bàn làm việc của nhà khoa học dữ liệu hàng ngày. Trong bảng doanh số, cột ngày được viết bằng ba định dạng khác nhau; số khách hàng bị trống ở một số dòng; Tên của cột là "thu nhập", nhưng nó chứa cả giá trị TL và USD. Công việc của khoa học dữ liệu là đưa ra quyết định đáng tin cậy từ sự hỗn loạn này: thu thập dữ liệu, làm sạch, khám phá, xây dựng mô hình, xác thực kết quả và biến nó thành một câu chuyện. Trí tuệ nhân tạo (AI hoặc gọi tắt là AI—hệ thống máy tính có thể tạo văn bản và mã, nhận dạng mẫu, tóm tắt và đưa ra dự đoán) có thể chạm vào mọi liên kết trong chuỗi này: viết mã dọn dẹp trong vài phút, đề xuất biểu đồ để phân tích thăm dò, diễn giải số liệu của mô hình, sửa truy vấn SQL. Nhưng AI tương tự cũng có thể cung cấp cho bạn khả năng bịa đặt tự tin chẳng hạn như "mối tương quan 0,72" đối với dữ liệu mà nó chưa từng thấy.
Bài học đầu tiên này không phải là phần giới thiệu về thư viện. Mục đích của nó là làm rõ nơi nào nên đưa AI vào quy trình làm việc của khoa học dữ liệu và nơi nào không bao giờ đặt nó. Hãy trình bày nguyên tắc cơ bản ngay từ đầu: AI là trợ lý chứ không phải nhà khoa học dữ liệu. Quyết định về việc thu thập dữ liệu nào, quyết định số liệu nào, có đưa mô hình vào sản xuất hay không và vạch ra ranh giới đạo đức ở đâu đều thuộc về chuyên gia có thẩm quyền. Đầu ra AI chưa được xác minh sẽ có rủi ro, cũng như một báo cáo phân tích chưa được ký.
Quy trình làm việc của khoa học dữ liệu: bản đồ từ đầu đến cuối
Để hiểu một dự án dữ liệu, sẽ rất hữu ích khi chia nó thành sáu giai đoạn. Toàn bộ mô-đun này tuân theo bản đồ này.
1. Định nghĩa vấn đề: Chúng ta đo lường cái gì, tại sao, để hỗ trợ cho quyết định nào? Giai đoạn này không được giao cho AI; Chính con người là người xác định công việc.
2. Thu thập dữ liệu: Xác định nguồn, trích xuất dữ liệu, lấy mẫu. (Đơn vị 2)
3. Làm sạch và tiền xử lý dữ liệu: Thiếu giá trị, ngoại lệ, chuyển đổi loại. (Đơn vị 3)
4. Phân tích dữ liệu thăm dò (EDA – Exploratory Data Analysis, giai đoạn nhận biết sự phân bố và mối quan hệ của dữ liệu “bằng mắt”): (Bài 4)
5. Kỹ thuật và mô hình hóa tính năng: Tạo biến, lựa chọn thuật toán, đào tạo, đánh giá. (Đơn vị 5, 6, 7)
6. Truyền thông và sản xuất: Trực quan hóa, câu chuyện, MLOps (kỷ luật lấy mô hình trực tiếp và giám sát nó). (Đơn vị 8, 11)
AI hoạt động với các quyền khác nhau trong mỗi giai đoạn trong số sáu giai đoạn này. Bảng dưới đây tóm tắt sự phân bổ quyền lực này; Đây là bảng quan trọng nhất của mô-đun.
Sân khấu
Vai trò của AI
Mức độ rủi ro
Ai phê duyệt
Định nghĩa vấn đề
đối tác động não
thấp
Nhà khoa học dữ liệu + bên liên quan
Viết mã dọn dẹp
Trình tạo phác thảo mã
trung bình
Nhà khoa học dữ liệu (đọc mã)
bình luận EDA
gợi ý mẫu
trung bình
nhà khoa học dữ liệu
Tạo tính năng
Trình tạo ý tưởng và mã
trung bình cao
Kiểm soát rò rỉ là phải
Lựa chọn mô hình/số liệu
nhà tư vấn
cao
nhà khoa học dữ liệu
Quyết định đưa vào sản xuất
đầu vào phụ trợ
rất cao
Nhóm + chủ doanh nghiệp
Phê duyệt về đạo đức/quyền riêng tư
chất kích thích
rất cao
con người, luôn luôn
Hãy ghi nhớ một câu trong biểu đồ này: khi rủi ro tăng lên, vai trò của AI sẽ giảm đi và sự chấp thuận của con người sẽ tăng lên.
Tại sao xác minh là trọng tâm của doanh nghiệp này
Các mô hình ngôn ngữ AI trông có vẻ chắc chắn nhưng có thể không chắc chắn. Trong ngôn ngữ kỹ thuật, điều này được gọi là ảo giác: đó là sự bịa đặt của mô hình về thông tin không tồn tại trong một câu trôi chảy như thể nó là sự thật. Trong khoa học dữ liệu, điều này có ba dạng. Đầu tiên là số giả: nếu bạn hỏi mô hình "số lượng đặt hàng trung bình là bao nhiêu" mà không đưa ra bất kỳ dữ liệu nào, nó sẽ tự tin cho bạn biết một con số, mặc dù nó chưa bao giờ nhìn thấy dữ liệu của bạn. Thứ hai là một hàm không tồn tại: mô hình có thể đề xuất một hàm hoàn toàn không tồn tại, chẳng hạn như pandas.read_Excel_fast(). Thứ ba, giải thích thống kê không chính xác: mô hình có thể lặp lại một cách trơn tru một lỗi thống kê cổ điển chẳng hạn như “giá trị p là 0,04, do đó giả thuyết đúng 96%”.
Kỷ luật xác minh bao gồm ba bước:
- Liên kết tới nguồn: Mọi con số, tỷ lệ và xu hướng phải đến từ dữ liệu của bạn chứ không phải bộ nhớ của AI. Sử dụng AI cho mã hoạt động trên dữ liệu chứ không phải để ghi nhớ dữ liệu.
- Chạy và so sánh: Chạy từng đoạn mã do chính AI đưa ra; So sánh từng số liệu mà nó tạo ra với một đường cơ sở độc lập.
- Bộ lọc chuyên gia: Tự kiểm tra xem kết quả đầu ra có mâu thuẫn với số liệu thống kê và kiến thức miền hay không.
Thận trọng: Đưa một bản phân tích do AI viết vào bản trình bày mà không chạy và đọc nó cũng giống như trình bày một báo cáo chưa được ký. Chỉ vì mã hoạt động không có nghĩa là nó đúng; Mã tính tổng sai cột cũng hoạt động không có lỗi.
Khả năng tái sản xuất: có thể tạo ra cùng một kết quả hai lần
Nguyên tắc thầm lặng nhưng quan trọng của khoa học dữ liệu là khả năng tái tạo: khi bạn chạy lại phân tích sáu tháng sau hoặc trên một máy tính khác, bạn sẽ nhận được kết quả tương tự. Rủi ro này tăng lên khi làm việc với AI, vì khi bạn yêu cầu AI "tạo biểu đồ này" và chơi thủ công, các bước sẽ biến mất. Quy tắc: mỗi bước phải được đăng ký trong mã và kiểm soát phiên bản (như Git); Trong các bước liên quan đến tính ngẫu nhiên, hạt giống ngẫu nhiên (giá trị ban đầu của bộ tạo số ngẫu nhiên; nếu cố định, kết quả sẽ lặp lại) phải được cố định. Chúng ta sẽ đào sâu chủ đề này ở Bài 10; Bây giờ, hãy tập thói quen này: "Đừng bấm bằng tay, hãy viết bằng mã."
ba trường hợp nhỏ
Trường hợp 1 - Tăng tốc an toàn. Một nhà phân tích thương mại điện tử thường dành nửa ngày để dọn dẹp bảng đơn hàng gồm 240 nghìn hàng. Anh ta đưa tên cột và 5 hàng đầu tiên (không có dữ liệu cá nhân) cho AI và yêu cầu mã làm sạch gấu trúc. AI tạo ra bản nháp trong 8 giây; Nhà phân tích đọc từng dòng mã, sửa lỗi phân tích ngày tháng và chạy nó. Thời lượng: 35 phút thay vì 4 giờ. AI cung cấp mã, việc xác minh vẫn thuộc về con người.
Trường hợp 2 - Bẫy đo lường được tạo ra. Một thực tập sinh đã hỏi AI: "Rừng ngẫu nhiên trên dữ liệu này chính xác đến mức nào?" mà không cần đào tạo mô hình nào cả. “Khoảng 89%,” AI cho biết. Thực tập sinh đã đưa điều này vào bài thuyết trình; Khi huấn luyện mô hình thật, độ chính xác là 71%. Sai lầm: Chờ đợi số liệu mà không cung cấp dữ liệu và mô hình cho AI.
Trường hợp 3 - Rò rỉ im lặng. Một nhóm đã triển khai ý tưởng do AI đề xuất là “thêm giá trị trung bình của biến mục tiêu làm đối tượng địa lý” mà không đặt câu hỏi về nó. Mô hình này hoạt động 98% trên tập thử nghiệm nhưng bị hỏng trong quá trình sản xuất do tính năng này làm rò rỉ thông tin trong tương lai (rò rỉ dữ liệu, Đơn vị 10). Sai lầm: Không lọc thống kê đề xuất AI.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Phân tích dữ liệu bán hàng này và cho tôi biết doanh thu trung bình.
Tuyên bố này có sai sót: AI không được cung cấp dữ liệu nên “thu nhập trung bình” chỉ có thể được bù đắp. Cả cột, dấu chấm và đơn vị tiền tệ đều không rõ ràng.
Lời nhắc mạnh mẽ:
Vai trò của bạn: trợ lý giúp đỡ một nhà khoa học dữ liệu. Tôi có DataFrame của gấu trúc: df. Các cột:- order_date (văn bản, ở định dạng "2024-03-01")- money_tl (thập phân, NaN ở một số hàng)- customer_id (số nguyên)Nhiệm vụ: (1) viết mã pandas để tính số tiền trung bình,(2) giải thích cách xử lý các giá trị NaN,(3) liệt kê các giả định mà mã đưa ra. Đừng tạo nên nội dung dữ liệu; chỉ cần tạo mã và tôi sẽ chạy và xác minh kết quả.
Trong yêu cầu này, âm mưu, kỳ vọng và “cấm chế tạo” đều rõ ràng. Bạn vẫn tự mình chạy và xác minh kết quả đầu ra.
Sự khởi đầu của đạo đức và quyền riêng tư
Khoa học dữ liệu thường làm việc với dữ liệu cá nhân: hồ sơ khách hàng, bệnh nhân, nhân viên. KVKK (Luật bảo vệ dữ liệu cá nhân) ở Türkiye và GDPR ở Châu Âu bảo vệ dữ liệu này. Dán tên thật, ID, email hoặc địa chỉ của bạn vào công cụ AI công khai là vi phạm. Quy tắc: ẩn danh dữ liệu trước khi chia sẻ, chỉ cung cấp lược đồ (tên cột, loại) và hàng ví dụ giả nếu cần. Chúng ta sẽ đào sâu chủ đề đạo đức ở Bài 11; Hãy đặt lại nguyên tắc ngay từ đầu: Để hiểu dữ liệu, việc chia sẻ cấu trúc của nó chứ không phải nội dung của nó thường là đủ.
Những lỗi thường gặp
- Chờ số/số liệu mà không cung cấp dữ liệu cho AI. Mô hình không thể truy cập dữ liệu; Con số anh đưa ra là giả. Luôn có kết quả tính toán và chạy.
- Nghĩ rằng mã làm việc là chính xác. Đoạn mã thao tác sai cột cũng chạy không có lỗi; Đừng tin mà không đọc logic.
- Dán dữ liệu cá nhân thực vào công cụ mở. Tên, số CMND, e-mail không bao giờ được chia sẻ; Sơ đồ là đủ.
- Thực hiện các bước theo cách thủ công và không viết chúng vào mã. Phân tích không thể tái sản xuất là không đáng tin cậy.
- Chấp nhận cách giải thích số liệu thống kê của AI mà không cần thắc mắc. AI có thể lặp lại những sai lầm kinh điển trong các khái niệm như giá trị p và mối tương quan.
Mẹo: Bao gồm một "dòng quy tắc" ngắn trong mỗi phiên AI của bạn: "Đừng tạo ra nội dung dữ liệu; chỉ cần tạo mã/phân tích và tôi sẽ chạy và xác minh kết quả; hãy cho biết 'không chắc chắn' ở chỗ bạn không chắc chắn." Câu duy nhất này làm giảm đáng kể nguy cơ ảo giác.
Tóm lại
AI là một trợ lý đắc lực trong khoa học dữ liệu: nó tăng tốc độ làm sạch mã, diễn giải EDA, đề xuất mô hình và trực quan hóa. Nhưng việc xác định vấn đề, lựa chọn số liệu, quyết định sản xuất và ranh giới đạo đức đều thuộc về con người. Quy trình làm việc có sáu giai đoạn và vai trò của AI sẽ trở nên nhỏ hơn khi rủi ro tăng lên. Ba thói quen là nền tảng của mọi thứ: liên kết nguồn (xác thực), khả năng tái tạo (mã hóa) và ẩn danh (bảo mật). Khi bạn tiếp thu được ba công cụ này, mọi công cụ trong phần còn lại của mô-đun sẽ trở thành công cụ tăng tốc an toàn cho bạn.
Nhiệm vụ ứng dụng
Chỉ cần tạo một lược đồ của một bảng nhỏ mà bạn có (hoặc một bảng giả định): tên cột, loại và 2-3 hàng ví dụ giả (không có dữ liệu cá nhân thực). Yêu cầu AI cung cấp mã thống kê tóm tắt bằng cách sử dụng mẫu "Lời nhắc mạnh mẽ" ở trên. Chạy mã, so sánh kết quả đầu ra với một giá trị thủ công, kiểm tra mọi giả định giả mạo và ghi lại những phát hiện của bạn trong 5 dấu đầu dòng.
danh sách kiểm tra
- [ ] Có phải tôi vừa cung cấp cho AI một lược đồ và mẫu giả thay vì dữ liệu cá nhân thật không?
- [ ] Tôi đã đọc và chạy mã mà nó tạo ra từng dòng một chưa?
- [ ] Tôi đã xác minh độc lập từng số ở đầu ra chưa?
- [ ] Tôi đã viết từng bước phân tích vào mã và làm cho nó có thể lặp lại chưa?
- [ ] Tôi đã xác định mức độ rủi ro của nhiệm vụ và giao quyền quyết định cuối cùng cho con người chưa?