Lợi nhuận:
- Có thể phân biệt vị trí nào trong quy trình làm việc của PDR (ghi chú phỏng vấn, tài liệu tâm lý giáo dục, nội dung nghề nghiệp, tóm tắt theo dõi) trí tuệ nhân tạo tiết kiệm thời gian thực và vị trí nào mà các quyết định như chẩn đoán, hướng dẫn và tư vấn tâm lý được giao cho chuyên gia, tùy thuộc vào mức độ rủi ro của nhiệm vụ.
- Hiểu rằng trí tuệ nhân tạo không bao giờ có thể đưa ra quyết định trong trường hợp khủng hoảng và rủi ro, cần phải tham khảo ý kiến của các chuyên gia về con người và các cơ quan chức năng cần thiết, và mọi kết quả đầu ra đều phải được xác minh.
- Ẩn danh dữ liệu sinh viên trong phạm vi KVKK, bảo mật nghề nghiệp và các nguyên tắc đạo đức của PDR và tạo thói quen lựa chọn phương tiện an toàn
Một ngày của cố vấn học đường tràn ngập vô số văn bản và tài liệu mà ít người nhìn thấy: hồ sơ phỏng vấn cá nhân, kế hoạch hướng dẫn lớp học, tài liệu quảng cáo tâm lý giáo dục, thư thông tin phụ huynh, báo cáo thang đo, biểu đồ theo dõi học sinh, biên bản nhóm và ủy ban, tài liệu lựa chọn nghề nghiệp. Phần lớn công việc này lặp đi lặp lại và tiêu tốn hàng giờ đồng hồ tại bàn làm việc; Tuy nhiên, giá trị thực sự của nghề nằm ở mối quan hệ trực diện, dựa trên sự tin cậy được thiết lập với sinh viên. Trí tuệ nhân tạo (AI) — các chương trình máy tính có thể hiểu ngôn ngữ con người và tạo ra văn bản, dàn ý, kế hoạch và tóm tắt — là một công cụ hỗ trợ mạnh mẽ để tăng tốc quá trình viết lặp đi lặp lại này. Trong suốt mô-đun này, chúng ta sẽ học cách sử dụng AI không phải như một giải pháp kỳ diệu mà như một trợ lý viết lách tạo ra bản nháp, đưa ra ý tưởng và chỉnh sửa.
Nhưng ngay từ đầu, hãy đặt hai câu lên trên mọi thứ khác trong nghề này: AI không đưa ra quyết định về học sinh; Nó không chẩn đoán, cung cấp hướng dẫn hoặc thay thế mối quan hệ tư vấn tâm lý. Và thậm chí còn quan trọng hơn: Trong các tình huống khủng hoảng và rủi ro, AI không bao giờ phát huy tác dụng; Ở đó, các chuyên gia con người, gia đình và cơ quan có thẩm quyền là rất cần thiết. Hai nguyên tắc này là nền tảng bảo mật mà trên đó phần còn lại của mô-đun được xây dựng.
Đơn vị đầu tiên này đặt ra ba nền tảng: phân biệt nơi nào AI tiết kiệm thời gian trong quy trình làm việc của PDR và nơi nào cần dừng lại; xác minh từng đầu ra; bảo vệ dữ liệu của sinh viên.
AI tiết kiệm thời gian ở đâu, quyết định thuộc về chuyên gia?
Sẽ rất hữu ích khi nghĩ đến các nhiệm vụ PDR theo mức độ rủi ro. Mức độ rủi ro là mức độ tổn hại mà nó sẽ gây ra cho học sinh nếu một nhiệm vụ được thực hiện không chính xác. Ở PDR, nguy cơ này nghiêm trọng hơn ở hầu hết các ngành nghề; bởi vì nó liên quan đến sức khỏe tinh thần, sự an toàn và tương lai của đứa trẻ.
Các nhiệm vụ có mức độ đặt cược thấp mà AI tăng tốc rất nhiều: Phác thảo hoạt động hướng dẫn lớp học, viết phiên bản đầu tiên của tập tài liệu về nỗi lo lắng khi kiểm tra, sắp xếp các ghi chú phỏng vấn rải rác thành một cấu trúc có tổ chức (sau khi dữ liệu cá nhân bị xóa), soạn thảo bản tin dành cho phụ huynh, đơn giản hóa văn bản giới thiệu nghề nghiệp, tạo ý tưởng cho bài thuyết trình tâm lý giáo dục. Ở đây AI giải quyết được vấn đề “trang trống”; Bạn sửa nó, làm phong phú nó bằng kiến thức chuyên môn của mình và đưa ra sự chấp thuận cuối cùng.
Các nhiệm vụ có rủi ro cao mà quyết định được giao cho chuyên gia: Dán nhãn giống như chẩn đoán cho một học sinh ("đứa trẻ này bị trầm cảm", "cậu bé bị thiếu tập trung"), diễn giải lâm sàng kết quả thang đo, hướng học sinh đến một nghề nghiệp, sử dụng các tuyên bố dứt khoát cho gia đình, xác định hành vi là "rủi ro" và bắt đầu hành động. Những quyết định này ảnh hưởng đến cuộc sống của trẻ; Trách nhiệm và tiếng nói cuối cùng luôn thuộc về chuyên gia. Ở đây AI đưa ra nhiều nhất một quan điểm, nó không thể đưa ra quyết định.
Khu vực cấm – nơi AI chưa từng bước vào: Khủng hoảng và rủi ro. Ý tưởng tự tử, làm hại bản thân hoặc người khác, lạm dụng tình dục/thể chất/cảm xúc, bỏ bê, các triệu chứng tâm lý nghiêm trọng. Trong những trường hợp này, chúng tôi hỏi AI "tôi nên làm gì?" Yêu cầu là lãng phí thời gian quý giá và cố gắng giao trách nhiệm cho một chương trình. Điều đúng đắn là vận hành quy trình khẩn cấp, liên hệ với chuyên gia con người và gia đình được ủy quyền, đồng thời thông báo cho các cơ quan chức năng cần thiết. Chúng tôi sẽ trình bày chi tiết vấn đề này trong bài 9; Nhưng phản xạ phải được hình thành từ hôm nay.
Thận trọng: "AI đã nói" không phải là lời biện minh. Kết quả đầu ra của AI không thể thay thế cho sự chấp thuận của chuyên gia có thẩm quyền trong bất kỳ lĩnh vực nào ảnh hưởng đến sức khỏe tinh thần, sự an toàn hoặc tương lai của học sinh. Một đầu ra AI chưa được xác minh giống như một tin đồn chưa được xác minh.
Tại sao cần phải xác minh? Ảo giác và thiên vị
AI tạo ra văn bản không phải bằng cách "biết" mà bằng cách "dự đoán từ có thể". Chính vì vậy mà đôi khi nó đưa ra những thông tin cực kỳ trôi chảy nhưng thực chất lại không chính xác. Đây gọi là ảo giác: một nghiên cứu khoa học không tồn tại, một trích dẫn ngầm, một thống kê sai, một quy chuẩn quy mô không tồn tại, một hướng dẫn bịa đặt. Đối với một chuyên gia PDR, điều này thật nguy hiểm; Bởi vì thông tin không chính xác được cung cấp trong giáo dục tâm lý sẽ biến thành một quan niệm sai lầm vĩnh viễn ở học sinh, và những số liệu thống kê sai được cung cấp cho một gia đình sẽ biến thành sự lo lắng sai lầm.
Vấn đề thứ hai là sự thiên vị: AI có thể lặp lại các mô hình xã hội trong dữ liệu mà nó được đào tạo; có thể tạo ra kết quả sai lệch về giới tính, văn hóa, tình trạng kinh tế xã hội hoặc “thành tích”. Ví dụ, nó có thể khiến một sinh viên nữ thiên về một số ngành nghề nhất định và một sinh viên nam thiên về những ngành nghề khác; hoặc nó có thể coi hành vi là "nghịch ngợm" ở một học sinh và là "vấn đề nghiêm trọng" ở một học sinh khác. Sự thiên vị ở PDR trực tiếp làm suy yếu nguyên tắc công bằng và bình đẳng về cơ hội.
Do hai giới hạn này, chúng tôi đề xuất một nguyên tắc xác thực đơn giản để áp dụng cho mọi đầu ra:
- Kết nối nó với nguồn. Xác minh mọi thông tin chứa dữ kiện, số liệu thống kê, trích dẫn, quy tắc hoặc tiêu chí chẩn đoán từ nguồn đáng tin cậy (nghiên cứu khoa học, cơ quan chính phủ, tài liệu của tổ chức chuyên nghiệp).
- Kiểm tra lại. Kiểm tra thủ công đầu ra số hoặc logic (bảng, kế hoạch thời gian).
- Bộ lọc chuyên nghiệp “Điều này có phù hợp với học sinh này, lứa tuổi này, nền văn hóa này, gia đình này không? Nó có khả năng gây hại không?” xử lý nó bằng chuyên môn của riêng bạn.
- Chịu trách nhiệm. Thời điểm bạn phê duyệt, văn bản đó là của bạn; Mọi sai sót là trách nhiệm của bạn.
Dữ liệu sinh viên: quyền riêng tư ngay từ đầu
Bản ghi PDR chứa loại dữ liệu nhạy cảm nhất. Tên, mã số, lớp học sinh là dữ liệu cá nhân; trạng thái tinh thần, hoàn cảnh gia đình, thông tin sức khỏe, chẩn đoán hoặc chấn thương là những dữ liệu cá nhân đặc biệt và cần được bảo vệ cao hơn nhiều. Tại Türkiye, KVKK (Luật bảo vệ dữ liệu cá nhân) quy định điều này; Ngoài ra, chuyên gia PDR còn có nghĩa vụ bảo mật nghiêm ngặt xuất phát từ đạo đức nghề nghiệp. Chỉ cần nhập tên, trạng thái hoặc bản ghi cuộc trò chuyện của học sinh vào công cụ AI công khai có nghĩa là bạn sẽ loại bỏ dữ liệu nhạy cảm nhất khỏi tầm kiểm soát của mình.
Quy tắc rất đơn giản và không khoan nhượng: Trước tiên hãy ẩn danh. Xóa thông tin nhận dạng như tên-họ, số trường, chi nhánh lớp, tên và địa chỉ của phụ huynh; Sử dụng các cách diễn đạt chung như “Học sinh A”, “học sinh 13 tuổi”, “một thiếu niên gặp căng thẳng trong gia đình”. Nếu có thể, hãy chọn các công cụ của công ty cung cấp khả năng đảm bảo xử lý dữ liệu do trường học hoặc bộ của bạn cung cấp. Chúng ta sẽ đào sâu nguyên tắc này ở bài 10; Bây giờ hãy biến nó thành một phản xạ.
Mẹo: Trước khi dán văn bản vào AI, hãy tìm kiếm tên, số hiệu, tổ chức và tên phụ huynh bằng "Ctrl+F". Nếu tìm thấy, hãy thay thế bằng các cụm từ chung chung trước khi gửi. Khi nghi ngờ: "Thông tin này có nhận dạng được học sinh không?" hỏi; Nếu câu trả lời của bạn là có, nó sẽ xuất hiện.
ba trường hợp nhỏ
Trường hợp 1 - Số liệu thống kê bịa đặt. Một cố vấn hướng dẫn đã hỏi AI về "tỷ lệ lo lắng trong bài kiểm tra ở học sinh trung học" trong một buổi hội thảo về lo lắng trong bài kiểm tra. AI đưa ra con số rõ ràng như “73%” và tên “nghiên cứu”. Khi thầy cố gắng tìm kiếm nguồn gốc thì thấy rằng cả nơi đó lẫn phòng học đó đều không tồn tại. Nhờ bước xác minh, anh quay lại trình bày con số hư cấu cho 120 phụ huynh; thay vào đó anh ấy sử dụng một tuyên bố chung mà nguồn có thể được xác minh. Quá trình chuẩn bị mất thêm 6 phút, thông tin sai lệch đã bị chặn.
Trường hợp 2 - Tiết kiệm thời gian. Một chuyên gia của PDR đang lên kế hoạch cho các hoạt động hướng dẫn lớp học riêng biệt cho 4 lớp mỗi tháng và dành khoảng 4 giờ cho việc đó. Anh ấy bắt đầu sử dụng AI làm công cụ tạo bản nháp: anh ấy yêu cầu AI tạo bản thảo kế hoạch buổi học dựa trên kết quả và sửa chúng theo thực tế lớp học. Thời gian giảm từ 4 giờ mỗi tháng xuống còn ~1,5 giờ; Anh ấy dành 2,5 giờ kiếm được cho các cuộc họp cá nhân. Chất lượng không bị ảnh hưởng vì việc chỉnh sửa và lọc cuối cùng được thực hiện bởi chuyên gia.
Trường hợp 3 - Biên giới khủng hoảng. Trong một cuộc phỏng vấn, một sinh viên đã nói về ý nghĩ làm hại chính mình. Tâm trí của chuyên gia hỏi: "Tôi có nên viết tình huống cho AI và nhận được gợi ý không?" Nó trôi qua nhưng đã dừng lại: đó là một tình huống khủng hoảng. Không viết một dòng nào cho AI, anh ta thực hiện quy trình khẩn cấp, thông báo cho ban giám hiệu nhà trường và gia đình, đồng thời hướng dẫn học sinh đến gặp chuyên gia liên quan một cách an toàn. Anh ta chỉ sử dụng AI sau cuộc khủng hoảng, để chỉnh sửa ngôn ngữ của biên bản ghi lại vụ việc một cách ẩn danh.
Mẫu có thể sao chép
1) Tách nhiệm vụ theo mức độ rủi ro:
Vai trò của bạn: Trợ lý VIẾT cho cố vấn trường học. Chia 8 nhiệm vụ PDR sau đây thành hai danh sách: (A) các nhiệm vụ có rủi ro thấp trong đó AI có thể tự tin đưa ra phác thảo, (B) các nhiệm vụ có rủi ro cao trong đó quyết định cuối cùng phải thuộc về chuyên gia. Ngoài ra, nếu một nhiệm vụ rơi vào vùng khủng hoảng/rủi ro, hãy đánh dấu nó là "BỊ CẤM - chuyên gia về con người". Viết một câu biện minh cho mỗi nhiệm vụ. Nhiệm vụ: [dán nhiệm vụ hàng tuần của bạn vào đây]
2) Lời nhắc kiểm tra xác thực:
Đánh dấu mỗi câu trong văn bản bên dưới có chứa một sự kiện, số liệu thống kê, trích dẫn, nguồn hoặc tuyên bố khoa học và thêm ghi chú cho mỗi câu "nên xác minh từ nguồn nào?" Đừng tự xác minh; chỉ liệt kê những gì cần được xác minh.Văn bản: [dán bản nháp]
3) Kiểm tra trước ẩn danh:
Tìm từng cụm từ trong văn bản dưới đây có thể mô tả trực tiếp hoặc gián tiếp một học sinh (tên, số hiệu, lớp, trường, tên phụ huynh, mô tả tình huống cụ thể) và đề xuất một giải pháp thay thế tổng quát hơn cho mỗi cụm từ. Nội dung bình luận.Text: [dán văn bản]
4) Hỗ trợ các câu hỏi chuẩn bị phỏng vấn:
Vai trò của bạn: Trợ lý viết bài của PDR. Chẩn đoán, hướng dẫn. Tôi đang chuẩn bị cho một cuộc gặp HỖ TRỢ với một học sinh 13 tuổi (ẩn danh) về động lực học tập. Đề xuất 8 câu hỏi chuẩn bị mở, không mang tính phán xét. Thêm cảnh báo ở trên cùng để “tham khảo ý kiến chuyên gia/gia đình” nếu phát hiện dấu hiệu khủng hoảng.
Dấu nhắc yếu / Dấu nhắc mạnh
yếu:
Một học sinh của tôi không vui, tôi phải làm sao?
Lời nhắc này không có ngữ cảnh, có thể gây rủi ro dữ liệu cá nhân và đẩy AI vào lãnh thổ chẩn đoán/giới thiệu; tạo ra đầu ra chung chung, rủi ro và vô dụng.
Mạnh:
Vai trò của bạn: Trợ lý VIẾT cho cố vấn trường học. Không chẩn đoán hoặc đưa ra hướng dẫn. Tình huống sau đây đã được ẨN DANH. Bối cảnh: Một học sinh 13 tuổi dường như mất hứng thú với lớp học trong những tuần gần đây. Nhiệm vụ: Đề xuất 6 câu hỏi chuẩn bị mở, không mang tính phán xét cho một cuộc phỏng vấn HỖ TRỢ với học sinh này. Nếu phát hiện có dấu hiệu khủng hoảng, hãy thêm cảnh báo ở trên cùng để “tham khảo ý kiến chuyên gia/gia đình”.
Nhu cầu này mã hóa vai trò, giới hạn, tính ẩn danh, định dạng và phản xạ khủng hoảng ngay từ đầu.
Những lỗi thường gặp
- Đang dán thông tin xác thực. Nhập hồ sơ phỏng vấn hoặc tên sinh viên vào công cụ. Giải pháp: ẩn danh trước.
- Hỏi AI về cuộc khủng hoảng. Dành vài phút trong trường hợp rủi ro. Giải pháp: giao thức trực tiếp và chuyên gia con người.
- Sử dụng mà không cần xác minh. Chuyển số liệu/nguồn bịa đặt cho học sinh hoặc phụ huynh. Giải pháp: kết nối với nguồn.
- Đang chờ chẩn đoán. Từ AI đến "đứa trẻ này bị sao vậy?" để yêu cầu chẩn đoán. Giải pháp: chẩn đoán và giải thích thuộc về chuyên gia.
- Nó có nghĩa là "AI đã nói". Đổ trách nhiệm lên xe. Giải pháp: quyết định và trách nhiệm cuối cùng thuộc về chuyên gia.
Bảng: Mức độ rủi ro nhiệm vụ và vai trò của AI
Nhiệm vụ
Mức độ rủi ro
Vai trò của AI
người ra quyết định
Đề cương hoạt động hướng dẫn lớp học
thấp
Tạo bản nháp
Chuyên gia tổ chức
Tài liệu giáo dục tâm lý phiên bản đầu tiên
thấp
dự thảo + ý tưởng
Chuyên gia xác nhận
Chỉnh sửa ghi chú cuộc trò chuyện (ẩn danh)
trung bình
Bố cục định dạng/ngôn ngữ
Chuyên gia xác nhận
Giải thích kết quả thang đo
cao
Chỉ trình bày ngôn ngữ
Đánh giá của chuyên gia
Chẩn đoán/hướng dẫn dứt khoát
cao
Không tham gia
chuyên gia
Phản ứng với khủng hoảng/rủi ro
bị cấm
Không tham gia
chuyên gia con người + thẩm quyền
Tóm lại
AI là trợ thủ đắc lực giúp tăng tốc độ viết lặp đi lặp lại của PDR nhưng nó không phải là người ra quyết định. Phân tách nhiệm vụ theo mức độ rủi ro; Sử dụng AI một cách thoải mái trong công việc soạn thảo có rủi ro thấp, giữ các quyết định có rủi ro cao cho riêng mình, loại bỏ AI hoàn toàn khỏi khủng hoảng và rủi ro. Xác minh mọi đầu ra, ẩn danh mọi dữ liệu, luôn chịu trách nhiệm.
Nhiệm vụ ứng dụng
Viết ra 10 nhiệm vụ PDR hàng tuần của bạn vào danh sách. Dán nhãn cho mỗi mục “rủi ro thấp / rủi ro cao / bị cấm (khủng hoảng)”. Sau đó, bằng cách sử dụng mẫu “lời nhắc mạnh mẽ” ở trên, yêu cầu một công cụ AI tạo ra bản nháp ẩn danh của một trong những nhiệm vụ có rủi ro thấp và đưa đầu ra qua 4 bước của quy trình xác minh.
danh sách kiểm tra
- [ ] Tôi chia nhiệm vụ thành mức độ rủi ro (thấp/cao/bị cấm).
- [ ] Tôi đã ẩn danh thông tin xác thực trước khi đưa văn bản vào công cụ.
- [ ] Trong tình huống khủng hoảng/rủi ro, tôi nhắm mục tiêu vào giao thức và chuyên gia con người chứ không phải AI.
- [ ] Tôi đã xác minh sự thật, số liệu thống kê và nguồn trong đầu ra.
- [ ] Tôi chấp nhận rằng quyết định cuối cùng và trách nhiệm thuộc về tôi.