Lợi nhuận:
- Có thể phân biệt nơi nào trí tuệ nhân tạo tiết kiệm thời gian trong quy trình làm việc xã hội (tóm tắt, chỉnh sửa, đơn giản hóa, dự thảo) và nơi nào các quyết định về phán đoán lâm sàng, rủi ro và trình bày được giao cho con người, tùy thuộc vào mức độ rủi ro.
- Khả năng áp dụng một nguyên tắc xác minh từng đầu ra thông qua các bước liên kết nó với bằng chứng thực tế, xác nhận thông tin bên ngoài với các nguồn chính thức hiện tại và lọc thông tin đó theo độ chệch.
- Để hiểu lý do tại sao quyền riêng tư của khách hàng, sự khác biệt giữa thế giới dữ liệu khách hàng và ẩn danh, cũng như trách nhiệm của KVKK cần được xem xét ngay từ đầu trong công tác xã hội.
Bạn đang ở buổi sáng của một trung tâm dịch vụ xã hội. Ba đơn đăng ký mới đã được gửi đến hôm qua: một phụ nữ là nạn nhân của bạo lực và hai đứa con, một người già cần được chăm sóc và một thiếu niên có nguy cơ bỏ học. Có bốn báo cáo điều tra xã hội đang nằm trên bàn của bạn, một ý kiến do tòa án yêu cầu, các hồ sơ vụ án cần được điền và sự chuẩn bị cho chuyến thăm nhà cùng gia đình vào chiều nay. Công tác xã hội (nghề nghiệp và kỷ luật được thực hiện nhằm cải thiện chức năng xã hội của cá nhân, gia đình và cộng đồng, đảm bảo họ tiếp cận các quyền và phúc lợi, đồng thời bảo vệ các nhóm dễ bị tổn thương) là một lĩnh vực vốn sử dụng nhiều tài liệu, áp lực về thời gian, liên quan đến đời sống con người và có tính trách nhiệm cao. Trí tuệ nhân tạo (AI - phần mềm có thể trích xuất các mẫu từ dữ liệu lịch sử và tạo ra hoặc phân loại văn bản, tóm tắt, bản dịch và bản nháp) giúp bạn giảm bớt áp lực về thời gian và tải tài liệu này. Nhưng phần đầu của mô-đun này rất rõ ràng: AI là trợ lý, người tóm tắt và tạo đề cương; Bạn là chuyên gia có năng lực, người đưa ra đánh giá, rủi ro và quyết định cuối cùng về khách hàng.
Trong bài đầu tiên này, chúng ta sẽ tập trung vào kỷ luật chứ không phải công cụ. Bạn sẽ tìm hiểu AI là công cụ tiết kiệm thời gian thực trong quy trình làm việc xã hội ở đâu, nơi nào nguy hiểm, cách xác minh từng đầu ra, cách bảo vệ quyền riêng tư và dữ liệu cá nhân của khách hàng cũng như cách luôn cảnh giác với sự thiên vị. Nếu không đặt nền tảng này, các đơn vị tiếp theo vẫn chưa được công bố - bởi vì trong công tác xã hội, một kết quả chưa được kiểm chứng không chỉ là một câu sai; Đó là một sai lầm có thể dẫn đến việc trẻ bị đánh giá sai, có nguy cơ bị bỏ qua, gia đình bị kỳ thị một cách bất công hoặc những thông tin nhạy cảm bị rò rỉ.
AI có ích ở đâu trong quy trình công tác xã hội?
Hãy chia công việc công tác xã hội thành hai cụm lớn. Cụm đầu tiên: các nhiệm vụ sử dụng nhiều tài liệu, lặp đi lặp lại, có thể trích xuất theo mẫu và dựa trên ngôn ngữ. Dịch các ghi chú rải rác sau cuộc phỏng vấn thành hồ sơ vụ án có tổ chức, tóm tắt theo trình tự thời gian của một hồ sơ dài, khung đầu tiên của báo cáo điều tra xã hội, đơn giản hóa danh sách viện trợ/dịch vụ cho phù hợp với ngôn ngữ của khách hàng, bản thảo thư giới thiệu, dịch văn bản thông tin đơn giản cho khách hàng đa ngôn ngữ, khuôn khổ đầu tiên của phân tích nhu cầu chương trình. Trong những công việc này, AI giảm thời gian xuống còn vài phút và không bị mệt mỏi.
Cụm thứ hai: các nhiệm vụ đòi hỏi sự phán đoán, đánh giá lâm sàng, đánh giá rủi ro và trách nhiệm. Liệu một đứa trẻ có an toàn ở nhà hay không, mức độ nguy cơ tự làm hại bản thân của một cá nhân, liệu gia đình có cần các biện pháp bảo vệ hay không, ý kiến về việc báo cáo sẽ được trình lên tòa án hay không, liệu dịch vụ có thực sự phù hợp với khách hàng hay không. Những quyết định này đòi hỏi năng lực chuyên môn, phán đoán lâm sàng, kiến thức bối cảnh, trách nhiệm đạo đức và thường là ý kiến của nhóm đa ngành. Tại đây, AI sẽ nhân rộng các tùy chọn, tạo bản nháp, nhắc nhở bạn về những gì đã bị bỏ qua — nhưng đánh giá và chữ ký cuối cùng là của bạn.
Hãy làm rõ sự khác biệt trong một câu: AI rất mạnh về các câu hỏi "có gì trong tệp này và bản nháp đầu tiên trông như thế nào"; Quyết định là của bạn khi đặt ra những câu hỏi như "Tình hình thực sự của người này là gì và tôi có thể bảo vệ điều này thay mặt cho nghề nghiệp của mình không?"
Mẹo: Trước khi giao công việc cho AI, hãy hỏi: “Ai sẽ bị tổn hại nếu kết quả này sai?” Nếu câu trả lời là "vài phút tái cấu trúc", hãy ủy thác một cách thoải mái. Nếu câu trả lời là "đánh giá sai khách hàng, trốn tránh rủi ro hoặc rò rỉ thông tin", hãy để AI đưa ra bản dự thảo và bạn đưa ra quyết định cũng như xác minh.
Quyền riêng tư: nguyên tắc bất khả xâm phạm
Trọng tâm của công tác xã hội là sự tin cậy và sự tin cậy dựa trên sự bảo mật. Một khách hàng cho bạn biết những thông tin riêng tư nhất, dễ vỡ nhất của họ—bạo lực, nghèo đói, tình trạng sức khỏe, bí mật gia đình—dựa vào tính bảo mật nghề nghiệp. Khi thông tin này rơi vào tay kẻ xấu, nó sẽ đe dọa tính mạng, an ninh và nhân phẩm của một người. Quy tắc cơ bản ở đây: Không có dữ liệu cá nhân nào nhận dạng khách hàng (tên, địa chỉ, ID TR, sức khỏe, thông tin gia đình, v.v.) sẽ được nhập vào công cụ AI công khai mà tổ chức của bạn chưa phê duyệt. Văn bản bạn nhập vào dịch vụ AI công cộng được xử lý trên máy chủ của dịch vụ đó; Bạn không thể kiểm soát ai nhìn thấy nó, nơi nó được lưu trữ và liệu nó có được sử dụng để huấn luyện mô hình hay không. Tại Türkiye, đây cũng là trách nhiệm pháp lý theo KVKK (Luật bảo vệ dữ liệu cá nhân - luật quy định việc xử lý dữ liệu cá nhân).
Do đó, việc sử dụng AI trong công tác xã hội vận hành trong hai thế giới riêng biệt: Các công cụ chung có thể được sử dụng cho thế giới không xác định/chung (ví dụ ẩn danh hoặc hư cấu không xác định khách hàng, câu hỏi kiến thức chung); Đối với thế giới dữ liệu khách hàng, chỉ các hệ thống nội bộ, an toàn, được phê duyệt và không rò rỉ dữ liệu mới được sử dụng. Nhầm lẫn cả hai là sai lầm nguy hiểm nhất của mô-đun này.
Thận trọng: “AI đã nói như vậy” không phải là lời biện minh và không có giá trị pháp lý trong hồ sơ vụ án. Nếu có phán đoán sai, thông tin bịa đặt hoặc dữ liệu bị rò rỉ, trách nhiệm không thuộc về AI mà thuộc về chuyên gia sử dụng kết quả đầu ra đó mà không xác minh hoặc nhập dữ liệu đó vào công cụ.
Kỷ luật xác minh: ba bước
AI sản xuất trôi chảy và tự tin; Điều đó không có nghĩa là nó đúng. AI đôi khi tạo ra ảo giác - nghĩa là nó trình bày như một bộ luật không tồn tại, một dịch vụ không tồn tại, một thống kê bịa đặt hoặc một tuyên bố mà khách hàng chưa bao giờ nói. Trong một báo cáo điều tra xã hội hoặc bản ghi nhớ về rủi ro, điều này thật tai hại. Áp dụng phản xạ ba bước cho mỗi đầu ra:
- Liên kết đến nguồn/bằng chứng. Mọi tuyên bố mà AI đưa ra về khách hàng phải dựa trên ghi chú hoặc cuộc trò chuyện thực tế mà bạn đưa ra. "Thông tin này được đưa ra trong cuộc trò chuyện nào, từ miệng ai, với quan sát nào?" hỏi. AI không nên thêm bất cứ điều gì mà khách hàng không nói.
- Xác nhận với nguồn độc lập. Xác minh thông tin bên ngoài như luật, quyền, dịch vụ, địa chỉ chuyển tiếp, v.v. từ nguồn chính thức hiện tại. Yêu cầu ứng dụng hoặc số điện thoại do AI cung cấp có thể đã lỗi thời hoặc giả mạo.
- Chuyển nó qua bộ lọc diễn giải và thành kiến. Kết quả đầu ra có bị thiên vị so với một nhóm không? Có ngôn ngữ kỳ thị và đổ lỗi cho khách hàng không? Nó có bỏ qua điểm mạnh không? Đánh giá chuyên môn của bạn là bộ lọc cuối cùng.
ba trường hợp nhỏ
Trường hợp 1 - Tài liệu tiết kiệm thời gian. Một nhân viên xã hội đã thực hiện 14 cuộc phỏng vấn trong một tuần và ghi chép tay cho mỗi cuộc phỏng vấn. Việc chỉnh sửa có sự hỗ trợ của AI đã giảm tổng thời gian chuyển các ghi chú này thành hồ sơ vụ án có cấu trúc từ khoảng 4 giờ xuống còn 1 giờ. Nhưng mỗi đoạn ghi âm đều được chuyên gia đọc và xác minh bằng cách đối chiếu với cuộc phỏng vấn thực tế; Hai câu mà AI "dịch" đã bị xóa.
Trường hợp 2 - Xác minh bắt gặp ảo giác. Một chuyên gia đã hỏi AI một câu hỏi về quyền; YZ cho biết, "Yêu cầu cư trú tối thiểu là 24 tháng đối với khoản hỗ trợ này." Khi chuyên gia xem xét luật chính thức, không có yêu cầu nào như vậy; AI đã trộn lẫn hai thiết bị hỗ trợ tương tự nhau và tạo thành một điều kiện không tồn tại. Bước phân bổ đã giúp khách hàng không bị từ chối một cách bất công.
Trường hợp 3 - Trả lại do vi phạm quyền riêng tư. Để nhanh chóng, một chuyên gia mới muốn dán tất cả thông tin của một trường hợp bảo vệ trẻ em (bao gồm tên, địa chỉ, trường học của đứa trẻ) vào một công cụ AI công cộng và in một báo cáo. Chuyên gia cấp cao nhận ra: đây là dữ liệu cá nhân nhạy cảm trong phạm vi KVKK và đã bị rò rỉ. Vụ việc được coi là vi phạm dữ liệu; công việc đã được thực hiện lại với thông tin xác thực bị xóa và chỉ có phương pháp bảo mật nội bộ.
Bốn mẫu có thể sao chép
1) Đánh giá mức độ phù hợp công việc:
Vai trò của bạn: nhân viên xã hội cấp cao và người giám sát. Tôi sẽ mô tả công việc dưới đây. Hãy cho tôi biết (1) đây là công việc tóm tắt/chỉnh sửa/phác thảo có thể được ủy quyền cho AI hay công việc yêu cầu phán đoán lâm sàng và đánh giá rủi ro, (2) chi phí mà khách hàng phải gánh chịu do kết quả đầu ra không chính xác, (3) việc xác minh mà tôi cần thực hiện trước và sau khi ủy quyền. Công việc: [chèn công việc vào đây]
2) Nghĩa vụ căn cứ vào chứng cứ:
Tôi sẽ đưa cho bạn biên bản cuộc họp. Khi chỉnh sửa bản ghi, CHỈ sử dụng thông tin trong ghi chú. Không thêm bất cứ điều gì mà khách hàng chưa nói, không chẩn đoán, không bình luận. Dán nhãn riêng cho quan sát và biểu hiện của khách hàng. Đánh dấu những chỗ còn thiếu hoặc chưa rõ ràng là "cần làm rõ".
3) Kiểm tra trước quyền riêng tư:
Đánh giá văn bản sau TRƯỚC KHI xử lý: văn bản này có thể chứa dữ liệu cá nhân nhận dạng khách hàng (tên, địa chỉ, TR ID, sức khỏe, thông tin gia đình) không? Nếu vậy, những phần nào? Vì vậy, nếu nó không được xử lý trong một công cụ công cộng, hãy cảnh báo tôi và liệt kê các trường tôi cần hủy nhận dạng. Văn bản: [viết văn bản ở đây]
4) Kiểm tra thiên vị/ngôn ngữ:
Hãy xem xét hồ sơ trường hợp sau: Có ngôn ngữ nào kỳ thị, đổ lỗi hoặc thành kiến với khách hàng đối với một nhóm không? Nó có bỏ qua điểm mạnh và nguồn lực không? Đề xuất ngôn ngữ tôn trọng hơn, tập trung vào thực tế và công nhận điểm mạnh. Đừng thay đổi bản ghi, chỉ gắn cờ các vấn đề về ngôn ngữ.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Viết báo cáo về gia đình này và quyết định xem đứa trẻ ở nhà có an toàn không.
Lời nhắc này không có ngữ cảnh và nguy hiểm: không rõ thông tin gì, quan sát gì và AI đang được yêu cầu đưa ra quyết định về sự an toàn của trẻ. AI dự đoán, có thể thiên vị, có thể bù đắp - và điều đó liên quan đến mạng sống con người.
Lời nhắc mạnh mẽ:
Vai trò của bạn: trợ lý biên tập cho nhân viên xã hội. Nguồn: Ghi chú phỏng vấn và quan sát đã xóa thông tin nhận dạng, tôi sẽ dán bên dưới. Nhiệm vụ: tạo khung dự thảo của một báo cáo điều tra xã hội chỉ dựa trên thông tin THỰC SỰ có trong các ghi chú này; Ghi nhãn quan sát, tuyên bố của khách hàng và thông tin còn thiếu riêng biệt. ĐƯA RA quyết định về rủi ro hoặc an toàn; Tôi sẽ thực hiện việc đánh giá. Đánh dấu phần bạn không chắc chắn là "cần được làm rõ".
Sự khác biệt rất rõ ràng: việc khử nhận dạng, ràng buộc "chuyển đúng", gắn nhãn và ràng buộc "quyết định" làm cho đầu ra an toàn và hữu ích.
Biểu đồ so sánh vai trò/nhiệm vụ
kinh doanh
Vai trò của AI
vai trò của đàn ông
xác minh
Chỉnh sửa hồ sơ vụ án
Định cấu hình ghi chú
xác nhận, chính xác
So sánh với ghi chú
Tóm tắt tập tin
tóm tắt thời gian
Tầm quan trọng, nhận xét
Liên kết tới nguồn
Thông tin về quyền/dịch vụ
bản thảo đầu tiên
Xác nhận hiện tại
pháp luật chính thức
đánh giá rủi ro
Nhắc nhở câu hỏi/khung
Đánh giá, quyết định lâm sàng
Đội + giám sát
Báo cáo
phác thảo bộ xương
Nội dung, ý kiến, chữ ký
So sánh bằng chứng với tuyên bố
Thiết kế chương trình
Tạo ý tưởng/khuôn khổ
đủ điều kiện, quyết định
Xác nhận trường + dữ liệu
Những lỗi thường gặp
- Nhầm đầu ra AI để đánh giá. Đầu ra luôn là bản nháp cần được xác minh; Nó không vào tập tin mà không được liên kết với bằng chứng.
- Dán dữ liệu khách hàng vào công cụ đang mở. Nếu bị rò rỉ thì không thể hoàn tác được và là vi phạm KVKK; Đó là sai lầm nguy hiểm nhất.
- Yêu cầu AI đưa ra quyết định về rủi ro/an toàn. Những quyết định này đòi hỏi thẩm quyền và trách nhiệm nghề nghiệp; AI không thể đưa ra quyết định.
- Một yêu cầu không cần bằng chứng. Nếu bạn không nói "Chỉ sử dụng những gì có trong ghi chú", AI có thể thêm những gì khách hàng không nói.
- Không chú ý đến ngôn ngữ kỳ thị. Ngôn ngữ của AI có thể mang tính thiên vị; Ngôn ngữ tôn trọng và coi trọng điểm mạnh nằm trong tầm kiểm soát của bạn.
Tóm lại
AI là trợ thủ đắc lực trong công tác xã hội: sắp xếp các ghi chú lộn xộn, tóm tắt hồ sơ, tạo bản nháp, đơn giản hóa, dịch thuật. Nhưng phán đoán lâm sàng, đánh giá rủi ro, đại diện và quyết định cuối cùng đều thuộc về con người. Thực hiện tách biệt hai bộ (công việc sử dụng nhiều tài liệu so với các quyết định phán đoán/rủi ro), xác minh ba bước (liên kết đến bằng chứng, xác nhận độc lập, bộ lọc thiên vị), nhận thức về quyền riêng tư (ẩn danh so với thế giới dữ liệu khách hàng) và cảnh giác với thành kiến làm xương sống của mô-đun này.
Nhiệm vụ ứng dụng
Liệt kê 6 nhiệm vụ từ bàn làm việc (hoặc tưởng tượng) của riêng bạn. Phân loại từng loại thành “tóm tắt/chỉnh sửa/bản nháp có thể ủy quyền của AI” hoặc “đánh giá lâm sàng/quyết định rủi ro”. Đối với một trong những mẫu có thể chuyển nhượng (có ví dụ hư cấu không xác định danh tính khách hàng), hãy sử dụng mẫu “Đánh giá mức độ phù hợp công việc” ở trên và nhận phản hồi từ AI; sau đó áp dụng xác minh ba bước và thử kiểm tra trước quyền riêng tư.
danh sách kiểm tra
- [ ] Tôi chia công việc thành hai nhóm (đánh giá nhiều tài liệu / rủi ro phán đoán).
- [ ] Tôi đã áp dụng xác minh ba bước (bằng chứng, xác nhận độc lập, sai lệch).
- [ ] Tôi đảm bảo rằng tôi không cung cấp dữ liệu cá nhân nhận dạng khách hàng cho công cụ mở.
- [ ] Tôi đã liên kết mọi tuyên bố mà AI đưa ra về khách hàng với ghi chú thực tế.
- [ ] Tôi đã kiểm tra ngôn ngữ kỳ thị/thiên vị trong đầu ra.