Lợi nhuận:
- Khả năng sử dụng trí tuệ nhân tạo để quét nhanh các thông tin và phương pháp phát triển hiện tại cũng như xác minh từng tuyên bố bằng cách kết nối nó với một nguồn đáng tin cậy
- Khả năng nhận ra bẫy của các nguồn bịa đặt, thông tin cũ và phương pháp thời thượng (cách tiếp cận có bằng chứng yếu) và đặt câu hỏi về mức độ bằng chứng
- Khả năng hiểu rằng đầu ra AI là điểm khởi đầu, nguồn cuối cùng là tài liệu được bình duyệt và hướng dẫn chính thức
Sự phát triển của trẻ em là một lĩnh vực đang phát triển nhanh chóng: các công cụ sàng lọc mới, các hướng dẫn quan trọng được cập nhật, các phương pháp can thiệp đang phát triển. Trách nhiệm của một người chuyên nghiệp là luôn cập nhật. Trí tuệ nhân tạo là một công cụ nhanh chóng và hấp dẫn để nắm bắt tính kịp thời này: nó tóm tắt một chủ đề trong vài giây, so sánh các phương pháp tiếp cận, đưa ra câu trả lời trôi chảy cho câu hỏi “điều gì được biết cuối cùng”. Nhưng chính tốc độ này lại ẩn chứa cạm bẫy lớn nhất. Trí tuệ nhân tạo có thể bịa đặt: trình bày một nghiên cứu không tồn tại, một thống kê sai hoặc thậm chí là một nguồn không có thật như thể nó là sự thật bằng cách thêm tên của một nhà khoa học thực sự. Trong phần này, chúng tôi sẽ đề cập đến việc sử dụng AI làm điểm bắt đầu sàng lọc và xác minh từng khiếu nại bằng cách kết nối nó với một nguồn đáng tin cậy.
Đầu tiên là khái niệm quan trọng nhất: ảo giác. Đó là khả năng của mô hình ngôn ngữ trong việc tạo ra thông tin, một nguồn hoặc một nghiên cứu không thực sự tồn tại, như thể nó là sự thật. Mô hình không “nhớ thực tế”; Tạo ra các chuỗi từ có thể. Do đó, rất có thể nó tạo ra một tài liệu tham khảo rất giống với nguồn thực nhưng không tồn tại ("Yılmaz và cộng sự, 2019, Tạp chí Phát triển Trẻ em"). Việc một chuyên gia về phát triển trẻ em dựa vào nguồn thông tin sai lệch sẽ làm tổn hại đến uy tín nghề nghiệp và sức khỏe của trẻ.
Trí tuệ nhân tạo có ích ở đâu, nguy hiểm ở đâu?
AI là một khởi đầu tốt để hiểu và đóng khung một chủ đề: nó đơn giản hóa một khái niệm, gợi ý các thuật ngữ để bạn tìm kiếm, tóm tắt văn bản, liệt kê các quan điểm đối lập. Nhưng nó không phải là nguồn thông tin thực tế: đừng dựa vào nó để biết các con số, ngày tháng, kết quả nghiên cứu, điểm chuẩn và nguồn. Quy tắc: Sử dụng AI để vẽ bản đồ chứ không phải đào kho báu. Kho báu (bằng chứng thực sự) nằm trong các tài liệu được bình duyệt và các hướng dẫn chính thức.
Sử dụng AI an toàn
Sử dụng AI một cách nguy hiểm
Giải thích một khái niệm bằng ngôn ngữ đơn giản
Giả sử một số liệu thống kê là chính xác
Đề xuất cụm từ tìm kiếm và bản đồ chủ đề
Trích dẫn nguồn không kiểm chứng
Tóm tắt một văn bản dài
Cột mốc học tập từ đó
Đóng khung các cách tiếp cận đối lập
chấp nhận bằng chứng của một phương pháp mà không cần thắc mắc
Mức độ bằng chứng và bẫy phương pháp thời trang
Không phải tất cả các yêu cầu đều như nhau; Mức độ bằng chứng là quan trọng. Tường thuật một trường hợp riêng lẻ không có sức nặng như một nghiên cứu được nhân rộng, bình duyệt được thực hiện trên nhiều trẻ em. Một mối nguy hiểm phổ biến trong quá trình phát triển của trẻ là bẫy phương pháp lỗi mốt: những lời hứa cường điệu và dứt khoát như “phương pháp mới đó sẽ nhanh chóng khắc phục mọi sự chậm phát triển” hầu như luôn là dấu hiệu của bằng chứng kém. Khoa học thực sự thì thận trọng; Những câu như "nó chắc chắn giải quyết được vấn đề", "đó là một phép màu", "nó có tác dụng với tất cả trẻ em" là những lá cờ cảnh báo.
Kỷ luật xác minh:
- Tách yêu cầu bồi thường. Đánh dấu từng tuyên bố và nguồn thực tế trong văn bản AI.
- Độc lập xác minh nguồn. Nguồn có thực sự tồn tại? Nó có được trọng tài không? Nó có được cập nhật không? Nhìn trực tiếp.
- Đặt câu hỏi về mức độ bằng chứng. Trường hợp, nghiên cứu, tổng quan hệ thống?
- Nắm bắt sự cường điệu. Hãy hoài nghi về những lời hứa chắc chắn và kỳ diệu.
- Trở lại nguồn chính thức. Các hướng dẫn trong nước/quốc tế và tài liệu được bình duyệt có tiếng nói cuối cùng.
Lưu ý: Yêu cầu AI khác "xác minh" nguồn do AI đưa ra không phải là xác minh; Cả hai mô hình có thể tạo ra lỗi giống nhau. Việc xác minh được thực hiện bằng cách nhìn vào nguồn (tạp chí, hướng dẫn, cơ quan chính thức).
Mẹo: Khi tóm tắt một chủ đề từ AI, hãy hướng dẫn rõ ràng “hãy tạo nguồn; nếu không chắc chắn thì đánh dấu là ‘phải được xác minh’; nếu không thể đưa ra nguồn chính xác thì đừng đưa”. Điều này làm giảm nhưng không loại bỏ rủi ro từ các nguồn bịa đặt - bạn vẫn xác minh nó.
Tính kịp thời, mới mẻ của thông tin và xung đột lợi ích
Một hạn chế khác của trí tuệ nhân tạo là tính mới mẻ của thông tin. Các mô hình ngôn ngữ được đào tạo về dữ liệu cho đến một ngày nhất định; Một hướng dẫn đã thay đổi kể từ đó, một danh sách các cột mốc được cập nhật hoặc một cách tiếp cận mới có thể không tồn tại trên thế giới mà mô hình “biết”. Mô hình có thể hiển thị thông tin cũ như hiện tại mà không cho bạn biết điều này. Vì vậy, đặc biệt về các vấn đề như “mới nhất”, “hướng dẫn mới nhất”, “khuyến nghị mới”, hãy nhìn vào công bố hiện tại của cơ quan chính thức chứ không phải mô hình. Mô hình đưa ra bản đồ ban đầu; Nguồn xác thực có tem ngày tháng có tiếng nói cuối cùng.
Một bộ lọc quan trọng khác là xung đột lợi ích. Có thể có lợi ích thương mại đằng sau nội dung ca ngợi một phương pháp, sản phẩm hoặc chương trình. AI có thể vô tình lặp lại ngôn ngữ tiếp thị trong dữ liệu đào tạo và đưa ra các tuyên bố về thương hiệu hoặc phương pháp dưới dạng thông tin khách quan. Khi đánh giá một tuyên bố, hãy hỏi: ai đang nói điều này và tại sao; một nguồn độc lập, được bình duyệt hay bên bán? Bằng chứng độc lập không có sức nặng như tuyên bố của nhà sản xuất. Khi nói đến trẻ em và gia đình, cách bảo vệ tốt nhất chống lại thao túng thương mại là đặt câu hỏi về mức độ bằng chứng và tính độc lập của nguồn ở mọi khía cạnh.
Thận trọng: Một phương pháp được cho là "mới và mang tính cách mạng" có rủi ro kép, cả về độ mới của thông tin và về mặt xung đột lợi ích: mô hình hoàn toàn không biết về nó hoặc biết về nó theo ngôn ngữ tiếp thị. Đừng đưa những tuyên bố như vậy đến gia đình mà không chứng thực chúng bằng hướng dẫn chính thức và tài liệu được bình duyệt độc lập.
Bốn lời nhắc có thể sao chép
1) Lời nhắc tóm tắt chủ đề an toàn:
Vai trò của bạn: trợ lý dự thảo. Đơn giản chỉ cần tóm tắt chủ đề sau đây cho chuyên gia: [topic]. NGUỒN LẮP; Nếu bạn không thể cung cấp nguồn chính xác thì đừng cung cấp. Đánh dấu bất kỳ tuyên bố thực tế nào mà bạn không chắc chắn là "[phải được xác minh]". Cuối cùng, gợi ý 5 thuật ngữ tìm kiếm để tôi có thể tìm kiếm chủ đề này ở những nguồn đáng tin cậy.
2) Lời nhắc trích xuất nguồn xác nhận quyền sở hữu:
Liệt kê riêng từng YÊU CẦU THỰC TẾ (số, ngày, kết quả nghiên cứu, nguồn) trong văn bản bên dưới. Đặt một ghi chú "đã được xác minh độc lập" bên cạnh mỗi ghi chú. Nếu một nguồn được trích dẫn trong văn bản, hãy nhắc tôi rằng tôi nên kiểm tra xem nguồn đó có thực sự tồn tại hay không. Văn bản: [Đầu ra AI]
3) Kiểm soát phương pháp thời trang/cường điệu:
Kiểm tra phần mô tả sau đây về phương pháp này: Liệu nó có cường điệu hay hứa hẹn về một phương pháp chữa trị nào đó (“chắc chắn chữa khỏi”, “tất cả trẻ em”, “chữa khỏi nhanh chóng”, “phép lạ”). Đánh dấu vào từng cái một. Ước tính mức độ bằng chứng của phương pháp tiếp cận (trường hợp/nghiên cứu/đánh giá/chưa biết) và thêm cảnh báo "xác minh từ nguồn chính thức". Văn bản: [mô tả cách tiếp cận]
4) Lời nhắc truy vấn ở mức độ bằng chứng:
Đối với tuyên bố này, hãy liệt kê cho tôi 5 CÂU HỎI QUAN TRỌNG mà tôi nên hỏi khi đưa ra đánh giá đáng tin cậy (ví dụ: có bao nhiêu trẻ em đã được kiểm tra, đánh giá đó có được bình duyệt không, đánh giá đó có được sao chép không, có mẫu của Thổ Nhĩ Kỳ không, có xung đột lợi ích không). Đừng bịa ra câu trả lời; chỉ cần đưa ra câu hỏi.Yêu cầu: [văn bản]
ba trường hợp nhỏ
Trường hợp 1 - Nguồn bịa đặt. Một chuyên gia hỏi AI về tính hiệu quả của phương pháp can thiệp. AI đưa ra một bản tóm tắt mượt mà và cho biết “điều này đã được thể hiện trong phân tích tổng hợp năm 2021 (Demir và cộng sự)”. Chuyên gia đánh dấu nguồn bằng dấu nhắc thứ hai và tìm kiếm một cách độc lập; Không có phân tích tổng hợp như vậy. Nguồn là bịa đặt. Chuyên gia không sử dụng tuyên bố này cho đến khi nó được xác minh bởi các nguồn thực tế được bình duyệt.
Trường hợp 2 - Phương pháp thời trang. AI trích dẫn một phương pháp phổ biến trên mạng xã hội có thể “khắc phục mọi sự chậm phát triển trong vài tuần”. Chuyên gia nắm bắt được sự cường điệu ở gợi ý thứ 3; Sự chính xác và khái quát hóa này là dấu hiệu của bằng chứng yếu kém. Xem xét các hướng dẫn chính thức và tài liệu được bình duyệt; Phương pháp này không có bằng chứng mạnh mẽ để hỗ trợ cho hiệu quả được tuyên bố. Không giới thiệu cho gia đình.
Trường hợp 3 - Sử dụng đúng. Một chuyên gia muốn tìm hiểu một phương pháp sàng lọc mới. Sử dụng AI để đóng khung chủ đề và truy xuất cụm từ tìm kiếm bằng dấu nhắc đầu tiên; sau đó đi đến các hướng dẫn chính thức và các nguồn được bình duyệt có chứa các điều khoản đó. AI vẽ bản đồ, chuyên gia đào kho báu từ nguồn đáng tin cậy. Kết quả: vừa nhanh vừa đáng tin cậy.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Viết nguồn của các nghiên cứu chứng minh rằng phương pháp phát triển này có hiệu quả.
Vấn đề: Trực tiếp mời AI chế tạo tài nguyên; “chứng minh nó có hiệu quả” chứa đầy sự thiên vị; xác minh không được cung cấp.
Lời nhắc mạnh mẽ:
Khách quan tóm tắt phương pháp sau: [phương pháp]. Tách biệt những ưu và nhược điểm. NGUỒN LẮP; Nếu bạn không thể đưa ra nguồn chính xác thì đừng đưa ra; Đánh dấu từng tuyên bố thực tế là "[phải được xác minh]". Cuối cùng, hãy đưa cho tôi 5 thuật ngữ tìm kiếm trong tài liệu được bình duyệt và 3 câu hỏi để truy vấn mức độ bằng chứng.
Những lỗi thường gặp
- Dựa vào các nguồn bịa đặt: Kiểm chứng độc lập, trực tiếp từng nguồn.
- Nhầm AI với nguồn thông tin thực tế: Đừng dựa vào nó để lấy số/ngày/điểm giới hạn.
- Bỏ qua sự cường điệu: Những câu nói "Nó chắc chắn giải quyết được/điều kỳ diệu" là dấu hiệu của bằng chứng yếu kém.
- “Xác thực” với hai mô hình: Yêu cầu AI khác không phải là xác thực.
- Bỏ qua mức độ bằng chứng: Một trường hợp đơn lẻ không có tầm quan trọng như một đánh giá có hệ thống.
Tóm lại
Trí tuệ nhân tạo là điểm khởi đầu mạnh mẽ để định hình, đơn giản hóa và bắt đầu tìm kiếm thông tin hiện tại; nhưng nó không phải là thông tin thực tế và nguồn gốc. Có thể tạo ra các nguồn và số liệu thống kê giả mạo do ảo giác. Xác minh độc lập từng tuyên bố thực tế và nguồn trực tiếp từ các tài liệu được bình duyệt và hướng dẫn chính thức; đặt câu hỏi về mức độ bằng chứng; Hãy xem những lời hứa cường điệu và dứt khoát (phương pháp thời trang) như một lá cờ cảnh báo. AI vẽ bản đồ; Bạn đào kho báu từ một nguồn đáng tin cậy.
Nhiệm vụ ứng dụng
Chọn một chủ đề hoặc phương pháp hiện tại. Nhận bản tóm tắt và cụm từ tìm kiếm an toàn ở dấu nhắc đầu tiên. 2. trích xuất các nguồn và tuyên bố thực tế từ đầu ra AI kèm theo lời nhắc; Tìm kiếm ít nhất một nguồn độc lập để kiểm tra xem nó có thật hay không. 3. Thực hiện kiểm tra phương pháp phóng đại/thời trang bằng lời nhắc. Lưu ý ít nhất một nguồn bịa đặt/không thể xác minh và một tuyên bố phóng đại mà bạn tìm thấy; sau đó xác minh tuyên bố bằng một nguồn thực sự, đáng tin cậy.
danh sách kiểm tra
- [ ] Tôi đã đánh dấu từng tuyên bố và nguồn thực tế.
- [ ] Tôi có các nguồn được xác minh độc lập và trực tiếp (tạp chí/hướng dẫn/tổ chức).
- [ ] Tôi đặt câu hỏi về mức độ bằng chứng (trường hợp, nghiên cứu, đánh giá).
- [ ] Tôi đã xử lý những lời hứa phóng đại/chính xác bằng một lời cảnh báo về phương pháp thời trang.
- [ ] Tôi đã sử dụng AI như một thiết bị đóng khung chứ không phải một nguồn dữ liệu.
- [ ] Tôi không sử dụng AI khác để "xác minh".
- [ ] Tôi đưa ra thông tin cuối cùng dựa trên tài liệu được bình duyệt và hướng dẫn chính thức.