Lợi nhuận:
- Có thể phân biệt nơi nào trí tuệ nhân tạo tiết kiệm thời gian trong quy trình làm việc triết học và đạo đức (đọc, tóm tắt, lập bản đồ, soạn thảo) và nơi nào các quyết định như giải thích, biện minh và suy nghĩ ban đầu được giao cho con người, tùy thuộc vào mức độ rủi ro.
- Khả năng áp dụng kỷ luật xác minh từng đầu ra thông qua các bước liên kết nó với nguồn, xác nhận nó với văn bản chính và lọc nó theo độ lệch.
- Có thể hiểu tại sao những rủi ro về ảo giác, mất khả năng phán đoán độc đáo và cách giải thích hời hợt cần được xem xét ngay từ đầu trong lĩnh vực con người.
Bạn đang ở trong phòng học của khoa triết học. Trên bàn của bạn là một chương từ Tổ chức Siêu hình học về Đạo đức của Kant, một hồ sơ vụ án có thật từ một ủy ban đạo đức của bệnh viện, ba bài báo đương thời khác nhau và một giáo án cho buổi hội thảo sẽ diễn ra vào ngày mai. Một sinh viên phàn nàn về việc không thể trích xuất cấu trúc lập luận của một văn bản dài, bạn phải so sánh ba bài báo để đánh giá tạp chí và ủy ban đạo đức tranh luận xem ai chịu trách nhiệm về hệ thống hỗ trợ quyết định y tế bằng trí tuệ nhân tạo. Triết học (ngành nghiên cứu một cách nghiêm túc và có hệ thống các khái niệm, lập luận và giả định; suy nghĩ về kiến thức, sự tồn tại, giá trị và lý luận) và đạo đức ứng dụng (ngành áp dụng các nguyên tắc đạo đức trừu tượng vào các quyết định thực tế trong các lĩnh vực cụ thể như y học, công nghệ, môi trường và kinh doanh) là các lĩnh vực sử dụng nhiều văn bản, khái niệm và đòi hỏi lý luận tỉ mỉ về bản chất. Đây chính xác là nơi trí tuệ nhân tạo (AI - phần mềm có thể học các mẫu từ dữ liệu văn bản trong quá khứ và tạo ra các bản tóm tắt, bản dịch, bản nháp và phân loại) có thể tăng tốc cho bạn trong lượng văn bản và khái niệm phong phú này.
Nhưng phần đầu của mô-đun này rất rõ ràng: AI là trợ lý đọc, lập bản đồ, tóm tắt và soạn thảo; Bạn là chuyên gia và nhà tư tưởng có năng lực, người đánh giá lập luận, bảo vệ luận điểm, biện minh cho một quyết định đạo đức và sở hữu suy nghĩ đó. Trong triết học, bản thân sản phẩm chính là lý luận; Giao phó lý do cho một cái máy không phải là hoàn thành công việc mà là từ bỏ chính công việc đó.
Trong bài học đầu tiên này, chúng ta sẽ tập trung vào kỷ luật chứ không phải phương tiện. Chúng ta sẽ tìm hiểu xem AI tiết kiệm thời gian thực ở đâu, ở đâu nguy hiểm, cách xác minh từng đầu ra, cách duy trì tính toàn vẹn của nguồn và cách quan sát tính toàn vẹn trong học thuật. Nếu không đặt nền tảng này, các đơn vị tiếp theo sẽ bị treo lơ lửng - bởi vì trong nhân văn, một kết quả chưa được xác minh có thể không chỉ là một câu trả lời sai mà còn là một câu trích dẫn bịa đặt, quan điểm của một triết gia bị bóp méo hoặc vi phạm tính liêm chính trong học thuật coi suy nghĩ của người khác là của riêng mình.
AI có ích ở đâu trong quy trình làm việc triết học?
Hãy chia mọi thứ thành hai đống lớn. Cụm đầu tiên: các tác phẩm đồ sộ, nhiều văn bản, có thể trích xuất theo mẫu. Bản tóm tắt đầu tiên của một văn bản dài, bản thảo đầu tiên về cấu trúc tiền đề-kết luận của một đoạn văn phức tạp, việc trích xuất các chủ đề lặp đi lặp lại trong một tác phẩm văn học, so sánh cách các tác giả khác nhau định nghĩa một khái niệm, khung của một giáo án, đánh dấu những chỗ mơ hồ trong văn bản của học sinh, bản thảo dịch thuật. Trong những công việc này, AI giảm thời gian xuống còn vài phút và không bị mệt mỏi.
Cụm thứ hai: các nhiệm vụ đòi hỏi sự phán đoán, diễn giải, biện minh và suy nghĩ độc đáo. Cho dù một lập luận có thực sự có giá trị hay không, cách giải thích hợp lý nhất về ý nghĩa của một triết gia trong một đoạn văn, cách giải quyết sự căng thẳng thực sự giữa hai giá trị, nguyên tắc nào sẽ chiếm ưu thế trong một trường hợp đạo đức, đóng góp ban đầu của một luận điểm là gì. Những điều này đòi hỏi chuyên môn, sự nhạy cảm về khái niệm và khả năng phán đoán của con người. Ở đây, AI nhân lên nhiều lựa chọn, tạo ra sự phản đối, chỉ ra những điểm mù - nhưng việc đánh giá, biện minh và chữ ký là của bạn.
Hãy làm rõ sự khác biệt trong một câu: AI rất giỏi trong các câu hỏi "văn bản này viết gì và cấu trúc của nó trông như thế nào"; Quyết định là của bạn khi đặt ra những câu hỏi như "Lập luận này có đúng không và tôi nghĩ gì?"
Mẹo: Trước khi giao công việc cho AI, hãy hỏi: “Tôi sẽ mất gì nếu kết quả đầu ra này sai?” Nếu câu trả lời là "vài phút sửa chữa", hãy thoải mái ủy quyền. Nếu câu trả lời là “ý kiến của một triết gia bị bóp méo, nguồn bịa đặt hoặc để máy thực hiện suy nghĩ mà tôi cần làm” thì hãy để AI chỉ đưa ra bản nháp; Bạn đưa ra lời giải thích, biện minh và quyết định.
Ba rủi ro nghiêm trọng trong nhân văn
Triết học và đạo đức là một trong những lĩnh vực mà AI vấp ngã nhiều nhất. Chúng ta hãy tìm hiểu ba rủi ro ngay từ đầu.
Ảo giác. AI sản xuất trôi chảy và tự tin; Điều đó không có nghĩa là nó đúng. Ảo giác là khi AI trình bày một cuốn sách không tồn tại, một câu trích dẫn bịa đặt, một câu mà nhà triết học không thực sự nói hoặc một quan điểm bị đánh giá sai là có thật. Trong văn học triết học, điều này thật tai hại: rất thường có một câu trong dấu ngoặc kép, “Aristotle nói với Nicomachus trong Đạo đức học,” lại hoàn toàn vắng mặt trong văn bản.
Mất tính độc đáo của lý luận. Trong triết học, giá trị nằm ở lý luận của bạn. Việc trình bày văn bản "triết học" mượt mà nhưng trung bình, sáo rỗng và không có nguồn gốc do AI tạo ra như của riêng bạn vừa vô ích về mặt trí tuệ vừa vi phạm tính liêm chính trong học thuật. AI tạo ra giá trị trung bình; Luận điểm ban đầu, sự phân biệt tinh tế và sự phản đối táo bạo đều được giao phó cho con người.
Giải thích bề ngoài và định kiến. AI có thể tóm tắt một triết gia với một khuôn mẫu phổ biến nhưng không chính xác (ví dụ: rút gọn Nietzsche thành một khẩu hiệu), trình bày một truyền thống duy nhất là “đúng” đối với một chủ đề gây tranh cãi hoặc tái tạo thành kiến văn hóa trong dữ liệu đào tạo. Bình luận phải luôn đi qua bộ lọc quan trọng của bạn.
Kỷ luật xác minh: ba bước
Áp dụng phản xạ ba bước cho mỗi đầu ra:
- Kết nối nó với nguồn. Mọi trích dẫn, ghi công và khẳng định “triết gia đã nói” của AI phải dựa trên văn bản chính. “Chính xác là ở tác phẩm nào, ở phần nào, ở bản dịch nào?” và tự mình xem bản gốc. Xác minh mỗi câu trong dấu ngoặc kép với nguồn của nó.
- Xác nhận với nguồn độc lập. Xác minh cách diễn giải hoặc tuyên bố “được chấp nhận rộng rãi” bằng nguồn thứ cấp đáng tin cậy (bách khoa toàn thư học thuật, bài báo được bình duyệt). Đừng dựa vào một đoạn văn trôi chảy.
- Chuyển nó qua bộ lọc diễn giải và thành kiến. Liệu đầu ra có bóp méo một triết gia? Có cách đọc thay thế không? Nó có trình bày một vấn đề gây tranh cãi một chiều không? Đánh giá chuyên môn của bạn là bộ lọc cuối cùng.
ba trường hợp nhỏ
Trường hợp 1 - Lập bản đồ tiết kiệm thời gian. Một sinh viên tốt nghiệp đang cố gắng trích xuất cấu trúc lập luận của một bài báo dày đặc về nhận thức luận dày 40 trang. AI đưa ra bản thảo đầu tiên về khung tiền đề-hậu quả trong 15 phút; sinh viên đã tăng tốc việc lập bản đồ mà thông thường sẽ mất nửa ngày. Nhưng anh ấy đã xác thực từng tiền đề bằng cách liên kết nó trở lại đoạn văn trong văn bản và bản thân anh ấy đã thêm vào một giả định ngầm mà AI đã bỏ qua.
Trường hợp 2 - Quá trình xác minh phát hiện một báo giá bịa đặt. Một nhà nghiên cứu đã nhờ AI hỏi quan điểm của Hume về quan hệ nhân quả. YZ đưa ra một câu rõ ràng và đánh số trang trong dấu ngoặc kép. Khi nhà nghiên cứu xem phần liên quan của Luận thuyết về bản chất con người, không có câu đó cũng như trang đó; AI đã đưa ra một trích dẫn hợp lý nhưng bịa đặt. Bước liên kết đã ngăn chặn việc ghi công gian lận xâm nhập vào bài viết.
Trường hợp 3 - Giới hạn tính nguyên gốc. Một học sinh đã có một bài tập đạo đức được viết hoàn toàn bằng AI và đã nộp. Lời văn trôi chảy nhưng không có nguồn, sáo rỗng, thiếu quan điểm riêng của học sinh; Hơn nữa, hai “nguồn” đó đều là bịa đặt. Đây vừa là sự đóng góp ban đầu bằng không vừa là sự vi phạm tính liêm chính trong học thuật. Cách sử dụng đúng đắn là sử dụng AI làm đối tác thảo luận và công cụ soạn thảo, đồng thời để sinh viên tự xây dựng cơ sở lý luận, luận điểm và nguồn.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Viết điều gì đó về đạo đức của Kant.
Yêu cầu này rất mơ hồ: nó không yêu cầu nguồn, dễ bị xuyên tạc và sáo rỗng, không thể xác minh và đầu ra sẽ không phải là ý kiến của bạn.
Lời nhắc mạnh mẽ:
Vai trò của bạn: giảng viên triết học cẩn thận. Hãy tóm tắt văn bản mà tôi sẽ cung cấp cho bạn về công thức “phổ quát” của Kant về mệnh lệnh phân loại. Quy tắc: Chỉ dựa vào văn bản tôi đưa ra; Thêm thông tin ngoài văn bản. Liên kết mỗi tuyên bố với một đoạn văn trong văn bản. Nếu bạn không chắc chắn, hãy đánh dấu là "không rõ ràng trong văn bản". Nếu bạn sử dụng dấu ngoặc kép, chỉ sử dụng những dấu ngoặc kép xuất hiện nguyên văn trong văn bản. Văn bản: [dán văn bản vào đây]
Lời nhắc này giới hạn nguồn, ngăn chặn việc bịa đặt, có thể xác minh được và để bạn tự suy nghĩ.
Bốn mẫu có thể sao chép
1) Đánh giá mức độ phù hợp công việc:
Vai trò của bạn: cố vấn triết học cấp cao. Tôi sẽ mô tả công việc bên dưới. Hãy cho tôi biết (1) liệu đây là công việc đọc/tóm tắt/lập bản đồ/phác thảo có thể được giao cho AI hay công việc đòi hỏi sự biện minh và suy nghĩ ban đầu, (2) chi phí trí tuệ/học tập cho kết quả đầu ra không chính xác, (3) việc xác minh tôi nên làm trước và sau khi ủy quyền. Công việc: [chèn công việc vào đây]
2) Nghĩa vụ dẫn nguồn:
Tôi sẽ cung cấp cho bạn một văn bản triết học. Đối với mỗi nhận xét và khẳng định, LUÔN LUÔN tham khảo đoạn/câu trong văn bản. Đừng gán cho triết gia bất kỳ ý kiến nào không có trong văn bản. Chỉ sử dụng các trích dẫn xuất hiện nguyên văn trong văn bản. Nếu bạn không chắc chắn, hãy đánh dấu là "cần xác minh".
3) Tính độc đáo và giới hạn vai trò:
Bạn là đối tác đấu tranh của tôi, không phải nhà văn của tôi. KHÔNG viết luận án của tôi về chủ đề này. Thay vào đó: hãy nêu ra 3 phản đối mạnh mẽ đối với luận điểm của tôi, 2 giả định mà tôi có thể đã bỏ qua và 1 khái niệm tôi cần làm rõ. Tôi sẽ viết văn bản cuối cùng. Luận án của tôi: [chèn luận án của bạn vào đây]
4) Kiểm soát cong vênh/sai lệch:
Kiểm tra xem liệu bản tóm tắt sau đây có bóp méo một triết gia hay không. (1) Có giảm bớt một câu nói sáo rỗng phổ biến nhưng sai lầm không? (2) Một vấn đề gây tranh cãi có được trình bày một chiều không? (3) Cách giải thích thay thế là gì? Hiển thị cách đọc văn bản một cách trung thực chứ không phải cách giải thích của riêng bạn. Tóm tắt: [dán tóm tắt ở đây]
Bảng phân chia vai trò
kinh doanh
Vai trò của AI
vai trò của đàn ông
Mức độ rủi ro
Tóm tắt văn bản dài
Bản tóm tắt dự thảo đầu tiên
Xác thực dựa trên nguồn
trung bình
Ánh xạ đối số
Khung tiền đề-hậu quả
phán đoán có giá trị
trung bình
Tìm một trích dẫn/trích dẫn
Tạo ứng viên
Xác nhận trong nguồn chính
cao
Biện minh cho trường hợp đạo đức
Tạo ra các lựa chọn và phản đối
Quyết định và biện minh
rất cao
Luận văn/bài viết đóng góp ban đầu
đối tác đấu tập
bản thân bài viết
rất cao
Những lỗi thường gặp
- Sử dụng trích dẫn do AI đưa ra mà không xác minh. Sai lầm phổ biến nhất và có sức tàn phá lớn nhất trong lĩnh vực con người; Mỗi câu trong dấu ngoặc kép phải được xác nhận trong nguồn chính.
- Phân quyền suy nghĩ. Để AI xây dựng lập luận, bảo vệ luận điểm và đưa ra lời biện minh là từ bỏ chính công việc triết học.
- Nhầm một lời sáo rỗng với thông tin. Chấp nhận việc AI tóm tắt một triết gia bằng một khẩu hiệu là “đúng”; Bạn không nên chấp nhận ý kiến mà không quay lại văn bản.
- Cung cấp văn bản AI mà không trích dẫn nguồn. Vi phạm liêm chính trong học tập; Tuân thủ các nguyên tắc sử dụng AI và tuyên bố minh bạch của tổ chức bạn.
- Dựa vào một đầu ra duy nhất. Đặt cùng một câu hỏi theo cách khác và chấp nhận cách giải thích là dứt khoát mà không xác nhận nó bằng nguồn thứ cấp.
Tóm lại
Trí tuệ nhân tạo; Nó là một trợ lý đắc lực giúp tăng tốc độ đọc văn bản, lập bản đồ lập luận, quét tài liệu và tạo bản thảo trong triết học và đạo đức ứng dụng. Nhưng trách nhiệm của con người là đánh giá lập luận, giải thích một triết gia một cách chính xác, biện minh cho một quyết định đạo đức và đưa ra một luận điểm độc đáo. Ba rủi ro phải được nhận biết ngay từ đầu: ảo giác (trích dẫn/nguồn bịa đặt), đánh giá mất tính độc đáo và cách diễn giải hời hợt/thiên vị. Thuốc giải độc là kỷ luật xác minh gồm ba bước: liên kết đến nguồn, xác minh độc lập, lọc thông qua diễn giải và thiên vị. Trong suốt mô-đun này, chúng tôi sẽ sử dụng AI từ đầu đến cuối - nhưng bạn sẽ luôn là người suy nghĩ và ký kết.
Nhiệm vụ ứng dụng
- Chọn một đoạn văn dày đặc từ một văn bản triết học mà bạn đang nghiên cứu.
- Sử dụng mẫu "lời nhắc mạnh mẽ" để cung cấp cho AI bản tóm tắt chỉ dựa trên văn bản đó.
- Liên kết từng khẳng định trong phần tóm tắt với câu trong văn bản; Đánh dấu xem AI thêm thông tin ngoài văn bản hay tạo điểm nhấn.
- Nếu AI đã đưa ra một trích dẫn, hãy kiểm tra xem nó có đúng nguyên văn trong nguồn chính hay không.
- Viết nhận xét một câu của riêng bạn - hãy coi đó là đóng góp của bạn chứ không phải của AI.
danh sách kiểm tra
- [ ] Trước khi bàn giao công việc “nếu sai sót tôi sẽ mất gì?” Tôi đã đặt câu hỏi.
- [ ] Tôi đã xác minh mọi trích dẫn và ghi công trong đầu ra bằng nguồn chính.
- [ ] Tôi đã đánh dấu những bình luận ngoài văn bản hoặc bị bóp méo.
- [ ] Tôi đã tự mình đưa ra quyết định về tính hợp lệ của lập luận và sự biện minh.
- [ ] Tôi đã viết luận văn gốc và văn bản cuối cùng; AI chỉ đơn thuần trở thành một đối tác đấu tranh.
- [ ] Tôi đã tuân theo các quy tắc minh bạch và sử dụng AI của tổ chức mình.