Lợi nhuận:
- Khả năng nhận biết các dạng ảo giác trong vật lý (hằng số giả, định luật giả, lỗi đơn vị, kết quả sai, quy kết giả) và nắm bắt chúng bằng phương pháp thích hợp.
- Khả năng bảo vệ dữ liệu cá nhân, bí mật và chưa được công bố bằng cách ẩn danh và giảm thiểu bằng cách không nhập chúng vào các công cụ trái phép
- Có thể hiểu rằng trách nhiệm cuối cùng thuộc về con người bằng cách báo cáo dữ liệu một cách trung thực, không thêu dệt và ghi lại một cách minh bạch việc sử dụng trí tuệ nhân tạo.
Trong suốt mô-đun này, chúng tôi đã đề cập đến cùng một nguyên tắc trong mỗi đơn vị: trí tuệ nhân tạo (AI) tăng tốc, con người xác minh. Trong bài cuối cùng này, chúng tôi tập hợp toàn bộ phương pháp xác minh này dưới sự bảo vệ của tính chính trực về mặt khoa học, giá trị cơ bản nhất của khoa học vật lý. Vật lý là việc theo đuổi việc tạo ra những kiến thức có thể kiểm chứng được về tự nhiên; Trọng tâm của nỗ lực này là tính chính trực, tính lặp lại và trách nhiệm. AI có thể được sử dụng để củng cố những giá trị này — nhưng khi sử dụng không đúng cách, nó sẽ đe dọa tất cả. Trong phần này, chúng ta sẽ thảo luận về các dạng ảo giác vật lý, trách nhiệm về dữ liệu và quyền riêng tư, ranh giới đạo đức và lý do tại sao trách nhiệm cuối cùng luôn thuộc về con người.
Các dạng ảo giác trong vật lý
Ảo giác—sự tự tin tạo ra thông tin sai lệch của AI—có những hình thức độc đáo và nguy hiểm trong vật lý. Nhận biết những điều này là bước đầu tiên để nắm bắt:
loại ảo giác
ví dụ
Phương pháp chụp
Lắp cố định/dữ liệu
Mật độ vật liệu không chính xác
Xác nhận với tài liệu tham khảo đáng tin cậy
Công thức/định luật sai
Tên "nguyên tắc" không tồn tại
Sách giáo khoa/dẫn xuất SymPy
Lỗi đơn vị/đơn hàng
nhầm eV với J
Phân tích thứ nguyên, điều khiển đơn vị
Kết quả số sai
Đầu ra mã không đúng
Chạy mã
ghi công ngụy tạo
bài viết không tồn tại
Xác minh bằng DOI
Kết quả báo cáo sai
Sự bóp méo bài viết thực sự
Đọc nguồn gốc
Chủ đề chung là thế này: một mô hình ngôn ngữ lớn được thiết kế không phải để nói lên sự thật mà để tạo ra "văn bản trông có vẻ hợp lý". Trong vật lý, sự khác biệt giữa “dường như có thể” và “đúng” chính xác là lý do tồn tại của khoa học.
Dữ liệu, quyền riêng tư và trách nhiệm sở hữu trí tuệ
Các nhà vật lý thường làm việc với dữ liệu nhạy cảm: dữ liệu thực nghiệm chưa được công bố, thiết kế trước khi được cấp bằng sáng chế, các phép đo bí mật từ sự hợp tác công nghiệp, nghiên cứu liên quan đến dữ liệu an toàn hoặc sức khỏe cá nhân. Việc nhập dữ liệu đó vào một công cụ AI chung có thể giúp các bên thứ ba và có thể cả dữ liệu đào tạo của mô hình có thể truy cập được - điều này có nghĩa là vi phạm tính bảo mật và mất ưu tiên khoa học (quyền là người đầu tiên khám phá). Quy tắc rất rõ ràng: không nhập dữ liệu cá nhân, bí mật hoặc chưa được công bố vào công cụ AI mà tổ chức của bạn chưa phê duyệt. Nếu bạn định nhập, hãy ẩn danh, thu nhỏ (chỉ cung cấp những gì cần thiết) và đọc các điều kiện dữ liệu của công cụ.
Thận trọng: Việc nhập các số đo chưa được công bố của phòng thí nghiệm hoặc các thông số thiết kế bí mật của công ty vào công cụ AI “để phân tích nhanh” có thể là một sai lầm không thể sửa chữa được. Một khi dữ liệu được chia sẻ, nó không thể được thu hồi. Nếu nghi ngờ, đừng nhập dữ liệu; Trước tiên, hãy làm rõ chính sách của tổ chức bạn và các điều khoản về quyền riêng tư của công cụ.
Ranh giới đạo đức và tính toàn vẹn khoa học
Việc sử dụng có thể khả thi về mặt kỹ thuật và thậm chí hợp pháp, nhưng vẫn phi đạo đức. Có một số ranh giới đỏ trong vật lý liên quan đến tính toàn vẹn khoa học:
Chế tạo hoặc tô điểm dữ liệu. Yêu cầu AI “tạo ra các điểm phù hợp hơn với lợi nhuận” hoặc “làm cho biểu đồ trông thuyết phục hơn” là gian lận dữ liệu. Dữ liệu được báo cáo nguyên trạng; Các ngoại lệ chỉ được loại bỏ khi có lý do chính đáng và được ghi chép.
Sự minh bạch của sự đóng góp. Nếu bạn đã sử dụng AI trong một nghiên cứu — viết mã, sửa ngôn ngữ, phân tích — thì việc làm rõ điều đó ở nơi thích hợp là điều công bằng. Nhiều tạp chí và tổ chức yêu cầu điều này.
Quyền tác giả và trách nhiệm. AI không phải là nhà văn; không chịu trách nhiệm về nội dung tác phẩm. Trách nhiệm luôn thuộc về con người nhà văn. Lỗi do AI tạo ra không thể được bào chữa bằng cách nói "chiếc xe đã tạo ra nó".
Khả năng tái tạo. Một kết quả khoa học yêu cầu phương pháp (bao gồm mã được sử dụng, tham số, lời nhắc AI) phải được ghi lại rõ ràng để người khác có thể sao chép.
ba trường hợp nhỏ
Trường hợp 1 - Rò rỉ dữ liệu bí mật. Một nhà nghiên cứu đã dán dữ liệu đo lường từ thỏa thuận không tiết lộ với một công ty vào một công cụ AI chung “để tạo biểu đồ nhanh”. Sau đó anh nhận ra rằng công cụ này có thể lưu trữ dữ liệu đầu vào. Đã xảy ra vi phạm hợp đồng và có thể mất quyền ưu tiên. Bài học: dữ liệu bí mật không bao giờ được nhập vào một công cụ không được phê duyệt.
Trường hợp 2 - In đẹp. Một sinh viên đã yêu cầu AI chỉnh sửa để "làm cho dữ liệu trông gần với lý thuyết hơn" vì dữ liệu thực nghiệm không hoàn toàn khớp với lý thuyết. Cố vấn của anh ta nhận thấy điều này và ngăn anh ta lại: một sự khác biệt có nghĩa là một lỗi hệ thống trong thí nghiệm hoặc vật lý mới thú vị - một cái gì đó cần được nghiên cứu chứ không phải bị che giấu. Dữ liệu được báo cáo trung thực và lỗi hệ thống đã được tìm thấy.
Trường hợp 3 - Đạt được sự minh bạch. Một nhóm đã viết mã phân tích dữ liệu cho một bài báo với sự trợ giúp của AI và nêu rõ điều này trong phần phương pháp; đã chia sẻ mã và lời nhắc dưới dạng tệp bổ sung. Một trọng tài đã xem lại mã và đề xuất một sửa chữa nhỏ. Tính minh bạch đã phát hiện được lỗi trước khi xuất bản và làm tăng độ tin cậy của nghiên cứu.
Bốn mẫu có thể sao chép
1) Sàng lọc ảo giác:
Quét kết quả vật lý sau đây để tìm ảo giác: có bất kỳ hằng số không có thật, công thức/tên luật không có thật, lỗi đơn vị/thứ tự, kết quả số chưa được xác minh và các thuộc tính chưa được xác nhận không? Gắn cờ cho từng mục đáng ngờ và chỉ định cách xác minh mục đó (tham chiếu, mã, DOI). Đầu ra: [tại đây]
2) Kiểm tra trước quyền riêng tư dữ liệu:
Đánh giá dữ liệu/văn bản sau đây trước khi nhập nó vào công cụ AI: nó có chứa thông tin chưa được công bố, bí mật, cá nhân hoặc được bảo vệ theo hợp đồng không? Nếu vậy, hãy đề xuất cách tôi có thể ẩn danh hoặc giảm thiểu nó. Nếu không chắc chắn, hãy nói "kiểm tra chính sách công ty". Nội dung: [tại đây]
3) Dự thảo tuyên bố minh bạch/đóng góp:
Trong một nghiên cứu, tôi đã sử dụng AI để: [viết mã/sửa/phân tích ngôn ngữ, v.v.]. Viết một bản nháp ngắn "Tuyên bố sử dụng AI" để chứng minh điều này một cách trung thực. Nó cũng phải chỉ ra những phần nào đã được con người xác minh.
4) Đảm bảo tính trung thực khoa học:
Thực hiện kiểm tra tính toàn vẹn cho phân tích/kết quả sau: dữ liệu được báo cáo nguyên trạng (không chỉnh sửa), có báo cáo những điểm không chắc chắn không, phương pháp có được ghi lại theo cách có thể tái tạo không, việc sử dụng AI có minh bạch không? Liệt kê những thiếu sót. Nội dung: [tại đây]
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: "Chỉnh sửa lợi suất để phù hợp hơn với lý thuyết và làm cho biểu đồ trở nên thuyết phục."
Kết quả: Gian lận dữ liệu; Vi phạm trực tiếp tính chính trực khoa học, tổn thất danh tiếng không thể khắc phục được.
Strong: "Lợi suất không hoàn toàn phù hợp với lý thuyết. Hãy giúp tôi phân tích các nguyên nhân có thể gây ra sự khác biệt này (lỗi hệ thống, biến động thống kê, thiếu mô hình hoặc hiệu ứng mới); đề xuất cách báo cáo sự khác biệt một cách trung thực mà không thay đổi dữ liệu."
Kết quả: Một cách tiếp cận trung thực, điều tra và trung thực đối với tính liêm chính trong khoa học; Xung đột trở thành cơ hội để khám phá.
Những lỗi thường gặp
- Nhầm lẫn ảo giác với sự tự tin. Chỉ vì AI nói một cách tự tin không phải là sự đảm bảo cho độ chính xác; Ngay cả câu chính xác nhất cũng có thể bịa đặt.
- Nhập dữ liệu bí mật vào xe mà không được chấp thuận. Sau khi chia sẻ, dữ liệu không thể lấy lại được; Ưu tiên và bảo mật bị mất.
- Làm đẹp dữ liệu Thay đổi dữ liệu để “phù hợp với lý thuyết” là một trong những tội ác khoa học nghiêm trọng nhất.
- Ẩn việc sử dụng AI. Minh bạch là yêu cầu trung thực và là bắt buộc ở nhiều tổ chức.
- Đổ trách nhiệm lên xe. “AI đã làm được điều đó” không phải là lời bào chữa; Trách nhiệm cuối cùng luôn thuộc về con người.
Mẹo: Vào cuối mỗi nghiên cứu do AI cung cấp, hãy tự hỏi bản thân ba câu hỏi: (1) Mọi dữ kiện, con số và ghi nhận trong kết quả này có được xác minh độc lập không? (2) Dữ liệu tôi sử dụng có chứa thông tin bí mật/cá nhân mà tôi không nên nhập không? (3) Tôi đã ghi lại cách sử dụng và phương pháp AI của mình đủ minh bạch để người khác sao chép nó chưa? Nếu bạn không thể trả lời “có” rõ ràng cho ba câu hỏi này thì nghiên cứu vẫn chưa hoàn thành.
Tóm lại
Tính toàn vẹn về mặt khoa học là nền tảng cho sự tồn tại của vật lý và thậm chí còn quan trọng hơn trong thời đại AI. Ảo giác xuất hiện trong vật lý dưới dạng hằng số sai, định luật sai, lỗi đơn vị, kết luận sai và tham chiếu sai; mỗi cái được ghi lại bằng phương pháp xác minh duy nhất của riêng nó. Dữ liệu bí mật và cá nhân không được nhập vào các công cụ trái phép; dữ liệu không bao giờ được tô điểm; Việc sử dụng AI được ghi chép một cách minh bạch; và trách nhiệm cuối cùng luôn thuộc về con người. Chỉ có một nguyên tắc duy nhất mà bạn học được trong suốt học phần này: AI là một công cụ tăng tốc mạnh mẽ, nhưng việc xác minh, tính chính trực và trách nhiệm lại đặt lên vai của nhà vật lý có năng lực - tức là bạn. Đầu ra AI chưa được xác minh không bao giờ có thể thay thế cho xác nhận của nhà vật lý.
Nhiệm vụ ứng dụng
Chọn đầu ra AI (tài khoản, phân tích hoặc văn bản) mà bạn đã tạo trong mô-đun này. 1. sàng lọc ảo giác bằng mẫu: có bất kỳ hằng số giả, công thức giả, lỗi đơn vị hoặc thuộc tính chưa được xác minh nào không? Với mẫu 2, hãy đánh giá xem dữ liệu bạn đang sử dụng có thân thiện với quyền riêng tư hay không. Cuối cùng, hãy soạn thảo một tuyên bố ngắn gọn về việc sử dụng/minh bạch AI với mẫu 3. Viết ra trong 5-6 câu: quá trình quét cho thấy điều gì, bạn đã thực hiện những bước xác minh nào?
danh sách kiểm tra
- [ ] Tôi đã xác minh độc lập mọi hằng số, công thức và kết quả ở đầu ra.
- [ ] Tôi đã xác minh từng trích dẫn với DOI/nguồn.
- [ ] Tôi đã kiểm tra rằng tôi chưa nhập dữ liệu bí mật/cá nhân vào công cụ mà không được phê duyệt.
- [ ] Tôi đã báo cáo dữ liệu như hiện tại, không thêm thắt gì cả.
- [ ] Tôi đã ghi lại việc sử dụng AI của mình một cách minh bạch và có thể tái sử dụng.
- [ ] Tôi chấp nhận rằng trách nhiệm cuối cùng là của tôi; Tôi không quy lỗi cho chiếc xe.
Thi học phần
1. Cách định vị nào sau đây chính xác nhất cho trí tuệ nhân tạo trong vật lý?
- A) Trí tuệ nhân tạo là người trợ giúp mã hóa, soạn thảo và chỉnh sửa; Trách nhiệm đối với đơn vị, cấp bậc, xác minh và các quyết định đạo đức thuộc về con người ✔
- B) Trí tuệ nhân tạo là một chiếc máy tính và các kết quả bằng số mà nó đưa ra luôn chính xác
- C) Trí tuệ nhân tạo chỉ có tác dụng tính toán, không liên quan gì đến phân tích và giảng dạy thí nghiệm
- D) Vì trí tuệ nhân tạo vô tư hơn con người nên các quyết định về đơn vị và kết quả nên được giao cho nó.
Mô tả: Trí tuệ nhân tạo; Đó là một trợ lý viết mã, tạo bản nháp, tạo và tổ chức các khung phái sinh. Tuy nhiên, trách nhiệm cuối cùng đối với việc xác minh đơn vị và trật tự của kết quả, đảm bảo nó tuân theo các định luật bảo toàn, xác nhận hằng số và quy chiếu thuộc về nhà vật lý có thẩm quyền. Mô hình ngôn ngữ lớn không phải là một máy tính hay công cụ vật lý; là một trình tạo văn bản tạo ra 'từ có khả năng xảy ra tiếp theo nhất' và kết quả đầu ra chưa được xác minh của nó có thể dẫn đến giá trị, thiết kế hoặc kết quả không chính xác.
2. Giá trị gần đúng chính xác nhất cho kết quả bằng số của mã tính toán mà bạn in sang mô hình ngôn ngữ lớn là gì?
- A) Tin tưởng vào con số mà người mẫu nói 'mã này cho cái kia', bởi vì anh ta đã viết mã
- B) Tự chạy mã và xem kết quả; ✔ không dựa vào dự đoán số bằng lời nói của mô hình
- C) Chấp nhận mã là chính xác chỉ bằng cách xem cách đọc nó mà không cần chạy nó
- D) Nếu kết quả được hỏi trực tiếp vào mô hình và kết quả cho ra cùng một con số thì kết quả đó được coi là đúng.
Giải thích: LLM có thể 'tính toán' đầu ra của đoạn mã anh ta viết trong đầu và trả về một số sai; trong khi đó khi chạy cùng một mã, nó cho kết quả chính xác. Điều quyết định là mã được thực thi; Nó không phải là một dự đoán bằng lời nói của mô hình. Do đó, mã phải luôn được chạy trong môi trường của riêng bạn và phải nhìn thấy được đầu ra.
3. Cách hiệu quả nhất để kiểm tra xem liệu mô phỏng của một hệ động lực không ma sát có phản ánh chính xác vật lý hay không?
- A) Thấy biểu đồ trông gọn gàng và thuyết phục
- B) Chạy mô phỏng chỉ với một bước thời gian duy nhất và tin tưởng vào kết quả
- C) Theo dõi một đại lượng cần được bảo toàn, chẳng hạn như tổng năng lượng hoặc động lượng và kiểm tra xem nó có giữ nguyên không đổi ✔
- D) Đánh giá mô phỏng bằng tốc độ chạy của nó
Giải thích: Trong một hệ không ma sát, tổng năng lượng (và động lượng, nếu có) phải được bảo toàn. Việc theo dõi cường độ này trong suốt quá trình mô phỏng và xem liệu nó có giữ nguyên hay không sẽ phát hiện ra những sai sót về mặt số học (ví dụ: phương pháp Euler nguyên thủy liên tục tăng năng lượng). Nếu năng lượng bị trôi đi thì mô phỏng không đáng tin cậy; Chỉ vì nó tạo ra đồ họa đẹp không có nghĩa là nó đúng.
4. Cách tiếp cận nào sau đây là đúng khi khớp mô hình với dữ liệu thực nghiệm?
- A) Chọn đa thức bậc cao phù hợp nhất với dữ liệu vì nó đi qua tất cả các điểm
- B) Đưa ra các tham số dưới dạng một số duy nhất mà không mơ hồ
- C) Tuyên bố mức độ vừa vặn đơn giản bằng cách nhìn vào đường cong trông đẹp như thế nào.
- D) Chọn mô hình từ vật lý, báo cáo các tham số với độ không đảm bảo của chúng và đánh giá mức độ phù hợp với phần dư ✔
Giải thích: Nên chọn mô hình từ định luật vật lý mà sự kiện phải tuân theo, chứ không phải bằng cách nhìn vào dữ liệu và tự hỏi 'cái nào phù hợp nhất'. Với đủ các tham số miễn phí (ví dụ: đa thức bậc cao), có thể tạo ra sự phù hợp 'hoàn hảo' nhưng vô nghĩa về mặt vật lý (phù hợp quá mức) đối với bất kỳ dữ liệu nào. Các thông số phải được báo cáo với độ không chắc chắn của chúng, chất lượng phù hợp phải được đánh giá bằng số dư và tính hợp lý về mặt vật lý phải được kiểm tra.
5. Việc lặp lại phép đo nhiều lần sẽ làm giảm loại độ không đảm bảo nào?
- A) Độ không đảm bảo ngẫu nhiên; Độ không đảm bảo mang tính hệ thống không giảm khi lặp lại, nguyên nhân phải được tìm ra và khắc phục ✔
- B) Tính không chắc chắn mang tính hệ thống; bởi vì nó giúp loại bỏ lỗi hiệu chỉnh lại
- C) Loại bỏ hoàn toàn cả hai sự mơ hồ
- D) Không giảm bớt bất kỳ điều nào trong số đó; độ không đảm bảo không phụ thuộc vào số lượng phép đo
Giải thích: Phép đo lặp lại làm giảm độ không đảm bảo đo ngẫu nhiên (với sai số chuẩn của giá trị trung bình std/√N) do phân phối kết quả ngẫu nhiên. Mặt khác, độ không đảm bảo hệ thống là một sai số luôn sai lệch theo cùng một hướng (ví dụ: cân được hiệu chuẩn không chính xác) và không giảm khi lặp lại; Tuy nhiên, nguyên nhân có thể được tìm ra và khắc phục. Báo cáo độ không đảm bảo 'rất nhỏ' bằng nhiều phép đo có thể che giấu lỗi hệ thống cơ bản.
6. Cách độc lập đáng tin cậy nhất để xác minh công thức lan truyền lỗi do AI tạo ra là gì?
- A) Dựa vào công thức để có vẻ trôi chảy và thuyết phục
- B) Kiểm tra chéo bằng phép tính Monte Carlo lấy mẫu ngẫu nhiên các đầu vào có độ không chắc chắn ✔
- C) Hỏi lại công thức tương tự với trí tuệ nhân tạo và mong đợi nó cho kết quả tương tự
- D) Thu thập trực tiếp độ không đảm bảo đo và so sánh chúng với kết quả
Giải thích: AI thường trộn lẫn các hệ số đạo hàm riêng và cấu trúc căn bậc hai trong các công thức lan truyền sai số. Một cách hiệu quả để đạt được điều này một cách độc lập là kiểm tra chéo Monte Carlo: lấy mẫu ngẫu nhiên từng đầu vào với độ không đảm bảo của nó, tính toán hàm hàng nghìn lần và so sánh độ lệch chuẩn của đầu ra với độ không đảm bảo được đưa ra bởi công thức. Sự gặp gỡ của hai phương pháp độc lập làm tăng độ tin cậy.
7. Sự phân công lao động chính xác giữa AI và SymPy trong một nguồn gốc lâu dài của vật lý biểu tượng là gì?
- A) SymPy tạo ra ý tưởng về đạo hàm, AI xác minh chính xác từng bước
- B) Cả hai đều không cần thiết; các dẫn xuất dài chỉ phải được thực hiện thủ công
- C) AI xây dựng khung đạo hàm, SymPy xác minh chính xác từng bước đại số ✔
- D) Trí tuệ nhân tạo tự mình rút ra, không cần xác minh vì trông rất trôi chảy
Giải thích: AI lập chiến lược đạo hàm và giải thích đường đi, nhưng trong đại số dài, nó mắc lỗi dấu, thuật ngữ thoát và đơn giản hóa không chính xác. Mặt khác, SymPy hoạt động theo quy tắc và xác minh chính xác từng bước đại số. Quy trình làm việc mạnh mẽ nhất kết hợp cả hai: lấy khung từ AI, tìm nguồn từng bước bằng SymPy, kiểm tra kết quả bằng nghịch đảo đạo hàm-tích phân và trường hợp biên.
8. Phân tích thứ nguyên cho biết điều gì về độ chính xác của một công thức vật lý?
- A) Phân tích thứ nguyên luôn chứng minh dứt khoát rằng một công thức là đúng
- B) Phân tích thứ nguyên không có giá trị thực tiễn trong vật lý
- C) Phân tích thứ nguyên chỉ đưa ra hệ số không đổi của công thức chứ không đưa ra tính nhất quán của nó
- D) Một công thức không đúng thứ nguyên là hoàn toàn sai; phân tích thứ nguyên bắt lỗi mà không đếm số ✔
Giải thích: Hai vế của một phương trình vật lý phải bằng nhau về thứ nguyên trước khi chúng có thể bằng nhau về mặt số lượng. Một công thức không đúng về chiều thì đơn giản là sai; điều này được ghi lại từ tính toán đếm. Phân tích thứ nguyên không chứng minh một cách thuyết phục rằng một công thức là đúng (nó có thể thiếu một hệ số hoặc góc không thứ nguyên), nhưng nó chứng minh một cách thuyết phục rằng nó không chính xác; vì vậy đây là lần kiểm tra đầu tiên và rẻ nhất đối với mọi tài khoản.
9. Bước đầu tiên quan trọng nhất khi tính động năng của một vật đang chuyển động với vận tốc 36 km/h là gì?
- A) Chuyển đổi tất cả các đầu vào thành một hệ thống đơn vị (SI); Chuyển đổi 36 km/h thành 10 m/s ✔
- B) Đưa trực tiếp tốc độ tính bằng km/h vào công thức mà không chuyển đổi thành m/s
- C) Chỉ nhân các số mà không tính đến đơn vị
- D) Giả sử không cần kiểm tra thứ tự sau khi tính kết quả
Giải thích: Công thức dựa trên SI (E = ½mv²) mong đợi tốc độ tính bằng m/s. Nhầm lẫn giữa km/h với m hoặc giờ với giây trong phép tính là một trong những sai lầm phổ biến nhất trong vật lý. Trước tiên, tất cả đầu vào phải được chuyển đổi thành một hệ đơn vị (SI): 36 km/h = 10 m/s. Vì AI có thể mắc các lỗi thầm lặng trong quá trình chuyển đổi đơn vị phức hợp nên việc chuyển đổi này phải được xác minh theo cách thủ công hoặc bằng công cụ nhận biết đơn vị.
10. Thực tiễn nào là đúng về mặt “trung thực” trong biểu đồ khoa học?
- A) Che giấu sự không chắc chắn vì các thanh lỗi làm lộn xộn biểu đồ
- B) Dán nhãn các trục bằng đơn vị, chọn thang đo không bị biến dạng và hiển thị độ không đảm bảo bằng các thanh lỗi ✔
- C) Luôn bắt đầu trục y trong phạm vi sẽ thể hiện sự khác biệt rõ rệt nhất
- D) Để trục không có đơn vị vì người đọc có thể đoán được đơn vị
Mô tả: Biểu đồ khoa học trung thực; nó gắn nhãn các trục bằng độ lớn và đơn vị, chọn tỷ lệ một cách có ý thức và không bị biến dạng (bắt đầu trục y từ 0 để phóng đại là sai lệch) và làm cho độ không đảm bảo đo hiển thị bằng các thanh lỗi. Việc che giấu sự không chắc chắn làm cho dữ liệu có vẻ chắc chắn và tạo ra ấn tượng sai lầm về sự thiên vị hoặc đồng tình. Hình ảnh càng thuyết phục thì việc kiểm tra tính toàn vẹn càng quan trọng.
11. Rủi ro lớn nhất và kỷ luật đúng đắn khi nhận được hỗ trợ tài liệu và trích dẫn từ trí tuệ nhân tạo là gì?
- A) Trí tuệ nhân tạo lãng phí thời gian vì nó tạo ra các trích dẫn rất chậm
- B) Nguồn do trí tuệ nhân tạo gợi ý luôn là nguồn có thật, không cần xác minh
- C) Trí tuệ nhân tạo có thể tạo ra các thuộc tính có vẻ như thật nhưng không tồn tại; Mỗi trích dẫn phải được xác minh bằng DOI/nguồn và tài liệu phải được tìm thấy từ cơ sở dữ liệu thực tế ✔
- D) Các trích dẫn bịa đặt rất dễ được nhận ra vì chúng luôn sử dụng tên tạp chí không có thật
Giải thích: Một mô hình ngôn ngữ lớn không được kết nối với cơ sở dữ liệu thực tế; Bằng cách bắt chước các mẫu trích dẫn, nó có thể tạo ra các bài báo mang tên tạp chí thật, tác giả đáng tin cậy và năm hợp lý nhưng hoàn toàn không tồn tại. Do đó, tài liệu phải được tìm thấy từ cơ sở dữ liệu thực, AI chỉ nên được sử dụng để tóm tắt/dịch văn bản thực tế và mỗi trích dẫn phải được xác minh độc lập theo DOI hoặc tiêu đề. Một trích dẫn chưa được xác minh là vi phạm tính liêm chính trong học thuật.
12. Để có được kết quả đáng tin cậy khi nhờ AI tóm tắt một bài viết thì cần những gì?
- A) Chỉ cần đưa ra tiêu đề bài viết là đủ, người mẫu biết nội dung
- B) Sử dụng bản tóm tắt trực tiếp mà không kiểm tra gì cả, vì nó có vẻ trôi chảy
- C) Yêu cầu mô hình đưa ra cùng một bản tóm tắt hai lần và chấp nhận là đúng nếu nó giống nhau.
- D) Đưa văn bản gốc vào mô hình và so sánh bản tóm tắt được tạo với văn bản gốc để kiểm tra xem có gì bị thêm/bóp méo ✔
Giải thích: Chỉ cần đặt cho AI tiêu đề của một bài báo và yêu cầu tóm tắt sẽ khiến mô hình đưa ra một “tóm tắt hợp lý” mà không hề xem bài báo đó; Bản tóm tắt này có thể trái ngược với sự thật. Chỉ có thể có được một bản tóm tắt đáng tin cậy khi văn bản gốc được đưa vào mô hình và bản tóm tắt được tạo ra được so sánh với văn bản gốc. Ngoài ra, cần kiểm tra xem bản tóm tắt có thêm kết quả hoặc số không có trong văn bản hay không.
13. Điều nào đúng với đầu ra của trí tuệ nhân tạo trong sản xuất tài liệu môn Vật lý?
- A) Mỗi giải pháp cần được xác minh một cách độc lập, cần xác định rõ các giới hạn của sự tương tự và những yếu tố gây phân tâm nên nhắm vào những quan niệm sai lầm thực sự ✔
- B) Đáp án do trí tuệ nhân tạo tạo ra luôn chính xác, không cần kiểm tra
- C) Sự tương tự là hoàn hảo trong mọi trường hợp, không cần xác định giới hạn của chúng.
- D) Các yếu tố gây phân tâm nên được chọn hoàn toàn ngẫu nhiên, vì bản chất của lựa chọn sai là không quan trọng.
Mô tả: AI nhanh chóng tạo ra các câu hỏi, ví dụ và phép loại suy, nhưng việc kiểm tra là điều cần thiết ở ba điểm: giải pháp cho từng vấn đề phải được xác minh độc lập (bằng tay hoặc bằng mã), vì mô hình có thể mắc lỗi ký hiệu/đơn vị trong giải pháp; Mỗi sự tương tự phải được nêu rõ ở chỗ nó bị hỏng, nếu không nó sẽ gây ra một lỗi mới; Những kẻ gây xao lãng nên nhắm vào những quan niệm sai lầm thực sự. Trách nhiệm thuộc về giáo viên; Trả lời sai sẽ khiến học sinh hiểu sai và khó sửa.
14. Hành vi nào phù hợp với tính chính trực khoa học khi dữ liệu thực nghiệm không hoàn toàn phù hợp với lý thuyết?
- A) Có trí tuệ nhân tạo sắp xếp dữ liệu phù hợp lý thuyết và thể hiện đồ thị một cách thuyết phục
- B) Điều tra nguyên nhân sai lệch (lỗi hệ thống, thiếu mô hình, hiệu ứng mới) và báo cáo trung thực, không thay đổi số liệu ✔
- C) Bỏ qua sự bất đồng và chỉ báo cáo những điểm phù hợp
- D) Xóa dữ liệu và điều chỉnh kết quả thí nghiệm mới
Giải thích: Yêu cầu AI 'sắp xếp dữ liệu để phù hợp hơn với lý thuyết' là hành vi gian lận dữ liệu và vi phạm trắng trợn tính liêm chính khoa học. Sự bất đồng là điều cần được điều tra chứ không phải bị che giấu: nó có thể chỉ ra một lỗi hệ thống, một biến động thống kê, thiếu khuôn mẫu hoặc một hiệu ứng mới thú vị. Dữ liệu được báo cáo nguyên trạng nhưng không chắc chắn; Trách nhiệm cuối cùng thuộc về con người và 'công cụ đã làm việc đó' không phải là biện pháp bào chữa.