הזיה, אתיקה, סודיות ויושרה מדעית

רווחים:

• יכולת לזהות צורות הזיה בפיזיקה (קבוע מזויף, חוק מזויף, טעות יחידה, תוצאה שגויה, ייחוס מזויף) ולתפוס אותן בשיטה המתאימה.
• יכולת להגן על נתונים שלא פורסמו, סודיים ואישיים על ידי אנונימיזציה ומזעור על ידי אי הכנסתם לכלים לא מורשים
• היכולת להבין שהאחריות הסופית מוטלת על בני האדם על ידי דיווח על הנתונים בכנות, מבלי לייפות אותם, ותיעוד שקוף של השימוש בבינה מלאכותית.

לאורך כל המודול הזה, כיסינו את אותה דיסציפלינה בכל יחידה: בינה מלאכותית (AI) מואצת, בני אדם מוודאים. ביחידה הסופית הזו, אנו מפגישים את כל תרגול האימות הזה תחת מטריית היושרה המדעית, הערך הבסיסי ביותר של מדע הפיזיקה. פיזיקה היא השאיפה לייצר ידע בר אימות על הטבע; בלב המאמץ הזה עומדים יושרה, חזרתיות ואחריות. ניתן להשתמש בבינה מלאכותית כדי לחזק את הערכים הללו - אך כאשר משתמשים בהם בצורה לא נכונה, היא מאיימת על כולם. ביחידה זו, נדון בצורות הפיזיות של הזיות, אחריות על נתונים ופרטיות, גבולות אתיים ומדוע האחריות הסופית תמיד נשארת על בני האדם.

צורות של הזיה בפיזיקה

הזיה - ייצור בטוח של AI של מידע שקרי - לובש צורות ייחודיות ומסוכנות בפיזיקה. זיהוי אלה הוא הצעד הראשון לתפיסה:

סוג של הזיה

דוגמה

שיטת לכידה

התאמה קבועה/נתונים

צפיפות חומר לא נכונה

אישור עם התייחסות אמינה

נוסחה/חוק שגוי

שם "עיקרי" שלא קיים

גזירת ספר לימוד/SymPy

שגיאת יחידה/הזמנה

בטעות eV עבור J

ניתוח ממדים, בקרת יחידה

תוצאה מספרית שגויה

פלט קוד לא תקין

הפעל את הקוד

ייחוס אפוקריפי

מאמר לא קיים

אימות עם DOI

תוצאה שדווחה שגויה

עיוות של מאמר אמיתי

קרא את המקור המקורי

החוט המשותף הוא זה: מודל שפה גדול נועד לא לומר את האמת, אלא לייצר "טקסט למראה אפשרי". בפיזיקה ההבדל בין "לכאורה אפשרי" ל"אמיתי" הוא בדיוק הסיבה לקיומו של המדע.

נתונים, פרטיות ואחריות קניין רוחני

פיזיקאים עובדים לעתים קרובות עם נתונים רגישים: נתונים ניסיוניים שלא פורסמו, עיצובים מוקדמים לפטנט, מדידות סודיות משיתופי פעולה תעשייתיים, מחקר הכולל נתוני בריאות או בטיחות אישיים. הזנת נתונים כאלה לכלי בינה מלאכותית כללית עלולה להפוך אותם לנגישים לצדדים שלישיים ואולי לנתוני ההדרכה של המודל - מה שאומר הן הפרת סודיות והן אובדן עדיפות מדעית (הזכות להיות הראשון לגלות גילוי). הכלל ברור: אל תכניס נתונים לא מפורסמים, חסויים או אישיים לכלי AI שהארגון שלך לא אישר. אם אתה מתכוון להיכנס, לעשות אנונימי, למזער (תן רק את מה שצריך) ולקרוא את תנאי הנתונים של הכלי.

זהירות: הזנת מדידות שלא פורסמו של מעבדה או פרמטרי עיצוב חסויים של חברה לתוך כלי בינה מלאכותית "לניתוח מהיר" יכולה להיות טעות בלתי הפיכה. לאחר שיתוף נתונים, לא ניתן להיזכר בהם. אם יש ספק, אל תזין נתונים; תחילה הבהיר את מדיניות המוסד שלך ואת תנאי הפרטיות של הכלי.

גבולות אתיים ויושרה מדעית

שימוש עשוי להיות אפשרי מבחינה טכנית ואף חוקי, אך עדיין לא אתי. ישנם מספר קווים אדומים בפיזיקה הנוגעים ליושרה מדעית:

ייצור נתונים או קישוט. לבקש מה-AI "לייצר נקודות שמתאימות יותר לתשואה" או "לגרום לגרף להיראות משכנע יותר" זו הונאה בנתונים. הנתונים מדווחים כפי שהם; חריגים מסולקים רק עם סיבה מתועדת, לגיטימית.

שקיפות התרומה. אם השתמשת ב-AI במחקר - כתיבת קוד, תיקון שפה, ניתוח - זה הוגן להבהיר זאת במקום המתאים. כתבי עת ומוסדות רבים דורשים זאת.

מחבר ואחריות. AI אינו סופר; לא יכול להיות אחראי לתוכן של יצירה. האחריות מוטלת תמיד על סופרים אנושיים. אי אפשר להגן על שגיאה שנוצרה על ידי AI באמירה "הרכב הצליח".

יכולת שחזור. תוצאה מדעית מחייבת את השיטה (כולל קוד בשימוש, פרמטרים, הנחיות בינה מלאכותית) לתיעוד ברור כדי שאחרים יוכלו לשכפל אותה.

שלושה מיני תיקים

מקרה 1 - דליפת נתונים סודיים. חוקר אחד הדביק נתוני מדידה מהסכם סודיות עם חברה לתוך כלי AI גנרי "לגרף מהיר". מאוחר יותר הוא הבין שהכלי הזה יכול לאחסן תשומות. התרחשה הפרת חוזה ואובדן עדיפות אפשרי. לקח: נתונים סודיים לעולם אינם מוכנסים לכלי לא מאושר.

מקרה 2 - הדפס התייפייפות. תלמיד אחד ביקש מה-AI עריכה ש"תגרום לנתונים להיראות קרובים יותר לתיאוריה" מכיוון שהנתונים הניסויים לא תאמו לחלוטין את התיאוריה. היועץ שלו הבחין בכך ועצר אותו: אי התאמה פירושה או טעות שיטתית בניסוי או פיזיקה מעניינת חדשה - משהו שצריך לחקור, לא להסתיר. הנתונים דווחו ביושר ונמצאה שגיאה שיטתית.

מקרה 3 - השגת שקיפות. צוות אחד כתב את קוד ניתוח הנתונים למאמר בעזרת AI וציין זאת בבירור בסעיף השיטות; שיתף את הקוד וההנחיות כקבצים נוספים. שופט בדק את הקוד והציע תיקון קל. השקיפות תפסה את השגיאה לפני הפרסום והגבירה את אמינות המחקר.

ארבע תבניות הניתנות להעתקה

1) בדיקת הזיות:

סרוק את הפלט הפיזיקלי הבא לאיתור הזיות: האם יש קבועים מזויפים, שמות נוסחאות/חוקים מזויפים, שגיאות יחידות/סדר, תוצאות מספריות לא מאומתות וייחוס לא מאומת? סמן כל פריט חשוד וציין כיצד לאמת אותו (הפניה, קוד, DOI). פלט: [כאן]

2) בדיקה מוקדמת של פרטיות הנתונים:

העריכו את הנתונים/הטקסט הבאים לפני הכנסתם לכלי AI: האם הוא מכיל מידע לא פורסם, סודי, אישי או מוגן חוזית? אם כן, הצע כיצד אוכל להפוך אותו לאנונימי או למזער אותו. אם אינך בטוח, אמור "בדוק את המדיניות הארגונית". תוכן: [כאן]

3) טיוטת הצהרת שקיפות/תרומה:

במחקר אחד השתמשתי בבינה מלאכותית עבור: [קידוד / תיקון שפה / ניתוח וכו']. כתוב טיוטה קצרה "הצהרת שימוש ב-AI" שמתעדת זאת בכנות. זה צריך גם לציין אילו חלקים אומתו על ידי בני אדם.

4) הבטחת יושרה מדעית:

בצעו בדיקת תקינות לניתוח/תוצאה הבאים: נתונים מדווחים כפי שהם (ללא קישוט), האם מדווחים אי ודאויות, האם השיטה מתועדת בצורה ניתנת לשחזור, האם השימוש ב-AI שקוף? רשום את כל הליקויים. תוכן: [כאן]

הנחיה חלשה / הנחיה חזקה

חלש: "ערוך את התשואה כדי להתאים יותר לתיאוריה ולהפוך את הגרף לשכנע."

תוצאה: הונאת נתונים; הפרה ישירה של היושרה המדעית, אובדן מוניטין בלתי הפיך.

חזק: "התשואה לא לגמרי תואמת את התיאוריה. עזור לי לנתח גורמים אפשריים לאי התאמה זו (שגיאה שיטתית, תנודה סטטיסטית, מודל חסר או אפקט חדש); הצע כיצד לדווח על הפער בכנות מבלי לשנות את הנתונים".

תוצאה: גישה כנה, חוקרת ונאמנה ליושרה מדעית; קונפליקט הופך להזדמנות לגילוי.

טעויות נפוצות

• מבלבל בין הזיה לביטחון עצמי. רק בגלל שה-AI מדבר בביטחון זה לא ערובה לדיוק; אפילו המשפט המדויק ביותר עשוי להיות מפוברק.
• הזנת נתונים סודיים לרכב ללא אישור. לאחר השיתוף, לא ניתן לאחזר נתונים; עדיפות וחיסיון אובדים.
• מייפות נתונים. שינוי הנתונים ל"תיאוריית ההתאמה" הוא אחד הפשעים המדעיים החמורים ביותר.
• הסתרת השימוש ב-AI. שקיפות היא דרישת יושר והיא חובה במוסדות רבים.
• הטלת האחריות על הרכב. "ה-AI עשה את זה" אינו הגנה; האחריות הסופית תמיד מוטלת על האדם.

טיפ: בסוף כל מחקר מבוסס בינה מלאכותית, שאל את עצמך שלוש שאלות: (1) האם כל עובדה, מספר וייחוס בפלט זה אומתו באופן עצמאי? (2) האם הנתונים שבהם השתמשתי הכילו מידע סודי/אישי שאסור לי להזין? (3) האם תיעדתי את השימוש והמתודולוגיה שלי ב-AI בצורה שקופה מספיק כדי שמישהו אחר ישכפל אותם? אם אינך יכול להשיב "כן" ברור לשלוש השאלות הללו, המחקר עדיין לא הושלם.

לסיכום

יושרה מדעית היא בסיס הקיום של הפיזיקה והיא חשובה אף יותר בעידן הבינה המלאכותית. הזיה מופיעה בפיזיקה בצורה של קבועים כוזבים, חוקים כוזבים, שגיאות יחידה, מסקנות שגויות והפניות כוזבות; כל אחד מהם נלכד עם שיטת האימות הייחודית שלו. נתונים סודיים ואישיים אינם מוכנסים לכלים לא מורשים; הנתונים לעולם אינם מיופים; השימוש בבינה מלאכותית מתועד בשקיפות; והאחריות הסופית תמיד מוטלת על האדם. יש רק דיסציפלינה אחת שאתה לומד לאורך המודול הזה: בינה מלאכותית היא מאיץ רב עוצמה, אבל אימות, יושרה ואחריות מוטלות על כתפי הפיזיקאי המוסמך - כלומר אתה. פלט AI לא מאומת לעולם אינו תחליף לאישור של פיזיקאי.

משימת יישום

בחר פלט AI (חשבון, ניתוח או טקסט) שהפקת במודול זה. 1. מסך להזיות עם תבנית: האם יש קבועי דמה, נוסחאות מזויפות, שגיאות יחידה או ייחוס לא מאומת? עם תבנית 2, הערך אם הנתונים שבהם אתה משתמש ידידותיים לפרטיות. לבסוף, נסח משפט קצר לשימוש ב-AI/שקיפות עם תבנית 3. רשום ב-5-6 משפטים: מה גילתה הסריקה, אילו שלבי אימות ביצעת?

רשימת בדיקה

• [ ] אימתתי באופן עצמאי כל קבוע, נוסחה ותוצאה בפלט.
• [ ] אימתתי כל ציטוט עם ה-DOI/מקור.
• [ ] בדקתי שלא הכנסתי נתונים סודיים/אישיים לכלי ללא אישור.
• [ ] דיווחתי על הנתונים כפי שהם, ללא קישוטים.
• [ ] תיעדתי את השימוש שלי ב-AI בצורה שקופה וניתנת לשחזור.
• [ ] קיבלתי שהאחריות הסופית היא שלי; לא ייחסתי תקלה לרכב.

מבחן מודול

1. איזה מהבאים הוא המיקום המדויק ביותר עבור בינה מלאכותית בפיזיקה?

• א) בינה מלאכותית היא עוזרת קוד, טיוטה ועריכה; האחריות ליחידה, דרגה, אימות והחלטות אתיות היא של האדם ✔
• ב) בינה מלאכותית היא מחשבון והתוצאות המספריות שהיא נותנת תמיד מדויקות
• ג) בינה מלאכותית עובדת רק בחישוב, אין לה שום קשר לניתוח והוראה של ניסויים
• ד) מאחר שהבינה המלאכותית היא יותר חסרת פניות מבני אדם, יש להשאיר לה את החלטות היחידה והתוצאה.

תיאור: בינה מלאכותית; זה עוזר שכותב קוד, מייצר טיוטות, יוצר ומארגן מסגרות גזירה. עם זאת, האחריות הסופית לאימות יחידה וסדר של התוצאה, הבטחתה עם חוקי שימור, אישור קבוע ואישור הפניה שייכת לפיזיקאי המוסמך. מודל השפה הגדול אינו מחשבון או מנוע פיזיקה; הוא מחולל טקסט שמייצר את 'המילה הבאה בסבירות גבוהה' ופלט לא מאומת שלה עלול להוביל לערך, עיצוב או תוצאה שגויים.

2. מהו הקירוב המדויק ביותר לתוצאה המספרית של קוד חישובי שאתה מדפיס למודל שפה גדול?

• א) בהסתמך על המספר המודל אומר 'הקוד הזה נותן את זה', כי הוא כתב את הקוד
• ב) הפעל את הקוד בעצמך וראה את הפלט; ✔ לא להסתמך על חיזוי מספרי מילולי של המודל
• ג) קבלת הקוד כנכון רק על ידי התבוננות כיצד הוא נקרא, מבלי להפעיל אותו כלל
• ד) אם התוצאה נשאלת ישירות למודל שוב והיא אומרת את אותו מספר, היא נחשבת נכונה.

הסבר: LLM עשוי 'לחשב' את הפלט של הקוד שכתב בראשו ולהחזיר מספר שגוי; ואילו כאשר אותו קוד מופעל הוא נותן את התוצאה הנכונה. מה שדטרמיניסטי הוא הקוד שמתבצע; זה לא חיזוי מילולי של המודל. לכן, יש להפעיל את הקוד תמיד בסביבה שלך ויש לראות את הפלט.

3. מהי הדרך החזקה ביותר לבדוק האם הדמיה של מערכת דינמית ללא חיכוך משקפת במדויק את הפיזיקה?

• א) לראות שהתרשים נראה מסודר ומשכנע מבחינה ויזואלית
• ב) הפעלת הסימולציה בצעד זמן בודד בלבד ואמון על התוצאה
• ג) ניטור כמות שצריך לשמר, כגון אנרגיה כוללת או מומנטום, ובדיקה אם היא נשארת קבועה ✔
• ד) הערכת הסימולציה לפי כמה מהר היא פועלת

הסבר: במערכת חסרת חיכוך, יש לשמר את האנרגיה הכוללת (ותנע, אם יש). ניטור גודל זה לאורך הסימולציה ולראות אם הוא נשאר קבוע מגלה פגמים מספריים (למשל שיטת אוילר הפרימיטיבית מגבירה כל הזמן את האנרגיה). אם האנרגיה נסחפת, הסימולציה אינה אמינה; זה שהוא מייצר גרפיקה יפה לא אומר שזה נכון.

4. איזו מהגישה הבאה היא הגישה הנכונה בהתאמת מודל לנתונים ניסיוניים?

• א) בחירת הפולינום ברמה הגבוהה יותר המתאים ביותר לנתונים מכיוון שהוא עובר דרך כל הנקודות
• ב) מתן הפרמטרים כמספר בודד ללא עמימות
• ג) הכרזה על איכות ההתאמה פשוט על ידי התבוננות עד כמה יפה העקומה נראית.
• ד) בחירת המודל מהפיסיקה, דיווח על הפרמטרים עם אי הוודאות שלהם והערכת ההתאמה עם השאריות ✔

הסבר: יש לבחור את המודל מתוך החוק הפיזיקלי שהאירוע חייב לציית לו, לא על ידי התבוננות בנתונים ותהייה 'איזה מהם מתאים יותר'. עם מספיק פרמטרים חופשיים (למשל פולינום בדרגה גבוהה) ניתן לבצע התאמה 'מושלמת' אך חסרת משמעות פיזית (איבר התאמה) לכל נתונים. יש לדווח על פרמטרים עם אי הוודאות שלהם, יש להעריך את איכות ההתאמה עם שאריות, ולבדוק סבירות פיזית.

5. חזרה על מדידה פעמים רבות מפחיתה איזה סוג של אי ודאות?

• א) אי ודאות אקראית; חוסר הוודאות השיטתי אינו פוחת עם החזרה, יש למצוא את הסיבה ולתקן ✔
• ב) אי ודאות שיטתית; כי זה מבטל שגיאות כיול מחדש
• ג) מבטל לחלוטין את שתי העמימות
• ד) אינו מפחית אף אחד מהם; אי הוודאות אינה תלויה במספר המדידות

הסבר: מדידה חוזרת מפחיתה אי ודאות אקראית (עם שגיאת תקן של ממוצע std/√N) הנובעת מהתפלגות אקראית של התוצאות. אי ודאות שיטתית, לעומת זאת, היא שגיאה שתמיד סוטה לאותו כיוון (לדוגמה, איזון מכויל לא נכון) ואינה פוחתת עם החזרה; עם זאת, ניתן למצוא ולתקן את הסיבה. דיווח על אי ודאות 'קטנה מאוד' עם מדידות מרובות עשוי להסתיר שגיאה שיטתית בסיסית.

6. מהי הדרך העצמאית האמינה ביותר לאמת נוסחת התפשטות שגיאה שנגזרת על ידי AI?

• א) הסתמכות על הנוסחה שתראה זורמת ומשכנעת
• ב) בדיקה צולבת עם חישוב מונטה קרלו שדוגם באופן אקראי את התשומות עם אי הוודאות שלהם ✔
• ג) שואלים שוב את אותה נוסחה לבינה מלאכותית ומצפים שהיא תיתן את אותה תוצאה
• ד) איסוף ישיר של אי הוודאות והשוואתם לתוצאה

הסבר: בינה מלאכותית מערבבת לעתים קרובות מקדמי נגזרת חלקיים ומבנה שורש ריבועי בנוסחאות התפשטות שגיאות. דרך רבת עוצמה להשיג זאת באופן עצמאי היא בדיקת צולבת מונטה קרלו: דגימה אקראית של כל קלט עם אי הוודאות שלו, חישוב הפונקציה אלפי פעמים, והשוואת סטיית התקן של הפלט לאי הוודאות הניתנת על ידי הנוסחה. המפגש בין שתי שיטות עצמאיות מגביר את הביטחון.

7. מהי חלוקת העבודה הנכונה בין AI ל-SymPy בגזירה ארוכה של פיזיקה סימבולית?

• א) SymPy מייצר את רעיון הגזירה, AI מאמת במדויק כל שלב
• ב) שניהם מיותרים; גזירות ארוכות חייבות להיעשות באופן ידני בלבד
• ג) AI בונה את מסגרת הגזירה, SymPy מאמת במדויק כל שלב אלגברי ✔
• ד) בינה מלאכותית עושה את הגזירה לבד, אין צורך באימות כי היא נראית שוטפת

הסבר: בינה מלאכותית מתכננת אסטרטגיה של הגזירה ומסבירה את הנתיב, אבל באלגברה ארוכה היא עושה שגיאות סימנים, מונחים נמלטים והפשטות שגויות. SymPy, לעומת זאת, פועלת לפי כללים ומאמתת במדויק כל שלב אלגברי. זרימת העבודה החזקה ביותר משלבת את השניים: קבל את השלד מה-AI, מקור כל שלב עם SymPy, בדוק את התוצאה עם היפוך נגזרת-אינטגרל ומקרה הגבול.

8. מה אומר ניתוח ממדי על דיוק נוסחה פיזיקלית?

• א) ניתוח ממדי תמיד מוכיח באופן סופי שנוסחה נכונה
• ב) לניתוח ממדים אין ערך מעשי בפיזיקה
• ג) ניתוח מימדי נותן רק את הגורם הקבוע של הנוסחה, לא את העקביות שלה
• ד) נוסחה שאינה מחזיקה במימד היא שגויה לחלוטין; ניתוח ממדים תופס שגיאה מבלי לספור מספרים ✔

הסבר: שני הצדדים של משוואה פיזיקלית חייבים להיות שווים ממדי לפני שהם יכולים להיות שווים מבחינה מספרית. נוסחה שאינה מחזיקה ממדי היא פשוט שגויה; זה נלכד מחישוב הספירה. ניתוח מימדי אינו מוכיח סופית שנוסחה נכונה (ייתכן שהיא פוסחת על גורם קבוע או זווית חסרת ממדים), אך היא מוכיחה באופן סופי שהיא לא נכונה; כך שזו הביקורת הראשונה והזולה ביותר בכל חשבון.

9. מהו הצעד הראשון הקריטי ביותר בחישוב האנרגיה הקינטית של עצם שנוסע במהירות של 36 קמ"ש?

• א) המרת כל התשומות למערכת יחידה אחת (SI); המרת 36 קמ"ש ל-10 מ"ש ✔
• ב) הכנסת המהירות בקמ"ש ישירות לתוך הנוסחה מבלי להמיר אותה ל-m/s
• ג) הכפלת מספרים בלבד מבלי לקחת בחשבון את היחידות
• ד) בהנחה שאין צורך לבדוק את הסדר לאחר חישוב התוצאה

הסבר: נוסחאות מבוססות SI (E = ½mv²) מצפות למהירות ב-m/s. בלבול קמ"ש עם m או שעות עם שניות בחישוב היא אחת הטעויות הנפוצות ביותר בפיזיקה. ראשית יש להמיר את כל התשומות למערכת אחת של יחידות (SI): 36 קמ"ש = 10 מ"ש. מכיוון שבינה מלאכותית יכולה לעשות שגיאות שקטות בהמרות יחידות מורכבות, יש לאמת המרה זו באופן ידני או עם כלי מודע ליחידה.

10. איזה פרקטיקה נכונה מבחינת 'כנות' בגרף מדעי?

• א) הסתרת אי ודאות מכיוון שסרגלי שגיאה מבלבלים את התרשים
• ב) תיוג את הצירים ביחידות, בחר את קנה המידה ללא עיוות, והצג אי ודאות עם פסי שגיאה ✔
• ג) התחל תמיד את ציר ה-y בטווח שיראה את ההבדל הדרמטי ביותר
• ד) השארת הצירים ללא יחידות כי הקורא יכול לנחש את היחידה

תיאור: תרשים מדעי כנה; הוא מסמן צירים עם גודל ויחידה, בוחר קנה מידה במודע וללא עיוות (להתחיל את ציר ה-y הרחק מאפס לצורך הגזמה היא מטעה), והופך את אי הוודאות של המדידה לגלויה באמצעות פסי שגיאה. הסתרת אי הוודאות גורמת לנתונים להיראות בטוחים ויוצרת רושם שווא של הטיה או הסכמה. ככל שהגרפיקה משכנעת יותר, כך בדיקת היושרה חשובה יותר.

11. מהו הסיכון הגדול ביותר והמשמעת הנכונה כאשר מקבלים תמיכה בספרות ובציטוט מבינה מלאכותית?

• א) בינה מלאכותית מבזבזת זמן כי היא מייצרת ציטוטים לאט מאוד
• ב) מקורות המוצעים על ידי בינה מלאכותית הם תמיד אמיתיים, אין צורך באימות
• ג) בינה מלאכותית יכולה לייצר ייחוסים שנראים אמיתיים אך אינם קיימים; כל ציטוט חייב להיות מאומת עם DOI/מקור ויש למצוא את הספרות ממסד הנתונים בפועל ✔
• ד) ציטוטים מומצאים מזוהים בקלות מכיוון שהם תמיד משתמשים בשמות יומנים לא אמיתיים

הסבר: מודל שפה גדול אינו מחובר למסד נתונים בפועל; על ידי חיקוי דפוסי ציטוט, הוא יכול לייצר מאמרים הנושאים את שם כתב העת האמיתי, מחברים אמינים ושנה סבירה אך אינם קיימים לחלוטין. לכן, יש למצוא ספרות ממאגרי מידע אמיתיים, יש להשתמש בבינה מלאכותית רק כדי לסכם/ לתרגם את הטקסט בפועל, וכל ציטוט צריך להיות מאומת באופן עצמאי על ידי DOI או כותרת. ציטוט לא מאומת הוא פגיעה ביושרה האקדמית.

12. מה נדרש כדי לקבל תוצאות מהימנות כאשר AI מסכם מאמר?

• א) מספיק לתת את הכותרת של המאמר, הדגם יודע את התוכן
• ב) שימוש ישיר בסיכום מבלי לבדוק אותו כלל, כי הוא נראה קולח
• ג) לבקש מהמודל את אותו סיכום פעמיים ולקבל אותו כנכון אם הוא דומה.
• ד) מתן הטקסט המקורי לדגם והשוואת התקציר שהופק לטקסט המקורי כדי לבדוק ששום דבר לא התווסף/עיוות ✔

הסבר: פשוט לתת ל-AI את הכותרת של מאמר ולבקש סיכום יגרום למודל להגיע ל'סיכום סביר' מבלי לראות את המאמר מעולם; סיכום זה עשוי להיות ההפך מהאמת. ניתן לקבל סיכום אמין רק כאשר הטקסט המקורי מוזן למודל והסיכום שנוצר מושווה לטקסט המקורי. בנוסף, יש לבדוק שהסיכום אינו מוסיף תוצאות או מספרים שאינם בטקסט.

13. מה נכון לתפוקה של בינה מלאכותית בייצור חומרי קורס בפיזיקה?

• א) כל פתרון צריך להיות מאומת באופן עצמאי, יש לציין את גבולות האנלוגיות, ולהסיח את הדעת צריך להתמקד בתפיסות שגויות אמיתיות ✔
• ב) מפתח התשובה המיוצר על ידי בינה מלאכותית הוא תמיד נכון, אין צורך באודיטינג
• ג) אנלוגיות מושלמות בכל המקרים, אין צורך לציין את גבולותיהן.
• ד) יש לבחור מסיחים באופן אקראי לחלוטין, כי אופי הבחירה השגויה אינו חשוב.

תיאור: בינה מלאכותית מהירה ביצירת שאלות, דוגמאות ואנלוגיות, אך בדיקה חיונית בשלוש נקודות: יש לאמת את הפתרון לכל בעיה באופן עצמאי (ביד או עם קוד), מכיוון שהמודל עשוי לבצע שגיאות סימן/יחידה בפתרון; יש לציין כל אנלוגיה היכן שהיא מתקלקלת, אחרת היא תוליד שגיאה חדשה; מסיחי דעת צריכים להתמקד בתפיסות שגויות אמיתיות. האחריות מוטלת על המורה; מפתח תשובה שגוי משאיר את התלמידים עם אי הבנות שקשה לתקן.

14. מהי ההתנהגות העולה בקנה אחד עם יושרה מדעית כאשר הנתונים הניסויים אינם מתאימים לחלוטין לתיאוריה?

• א) בעל בינה מלאכותית ארגן את הנתונים כך שיתאימו לתיאוריה והצג את הגרף בצורה משכנעת
• ב) חקירת הסיבות לאי ההתאמה (טעות שיטתית, היעדר מודל, אפקט חדש) ודיווח כנה מבלי לשנות את הנתונים ✔
• ג) התעלמות מחוסר הסכמה ודיווח רק על נקודות שמתאימות
• ד) מחיקת הנתונים והתאמת תוצאת ניסוי חדשה

הסבר: לבקש מבינה מלאכותית 'לסדר את הנתונים כך שיתאימו טוב יותר לתיאוריה' היא הונאה בנתונים והפרה בוטה של ​​היושרה המדעית. אי הסכמה היא משהו שצריך לחקור, לא להסתיר: זה עשוי להצביע על טעות שיטתית, תנודה סטטיסטית, חוסר דפוס או אפקט חדש ומעניין. הנתונים מדווחים כפי שהם, בחוסר ודאות; האחריות הסופית מוטלת על האדם ו'הכלי עשה את זה' אינו הגנה.