רווחים:
- יכולת להפחית סיכונים משפטיים על ידי הערכת מצב זכויות היוצרים של הקלט ותנאי הנתונים של הכלי והטלת ספק בזכויות הפלט
- יכולת להגן על נתונים אישיים באמצעות אנונימיזציה ומזעור ולהבטיח פרטיות על ידי שקיפות למשתמש
- יכולת להקים מסגרת ממשל למוסד הכוללת כלים מאושרים, נתונים אסורים וכללי אימות, ולבחון את השימוש בו עם ערכי ספרנות.
הספרן ומנהל המידע הוא מי שלא רק מארגן ומציג מידע, אלא גם מגן עליו: שמירה על זכויות היוצר, על פרטיות המשתמש ועל אחריות המוסד. בינה מלאכותית מאתגרת את שלושת התחומים בשאלות חדשות ומורכבות. האם העלאת מסמך ל-AI מהווה הפרה של זכויות יוצרים? האם מסירת נתוני משתמש לכלי בינה מלאכותית מפרה את הפרטיות? כיצד על הארגון לנהל את השימוש ב-AI? ביחידה סוגרת זו נקים מסגרת המפגישה את החוטים האתיים והמשפטיים בהם נגענו לאורך המודול.
בואו נגדיר את המושגים. זכות יוצרים היא הזכות החוקית המוקנית ליוצר יצירה על השימוש ביצירתו; שכפול או שימוש בלתי מורשה עלולים להיחשב כהפרה. נתונים אישיים הם כל מידע המזהה במישרין או בעקיפין אדם וכפוף להגנה משפטית. ממשל הוא המסגרת של כללים, מדיניות ואחריות השולטת בשימוש של ארגון ב-AI. שלושת המושגים הללו מהווים את הבסיס המשפטי והאתי לשימוש אחראי בינה מלאכותית.
צעד אחר צעד: שימוש אחראי וחוקי בבינה מלאכותית
1. הערך את מצב זכויות היוצרים של הערך. לפני טעינת טקסט, ספר או מאמר לכלי בינה מלאכותית, שקול את סטטוס זכויות היוצרים של יצירה זו ואת תנאי השימוש של הכלי. מתן יצירה המוגנת בזכויות יוצרים לכלי המשתמש בנתונים שאתה מעלה למטרותיו עשוי להוות הפרה של זכויות.
2. ספק את זכויות הפלט. מצב זכויות היוצרים של הטקסט המיוצר על ידי ה-AI עשוי להיות לא ודאי, וה-AI עשוי לשחזר ללא ידיעתו תוכן המוגן בזכויות יוצרים בנתוני ההדרכה. לפני פרסום פלט בינה מלאכותית, הערך את מקוריותו ואת ההפרות הפוטנציאליות שלו.
3. הגן על נתונים אישיים. זהות המשתמשים, היסטוריית הקריאה/חיפוש והמידע האישי של המשתמשים לא צריכים להיכנס לכל כלי AI ללא הסכמה מפורשת והגנה חזקה. אנונימיזציה ומזעור נתונים (רק כמה שיותר נתונים לפי הצורך) חיוניים.
4. הקפידו על שקיפות והסכמה. על המשתמשים לדעת כיצד מעובדים הנתונים והאינטראקציות שלהם; כאשר מדובר בבינה מלאכותית, יש לציין זאת בבירור. השימוש בבינה מלאכותית סמויה מערער את האמון.
5. להקים מסגרת משילות. על הארגון לקבוע במדיניות כתובה אילו כלים מאושרים, אילו נתונים ניתן להזין, מי אחראי וכיצד יאומתו התפוקות.
טיפ: צור "כללי שימוש ב-AI" פשוט עבור הארגון שלך: אילו כלים מאושרים, אילו נתונים לעולם אינם מוזנים (אישיים/קנייניים/סודיים), איך כל פלט מאומת ומי אחראי. מדריך ברור בן עמוד אחד ניתן לאכיפה יותר מאשר מדיניות ממושכת.
עקרונות אתיים וערכי הספרנות
הערכים השורשיים של מקצוע הספרנות משמשים מצפן בעידן הבינה המלאכותית: גישה שווה למידע, חופש מחשבה, פרטיות המשתמש, כנות אינטלקטואלית וחוסר משוא פנים. בינה מלאכותית יכולה לתמוך בערכים אלה או לאיים עליהם. זה עשוי להרחיב את הגישה אבל לחזק דעות קדומות; עלול להאיץ את השירות אך עלול לפגוע בפרטיות; זה עשוי להקל על הגילוי אך עלול להפיץ מידע מוטעה.
הספרן האחראי בודק כל שימוש בינה מלאכותית מול הערכים הללו: "האם השימוש הזה משווה גישה או לא כולל קבוצה? האם הוא מגן על הפרטיות? האם הוא מספק מידע מדויק וישר?" AI הוא כלי; הערכים איתם תשתמשו בו הם מהות המקצוע. הטכנולוגיה משתנה, אבל ערכים אלה הם המצפן הקבוע של הספרנות.
זהירות: "כולם משתמשים בזה" או "זה מהיר" אינם מצדיקים שימוש בבינה מלאכותית. גם אם השימוש הוא חוקי, הוא עלול להיות לא אתי; אל תאמץ נוהג שמזיק מבחינת זכויות יוצרים, פרטיות וצדק, רק בגלל שזה קל. האחריות הסופית אינה מוטלת על הכלי, אלא על איש המקצוע המשתמש בו.
שלושה מיני תיקים
מקרה 1 - הורדה המוגנת בזכויות יוצרים הופסקה. צוות אחד תכנן לטעון ספר עיון שלם המוגן בזכויות יוצרים לתוך כלי AI כללי כדי ליצור סיכומים. מנהל המידע מצא בכך סיכון, הן מבחינת זכויות יוצרים והן מבחינת תנאי השימוש בנתונים של הכלי; במקום זאת, הוא נלמד רק בקטעים קצרים ומורשים ובמערכת הסגורה של המוסד.
מקרה 2 - נתונים אישיים אנונימיים. ספרייה רצתה לנתח משוב משתמשים באמצעות AI; אבל המשוב הכיל שמות משתמש ופרטי איש קשר. הצוות עשה אנונימיות של הנתונים לפני הניתוח; רק נטיות אנונימיות, קולקטיביות עובדו. הפרטיות נשמרה, התובנה חזרה.
מקרה 3 - פער הממשל נסגר. בארגון אחד, העובדים השתמשו בכלי AI שונים ללא פיקוח, ולעתים הזינו מסמכים חסויים. מנהל המידע פרסם מדיניות של עמוד אחד המגדירה כלים מאושרים, סוגי נתונים אסורים וכללי אימות; אי הוודאות והסיכון ירדו משמעותית.
יכולת כוח אדם ותרבות ארגונית
מדיניות ממשל חזקה רק כמו האנשים שמיישמים אותה. אפילו הכלל הכתוב בצורה הטובה ביותר נשאר על הנייר אם העובדים לא מבינים את הסיכונים של AI. הבסיס המתמשך לשימוש אחראי ב-AI הוא אפוא כשירות הצוות: ההבנה של כל עובד לגבי מהי הזיה, אילו נתונים אסור להזין לעולם, ומדוע יש לאמת פלט. לספריות ולמוסדות מידע יש תפקיד כפול בהקשר זה; היא חייבת גם להכשיר את הצוות שלה וגם להפיץ את האוריינות הזו למשתמשים. תרבות ארגונית טובה היא כזו שמדווחת על באג בינה מלאכותית במקום להסתיר אותו, ומוצאת שזה נורמלי לומר "אני לא בטוח לגבי הפלט הזה, בוא נבדוק." בסביבה שבה טעויות מוסתרות מחשש לעונש, מקור מפוברק או פגיעה בפרטיות מתפשט ללא תשומת לב. בנוסף, מכיוון שהטכנולוגיה והכלים משתנים במהירות, יש לעדכן את המדיניות וההדרכה באופן קבוע ולא חד פעמי. ממשל; זוהי מערכת חיה שבה כללים, כלים, חינוך ותרבות עובדים יחד. במרכז מערכת זו עומד האדם המוסמך, שלוקח אחריות ומקבל את ההחלטה הסופית, לא הרכב.
טיפ: לפני אימוץ כלי בינה מלאכותית חדש, בצע פיילוט קטן: נסה זאת עם צוות מוגבל, על משימות אמיתיות אך בעלות סיכון נמוך, רישום שגיאות וסיכונים. זה גם בונה יכולת וגם חושף פגיעויות במדיניות לפני הפעלת הכלי בכל הארגון.
ארבע תבניות הניתנות להעתקה
1) הערכה ראשונית של זכויות יוצרים:
עזור לי להעריך את התוכן הבא עבור זכויות יוצרים לפני טעינתו לכלי AI: האם התוכן יכול להיות מוגן בזכויות יוצרים, איזו דרך שימוש מסוכנת, איזו חלופה (קטע, הרשאה, תחום ציבורי) בטוחה יותר? סוג תוכן: [כאן]
2) סריקת נתונים אישיים:
האם הטקסט הבא מכיל נתונים אישיים (שם, איש קשר, זהות, היסטוריית קריאה/חיפוש, מידע המרמז על בריאות/אמונה)? סמן כל אחד מהם, סיווג אותו והצע כיצד להפוך אותו לאנונימי. טקסט: [כאן]
3) טיוטת מדיניות שימוש ב-AI:
טיוטה של הנחיות שימוש ב-AI בעמוד אחד עבור הארגון שלנו: (1) מדיניות כלי עבודה מאושרת, (2) סוגי נתונים שמעולם לא הוזנו, (3) כלל אימות פלט, (4) אחריות ושקיפות, (5) מדיניות זכויות יוצרים ופרטיות. שמור את זה קצר וניתן לפעולה. הקשר: [כאן]
4) שאילתת בקרה אתית:
בדוק את השימוש בבינה מלאכותית המתוכננת הבאה מול ערכי ספרנות: הוגנות גישה, פרטיות, דיוק/שלמות, סיכון להטיה וחששות דגל אם יש. שימוש: [כאן]
הנחיה חלשה / הנחיה חזקה
הנחיה חלשה:
האם עלי לשים אותו על AI כדי לסכם את הספר הזה?
השאלה אינה לוקחת בחשבון זכויות יוצרים, תנאי נתונים של הכלי וחלופות; מענה "כן" עלול לגרום להפרת זכויות.
הנחיה עוצמתית:
תפקידך: עוזר יועץ זכויות יוצרים ופרטיות. אני שוקל לתת את התוכן הבא לכלי AI. רשום בעיות אפשריות במונחים של סטטוס זכויות יוצרים, שימוש בנתוני רכב וסיכון נתונים אישיים; להציע חלופות בטוחות יותר (ציטוט קצר, הרשאה, נחלת הכלל, מערכת סגורה). טען וודאות משפטית, הצג סיכונים. תוכן והקשר: [כאן]
הנחיה עוצמתית; היא שוקלת את ההחלטה במונחים של זכויות יוצרים, מצב נתונים והיבטי פרטיות ומציבה חלופות מאובטחות על השולחן.
טבלת ממדי ממשל
גודל
שאלה בסיסית
אמצעי זהירות
זכויות יוצרים
האם יש הפרת קלט/פלט?
רשות, נחלת הכלל, קטע קצר
פרטיות
האם הנתונים האישיים מוגנים?
אנונימיזציה, מזעור
שקיפות
האם המשתמש יודע?
מידע ברור, הסכמה
אחריות
מי אחראי?
מדיניות כתובה, אישור אנושי
ערכים
האם הגישה והשלמות מוגנות?
בדיקה אתית, בדיקת הטיה
טעויות נפוצות
- העלאת תוכן המוגן בזכויות יוצרים בלי לחשוב. קיים סיכון של הפרת זכויות יוצרים ומצב נתונים.
- הזנת נתונים אישיים לכלי הציבורי. פגיעה בפרטיות ובסיכון משפטי.
- הסתרת השימוש ב-AI. ללא שקיפות, האמון נפגע.
- מבלבל בין "חוקי" ל"אתי". שימוש חוקי עשוי להיות לא מוסרי.
- לא להקים מסגרת משילות. שימוש בלתי מבוקר יוצר סיכונים בלתי צפויים.
לסיכום
זכויות יוצרים, סודיות ואתיקה הם הבסיס לאחריות של ספרנות בעידן הבינה המלאכותית. להעריך את מצב זכויות היוצרים של הערך ואת תנאי הנתונים של הכלי; להטיל ספק בזכויות הפלט; להגן על נתונים אישיים באמצעות אנונימיזציה ומזעור; להיות שקוף למשתמש ולקבל הסכמה; להקים מסגרת ניהול ברורה בארגון. הערכים השורשיים של ספרנות (גישה שווה, פרטיות, יושרה, חוסר משוא פנים) הם המצפן שבודק כל שימוש ב-AI. שינויים טכנולוגיים; האחריות והערכים אינם משתנים, והאחריות הסופית מוטלת תמיד על האדם.
משימת יישום
הכן מסמך כללי שימוש בעמוד אחד עבור הארגון שלך (או ארגון פיקטיבי) עם תבנית "טיוטת מדיניות השימוש ב-AI": כלים מאושרים, נתונים שלא יוכנסו לעולם, כלל אימות, אחריות. לאחר מכן, בדוק שימוש אמיתי ב-AI שאתה מתכנן עבור גישה, פרטיות, דיוק והטיה עם התבנית "שאילתת שליטה אתית" וכתוב כיצד תטפל בכל חששות שיתעוררו.
רשימת בדיקה
- [ ] הערכתי את מצב זכויות היוצרים של הערך ואת תנאי הנתונים של הכלי.
- [ ] עשיתי אנונימיות בנתונים אישיים והשתמשתי רק במה שנדרש.
- [ ] הייתי שקוף למשתמש לגבי השימוש בבינה מלאכותית והסכמה מכובדת.
- [ ] יצרתי מדיניות שימוש ב-AI כתובה עבור הארגון.
- [ ] בדקתי את השימוש עם ערכי ספרן ושמרתי את האחריות על האדם.
מבחן מודול
1. איזה מהבאים הוא המיקום המדויק ביותר לבינה מלאכותית בספרות וניהול מידע?
- א) AI הוא עוזר סיכום, מטא נתונים, חיפוש והמלצות; האחריות לדיוק, אמינות מקור והחלטות אתיות מוטלת על בני האדם ✔
- ב) בינה מלאכותית יכולה לאמת באופן מהימן את האותנטיות והדיוק של מקור
- ג) בינה מלאכותית עובדת רק בקטלוג ספרים, אין לה שום קשר לעבודת ספרנות אחרת
- ד) מאחר שהבינה המלאכותית היא יותר חסרת פניות מבני אדם, יש להשאיר לה החלטות נושא וסיווג.
תיאור: בינה מלאכותית; זהו עוזר שמנסח מטא נתונים, מסכם אותם, מתרגם אותם, מסמן את הדפוס ומכוון אותו למקור. המומחה המוסמך אחראי למשימות בעלות תוצאה גבוהה כגון אימות דיוק, החלטות נושא וסיווג, אמינות מקור והחלטות זכויות יוצרים ופרטיות; פלט לא מאומת עלול להוביל להפצת מקור מפוברק או להפרת פרטיות.
2. מדוע 'הזיה' מסוכנת במיוחד לספרן?
- א) הפלט של בינה מלאכותית מופק לאט מאוד ומבזבז זמן
- ב) בינה מלאכותית יכולה לייצר באופן משכנע מקורות וציטוטים לא קיימים, ומהות המקצוע היא האותנטיות של המקור ✔
- ג) הזיה מתרחשת רק בעיבוד תמונה, אין לה שום קשר לטקסט
- ד) הזיה נראית רק בכלים ישנים מאוד של בינה מלאכותית, לא בכלים עכשוויים.
הסבר: הזיה היא כאשר בינה מלאכותית מייצרת מקור, ציטוט או מידע לא קיים בצורה משכנעת ביותר. מאחר שמהות המקצוע היא האותנטיות והאמינות של המקור, אם חותם או ציטוט מפוברקים יועבר לביבליוגרפיה או למשתמש ללא אימות, יתרחש מידע מוטעה חמור.
3. איזה מהבאים הוא האזור עם הסיכון הגבוה ביותר לייצור בעת הפקת מטא נתונים עם בינה מלאכותית וכיצד יש לטפל בו?
- א) אזור השפה הוא האזור בסיכון הגבוה ביותר ואין צורך לאמת אותו
- ב) שדה הכותרת נושא את הסיכון הגבוה ביותר ויש למלא אותו בחיזוי
- ג) ה-ISBN ושנת ההוצאה נושאים את הסיכון הגבוה ביותר לייצור ויש לאמתם מילה במילה עם המקור המקורי ✔
- ד) שום תחום אינו מסוכן כי בינה מלאכותית תמיד מייצרת מטא נתונים בצורה נכונה
הסבר: שדות מספריים מדויקים כמו ISBN ושנת פרסום מזייפים בקלות רבה על ידי AI; בינה מלאכותית יכולה ליצור מספר סביר למראה במקום ISBN שהיא לא מכירה. שדות אלו חייבים להיות מאומתים מילה במילה עם המקור המקורי (ברקוד, חותם/קולופון).
4. מהי המטרה העיקרית של שימוש ב'אוצר מילים מבוקר' בעת הקצאת מונח נושא?
- א) הבטחת עקביות מינוח וזמינות על פני רשומות; מניעת בינה מלאכותית להמציא תנאים חופשיים ✔
- ב) הוסף אוטומטית כל מונח חדש המבוקש על ידי בינה מלאכותית לקטלוג
- ג) בטל לחלוטין את מונחי הנושא וחפש רק לפי כותרת
- ד) האטה בקטלוג וכתיבת כל רשומה במונחים שונים
תיאור: אוצר מילים מבוקר הוא רשימה של מונחים מאושרים וסטנדרטיים. אם אותו נושא נכתב עם מונחים שונים ברשומות שונות, המשתמש ימצא אחד ויחמיץ את השני. על ידי מתן הרשימה הזו ל-AI ואומר לו 'רק לבחור מהרשימה', עקביות ואיתור נשמרת; אין להוסיף לקטלוג מונח חדש שאינו מופיע ברשימה של בינה מלאכותית.
5. מהי הגישה הנכונה כאשר מקבלים מספר סיווג של מסמך מבינה מלאכותית?
- א) יש לקבל את המספר המדויק שניתן על ידי בינה מלאכותית ישירות מבלי להסתכל בטבלה הרשמית
- ב) אין להשתמש במספרי סיווג כלל, יש לגנוז מקורות באופן אקראי
- ג) יש לראות את הצעת כיתת האמן כראשונית, יש לאמת את השלבים המדויקים עם טבלת הסיווג הרשמית ✔
- ד) מכיוון שבינה מלאכותית אינה יכולה לסווג, יש לדלג על משימה זו לחלוטין
הסבר: בינה מלאכותית יכולה לעתים קרובות למצוא את המחלקה העיקרית הנכונה, אך עשויה להחמיץ רמות משנה (למשל היסטוריה רפואית במקום רפואה) או לייצר מספרים שגויים שנראים הגיוניים. לכן, יש לראות בהצעת כיתת אמן כהתחלה ולאמת את השלבים המדויקים עם טבלת הסיווג הרשמית.
6. איזו משפט נכון כאשר משווים בין חיפוש סמנטי לחיפוש מילות מפתח?
- א) חיפוש סמנטי צריך להחליף חיפוש מילות מפתח בכל המקרים
- ב) חיפוש סמנטי מוצא משאבים הקשורים מבחינה סמנטית; חיפוש מילות מפתח עבור כותרת מדויקת או ISBN אמין יותר ✔
- ג) חיפוש מילות מפתח מוצא מקורות עם מונחים שונים הקשורים סמנטי טוב יותר מחיפוש סמנטי
- ד) חיפוש סמנטי עובד רק על נתונים מספריים, לא על טקסט
תיאור: חיפוש סמנטי מוצא משאבים בעלי מילים שונות אך קשורות, כגון 'בעיית שינה' ו'הפרעת שינה', מכיוון שהוא תואם את המשמעות של מילים (באמצעות וקטורים הטבעה). לעומת זאת, כאשר מחפשים ISBN מדויק, כותרת מלאה או מספר חוק, חיפוש מילת מפתח/דומיין אמין יותר. השיטה הטובה ביותר היא להשתמש בשניהם יחד.
7. מהי חובת הספרן כנגד הסיכון של 'בועת סינון' בהמלצות משאבים מותאמות אישית?
- א) חזקו את הבועה רק על ידי המלצה על המשאבים הדומים ביותר למשתמש
- ב) לוותר לחלוטין על הצעות
- ג) שיתוף היסטוריית הקריאה של המשתמש באופן פומבי
- ד) הוספת מקורות במודע עם נקודות מבט ואופקים שונים ואמירה זאת בשקיפות ✔
הסבר: בועת הסינון היא כאשר מערכת ההמלצות כל הזמן נועלת את המשתמש לתוכן דומה ומרחיקה אותו מנקודות מבט חדשות ושונות. ערך הספרייה הוא גישה שווה ומגוונת; לכן, הספרן שובר במודע את הבועה על ידי הוספת משאבים בעלי מראה שונה ומאירי עיניים והצהרה על כך בשקיפות.
8. איזו פרקטיקה נכונה מבחינת 'אותנטיות ויושרה' בעת עיבוד מסמך ארכיון בבינה מלאכותית?
- א) 'לייפות' את המסמך בבינה מלאכותית, השלימו אותו על ידי איפור החלקים החסרים והחלפת המקור
- ב) מחיקת המקור הגולמי ושמירה רק על הגרסה משופרת עם בינה מלאכותית
- ג) OCR צריך לתקן רק שגיאות זיהוי, אין לשנות את התוכן, יש לשמר את המקור הגולמי ויש לסמן נגזרות בבירור ✔
- ד) קבל את פלט ה-OCR כ'טקסט נקי' ללא כל תיקונים ופתח אותו לחיפוש.
תיאור: המהות של עבודת ארכיון היא הבטחה שהמסמך מגיע מהמקור הנטען ושהתוכן שלו לא שונה. תיקון OCR צריך להסיר רק שגיאות זיהוי, לא לשנות את התוכן; 'שחזור' בינה מלאכותית אינו תחליף לראיות ממשיות מכיוון שהוא יכול להרכיב חלקים חסרים. הסריקה הגולמית (המקורית) צריכה להישמר תמיד, נגזרות צריכות להיות מסומנות בבירור.
9. איזה מהבאים נחוץ לבנייה אחראית של בוט מידע של ספרייה?
- א) הבוט מייצר תשובות לכל שאלה במהירות מהידע הכללי שלו ואינו מצטט מקורות
- ב) הבוט מסתמך רק על מידע תאגידי מאומת, מצטט עובדות ומפנה שאלות רגישות למומחה/אדם ✔
- ג) הבוט נותן ייעוץ מדויק בשאלות רפואיות ומשפטיות
- ד) הסתרה מהמשתמש אם הוא מדבר עם בוט או עם אדם
הסבר: על בוט הייעוץ להסתמך רק על המידע העדכני המאומת ורשימת המקורות של המוסד, לא על הזיכרון הכללי שלו, למסור את העובדות באמצעות ציטוט המקור, לא לתת עצות בנושאים רפואיים/משפטיים/רגישים, להפנות אותו למומחה, ועליו להעבירו לאדם בעת הצורך. כך, הבוט אינו מחליף את האדם, אלא הופך לרובד המקל על הנטל.
10. בביבליומטריה, מהי השיטה הנכונה לגלות את ספירת הציטוטים של מחבר או מדד h?
- א) לשאול את ה-AI ישירות, כי המספרים שהוא נותן תמיד נכונים
- ב) קבלת המספרים ממאגר הציטוטים בפועל; שימוש בבינה מלאכותית רק כדי לארגן ולפרש נתונים אלו ✔
- ג) הערך את המספרים והשתמש בהם בהחלטות שידור
- ד) התחשבות במספר הציטוטים כמדד ישיר לאיכות יצירתו של מחבר.
הסבר: בינה מלאכותית יכולה להרכיב ערכים כמו ספירת ציטוטים ו-h-index מבלי לגשת לנתונים אמיתיים (לדוגמה, היא יכולה לתת ערך של 42 כאשר הוא למעשה 19). לכן, יש לקחת מספרים וציטוטים ממאגר ציטוטים אמיתי; יש להשתמש בבינה מלאכותית רק כדי לאסוף, למיין ולפרש את הנתונים האמיתיים הללו.
11. מה נכון לגבי הגבול של מדדים ביבליומטריים (מספר ציטוטים, מדד h, גורם השפעה)?
- א) מדדים מודדים ישירות איכות וניתנים להשוואה בין תחומים
- ב) ניתן להשתמש בקריטריונים בבטחה לבד בהחלטות גיוס וקידום.
- ג) מדדים מציינים שימוש, לא איכות; לא ניתן להשוות בין תחומים ויש לאזן אותו עם הערכה איכותית ✔
- ד) התפוקות של מדעי הרוח מיוצגות באופן מלא ומוחלט במאגרי ציטוטים
גילוי נאות: מדדים אלו מצביעים על שימוש ונראות, הם אינם מדדים ישירים לאיכות. מכיוון שתרבות הציטוטים של התחומים שונה (כמו רפואה ופילוסופיה), לא ניתן להשוות ביניהם ישירות; תפוקות עתירות ספרים במדעי הרוח מיוצגות בחסר במאגרי מידע. לכן, אין להשתמש בקריטריונים לבדם כדי להעריך אנשים, אלא יש לאזן אותם עם הערכה איכותית.
12. מהו היתרון המרכזי של גישת ה-RAG (ייצור מוגבר בגישה) על פני AI כללי?
- א) הפחתה משמעותית של ההזיה על ידי קישור התשובה למסמכים האמיתיים של המוסד וציון המקור ✔
- ב) הגיבו תמיד בצורה מושלמת, ללא קשר לאיכות בסיס המסמכים
- ג) הפיכת ההזיה לבלתי אפשרית לחלוטין ולתמיד
- ד) פתיחת כל המסמכים לכולם ללא צורך בבקרת גישה
הסבר: כאשר עונים על שאלה, ר"ג מוצא תחילה את הקטעים הרלוונטיים ממסמכי המוסד עצמו ומפיק את התשובה רק על סמך קטעים אלו תוך ציון המקור. כך התשובה מקושרת לתיעוד אמיתי וניתן למעקב וההזיה מצטמצמת מאוד. עם זאת, RAG אינו מבטל לחלוטין את ההזיה, מכיוון שהתשובה עדיין עשויה להיות שגויה אם מעלים את היצירה הלא נכונה.
13. במדעי הרוח והחברה, מהי השיטה האמינה ביותר לאימות ציטוט מ-AI למשתמש?
- א) ודא שהציטוט נראה אמין וקולח
- ב) רק מבקש מה-AI לשחזר את אותו ציטוט
- ג) אמת את הציטוט על ידי מציאתו ביצירתו בפועל של המחבר ✔
- ד) קבלת שדי בכך שהציטוט מיוחס לשם מפורסם
תיאור: בינה מלאכותית יכולה ליצור ציטוטים מפוברקים לחלוטין המיוחסים לסופר אמיתי; העובדה שהציטוט נראה מילה במילה מדויק ומשכנע אינה הוכחה לדיוק שלו. השיטה האמינה ביותר היא לאמת את הציטוט על ידי מציאתו בעבודתו בפועל של המחבר; ההיגיון של 'המחבר הזה אולי אמר משהו כזה' אינו מספיק.
14. איזה עיקרון נכון בשימוש בבינה מלאכותית מבחינת זכויות יוצרים, פרטיות ואתיקה?
- א) ניתן להזין נתונים מוגנים בזכויות יוצרים ואישיים לכלים ציבוריים מבלי לחשוב כי זה מהיר
- ב) אם השימוש הוא חוקי, הוא בהחלט אתי ואין צורך בהערכה נוספת.
- ג) כאשר בינה מלאכותית מייצרת פלט, האחריות עוברת לחלוטין אל הכלי, לא אל האדם.
- ד) יש לכבד זכויות יוצרים ופרטיות מההתחלה; אנונימיזציה, שקיפות והסכמה הם חיוניים והאחריות הסופית מוטלת על האדם ✔
הסבר: הזנה אימפולסיבית של תוכן המוגן בזכויות יוצרים ונתונים אישיים (זיהוי משתמש, היסטוריית קריאה/חיפוש) לכלי בינה מלאכותית כללית עלולה לגרום להפרה של זכויות ופרטיות; אנונימיזציה, מזעור נתונים, שקיפות והסכמה חיוניים. בנוסף, גם אם השימוש הוא חוקי, הוא עלול להיות לא אתי; 'כולם משתמשים בזה' או 'זה קורה מהר' אינם מצדיקים תרגול והאחריות הסופית מוטלת על המומחה, לא על הכלי.