רווחים:
- הסבירו כיצד פועל מודל השפה הגדולה על ידי חיזוי המילה הבאה ומה המשמעות של כתיבה מהירה
- הוא יכול להראות מדוע Prompt קובע את איכות הפלט כל כך עם דוגמה מעבודתו שלו.
- על ידי הבחנה בין החוזקות והחולשות של המודל, ניתן להחליט באילו משימות להשתמש בו בבטחה.
מבוא לבינה מלאכותית והנחיה: איך המודל "חושב"
הדרך הטובה ביותר ללמוד באמת איך לכתוב הנחיות היא קודם כל להבין איך הכלי עובד. ביחידה זו נראה את ההיגיון הבסיסי של מודל השפה הגדולה (בקיצור LM; כלומר מערכת הבינה המלאכותית המייצרת טקסט), מדוע הוא כל כך שימושי בעבודה היומיומית שלכם והיכן יש לו גבולות. הנחיות שנכתבו ללא בסיס זה מובילות לעתים קרובות לשאלה "מדוע הן מניבות לפעמים תוצאות מצוינות ולפעמים תוצאות איומות?" משאיר אותך לבד עם השאלה. אי הוודאות הזו תיעלם במידה רבה כאשר יחידה זו תושלם.
מה בעצם עושה מודל שפה גדול?
בהגדרה הפשוטה ביותר שלו, מודל השפה הגדולה היא מערכת המנבאת את המילה הסבירה ביותר שתלך בעקבות הטקסט שאתה נותן. על ידי בחינת מיליארדי משפטים, המודל למד את דפוס "איזו מילה באה אחרי איזו מילה". כשאתה מתחיל משפט, המודל מסתכל על מה שנכתב עד כה ומייצר את ההמשך הסביר ביותר, ואז מוסיף את המילה שנוצרה לקלט ומנבא את המילה הבאה. מחזור זה נמשך עד להשלמת התגובה.
בואו נבהיר את המונח אסימון המשמש כאן: אסימון הוא היחידה הקטנה ביותר שלתוכה המודל מפרק את הטקסט; זה בערך בגודל של מילה או חלק ממילה. המודל מתקדם לא מילה במילה, אלא אסימון אחר אסימון. ההשלכה המעשית מבחינתך היא שהמודל אינו בן אנוש ש"מבין" את כוונתך, אלא מכונת חיזוי חזקה מאוד שבוחרת סטטיסטית את ההמשך המתאים ביותר לטקסט שאתה נותן לו.
המשמעות החשובה ביותר של הגדרה זו היא שהגורם הקובע החזק ביותר לכיוון הפלט הוא הטקסט שאתה נותן כקלט. אז ההנחיה שלך. המודל אינו שואב תשובה מוכנה ממאגר מידע, אינו מבצע חיפוש חי באינטרנט ואינו מעתיק דפים (אלא אם צוין אחרת במפורש). הוא מייצר רק טקסט המתאים ביותר להקשר שאתה נותן לו. קלט טוב הוא התנאי המכריע ביותר לתפוקה טובה.
למה "אותו דגם, תוצאה שונה"?
המודל משתמש גם במרווח קטן של אקראיות בבחירת המילה הסבירה ביותר בכל פעם; לכן, כאשר אתה שואל את אותה הנחיה פעמיים, ייתכן שלא תקבל את אותם משפטים בדיוק. זה לא באג, זה חלק מהעיצוב. התפקיד שלך הוא לשרטט מסגרת ברורה מספיק כדי לא להשאיר את התוצאה ליד המקרה. ככל שהמסגרת ברורה יותר, כך התוצאות של שני ניסויים שונים יהיו קרובים ושימושיים יותר.
שלב אחר שלב: כיצד מתקדמת בקשה במודל?
- קורא את הקלט. כל מילה שאתה כותב היא רמז שמנחה את התחזית. כשאתה אומר "כמו עורך דין בכיר", המודל עושה טקסטים קרובים יותר לטון הזה.
- שוקל את ההקשר. הרקע, האילוצים והדוגמאות שאתה נותן מצמצמים את האומדן. אם ההקשר ריק, המודל ממלא את החסר בהנחות משלו.
- זה מייצר מילה במילה. כל אסימון שהוא מייצר הופך לקלט עבור הבא; אז הכיוון שאתה נותן בהתחלה מעביר את התשובה כולה.
- הוא עוצר. זה מפריע לייצור כאשר המשימה הושלמה או מגיעה לאורך שציינת.
שלושה מארזי מיני: הבדל מהיר במספרים
מקרה 1 - איש שיווק, נושא הדוא"ל. כשמומחה שיווק אמר "הצע נושא לקמפיין", הוא קיבל 5 כותרים כלליים ולא אהב אף אחד מהם; הוא הקדיש 20 דקות לתיקון ביד. למחרת, כשאמר, "קהל היעד הוא בעלי SME בגילאי 30-45, המוצר הוא תוכנת הנהלת חשבונות בענן, 6 יחידות, כל אחת עם מקסימום 45 תווים, מסקרנת אך מאופקת", הוא השתמש ישירות ב-4 מתוך 6 הכותרות. משך הזמן ירד מ-20 דקות ל-4 דקות.
מקרה 2 - משאבי אנוש, טקסט פרסומת. מומחה משאבי אנוש קיבל טקסט עם ההנחיה "כתוב עבודה של מפתח תוכנה". כאשר הוספנו להנחיה את שפת החברה בפועל (תיאור תרבות של 3 משפטים), 4 כישורי חובה והגבלה של "כתוב את טווח השכר בצורה ברורה", שיעור המועמדים הלא מוסמכים למודעה ירד בצורה ניכרת בפרסומת הבאה מכיוון שהטקסט ביסס את הציפייה בבירור.
מקרה 3 - חשבונאות, סיכום דו"ח. כשמנהל חשבונאות אמר שהוא "סיכם" דוח הוצאות בן 12 עמודים, המודל השמיט פריטים חשובים. כשהוא אמר, "מהדוח הזה, 5 סעיפי ההוצאה הגבוהים ביותר מוצגים בטבלה עם אחוז השינוי לעומת החודש שעבר", הוא קיבל בדיוק את המבנה שייקח לישיבת ההנהלה. התוכן היה זהה, ההוראות היו שונות.
הנחיה חלשה / הנחיה חזקה
אותה עבודה, עם שתי הוראות שונות:
הנחיה חלשה:
סכם את הטקסט הזה.[טקסט]
הנחיה עוצמתית:
סכמו את הערת הישיבה להלן שתוצג לדירקטוריון. - מקסימום 5 פריטים. - כל פריט צריך להכיל החלטה או פעולה; דלג על פרטי הצ'אט. - כתוב את השם בסוגריים לפעולות שהאדם האחראי מוכר להן. - השתמש בשפה פשוטה ורשמית. טקסט: [טקסט]
ההנחיה השנייה אומרת לדגם מה לייצר, עבור מי, באיזה פורמט ועל מה לדלג. הדגם לא עושה את ה"חשיבה" אלא ייצור ההמשך הנכון; אתה מצייר את המסגרת של ההמשך הזה.
ארבע תבניות הניתנות להעתקה
ארבע תבניות פשוטות להתחלה כדי ליישם במהירות את ההיגיון ביחידה זו. מלא את הסוגריים עם המידע שלך.
1) מסגרת לחיזוק בקשה:
אני רוצה שתבצע את המשימה הזו: [משימה]למי: [קונה/קהל]באיזה פורמט: [אורך, מבנה]על מה לדלג: [מה אתה לא רוצה]
2) בדיקת גבולות הדגם (רפלקס אימות):
אם יש טענות עובדתיות (מספר, תאריך, שם, מקור) בתשובתך למטה, חלץ כל אחת מהן כרשימה נפרדת וסמן אותה כ"חייבת לאמת". תשובה: [פלט המודל]
3) נסה את אותה משימה בשתי רמות:
הסבירו פעמיים את הנושא הבא: א) לזר מוחלט, בשפה יומיומית. ב) למומחה בתחום, במונחים טכניים. נושא: [נושא]
4) לגרום למודל להבין את אי הוודאות:
לפני הגשת הבקשה שאני נותן לך, שאל אותי 3 שאלות לגבי הנקודות שאתה מוצא חסרות או לא ברורות; ואז תפיק לפי התשובות שלי.בקשה: [בקשה]
נקודות החוזק והחולשה של המודל
נושא
הדגם חזק
הדגם חלש/זהירות
ענייני שפה
כתיבה, סיכום, תרגום, שינוי טון
טעויות בז'רגון טכניות/נישתיות מאוד
מבנה
המרת טקסט לטבלה, רשימה, סקיצה
שמירה על עקביות בטקסט ארוך
רעיון
סיעור מוחות, יצירת חלופות
להבטיח מה "נכון"
מקרה
מידע כללי, הגדרה, הסבר
נתונים נוכחיים/מדויקים, מספר, תאריך, מקור
נימוק
טוב אם מודרך צעד אחר צעד
אל תעשה חישובים מורכבים שגויים בשקט
טיפ: ראה את המודל לא כ"מומחה יודע הכל" אלא כ"עוזר שכותב מהר מאוד, קורא הרבה, אבל צריך לאמת כל מה שהוא אומר". תצוגה זו מתאימה בצורה נכונה הן את הציפיות והן את הרגל השליטה שלך.
שימו לב: המודל עשוי לכתוב מידע בשפה מאוד בטוחה, אבל זה לא אומר שהמידע נכון. בדוק תמיד באופן עצמאי פרטים עובדתיים, במיוחד מספר, שם, תאריך, חוק ומקור. נחזור לנושא זה בהרחבה ביחידה 11.
טעויות נפוצות
- בטעות שהמודל הוא בן אדם. מתן הוראות לא שלמות באמירה "הם יבינו בכל מקרה". המודל לא קורא את כוונתך; זה מעבד רק את מה שאתה מקליד.
- מוותר בניסיון אחד. אם הפלט הראשוני גרוע, האשים את הכלי. עם זאת, לרוב הבעיה נמצאת בהוראות ותיקון קטן יכול לשנות את התוצאה.
- שימוש בעובדות מבלי לאמת אותן. קבלת נתון או מקור שהופק על ידי המודל ללא עוררין הוא ההרגל המסוכן ביותר.
- הזנת נתונים חסויים בלי לחשוב. הדבקת מידע רגיש מבלי לדעת כיצד הכלי פועל. יש לכך כללים, כפי שנראה ביחידת הפרטיות.
- לטעות באקראיות בטעות. פירוש שתי תוצאות שונות כ"הרכב מקולקל"; עם זאת, כאשר אתה מגדיל את הבהירות, התוצאות מתכנסות.
לסיכום
- מודל השפה הגדול פועל על ידי חיזוי המילה (אסימון) שסביר להניח שתופיע לאחר מכן בטקסט שאתה נותן; הוא לא בוחר בתשובות מוכנות.
- הגורם החזק ביותר שקובע את כיוון הפלט הוא ההנחיה שאתה נותן כקלט.
- חזק בשפת מודל, מבנה ורעיון; מקפיד על עובדות מדויקות, נתונים עדכניים וחישובים מורכבים.
- עקב אקראיות קטנה אותה הנחיה עשויה לתת תוצאות שונות; ככל שהבהירות גוברת, התוצאות נעשות עקביות יותר.
- המודל הוא לא "מומחה שנאמן לכל מה שהוא אומר", אלא "עוזר מהיר אבל צריך להיות מאומת".
משימת יישום
בחר משימת כתיבה מהעבודה היום שלך שאתה עושה באופן קבוע (מייל, סיכום או רשימה, למשל). ראשית, כתוב את הגרסה הפשוטה ביותר של משפט אחד, תן אותה לכלי AI ושמור את הפלט. ואז לאותה משימה; הוסף את התשובות לשאלות "למי, באיזה פורמט, באיזה אורך ועל מה לדלג" ושאל אותן שוב. מקמו את שני הפלטים זה לצד זה ורשמו במשפט אחד איזו תוספת משפרת את התוצאה הכי הרבה.
רשימת בדיקה
- [ ] הבנתי שהמודל "חוזה את המילה הבאה" ולא קורא את כוונתי.
- [ ] הבנתי שאיכות הפלט תלויה במידה רבה באיכות ההנחיה.
- [ ] אני יכול להבחין בין סוגי משימות שבהן המודל חזק וחלש.
- [ ] אני מבין שאני צריך לאמת פרטים עובדתיים (מספר, תאריך, שם, מקור).
- [ ] אני יכול להסביר מדוע אותה הנחיה יכולה לתת תוצאות שונות.