אסימון, חלון הקשר ורב-מודאליות: כיצד פועל המוח של המודל

רווחים:

• יכולת להסביר את המושגים אסימון, חלון הקשר ורב-מודאליות בשפה יומיומית
• אבחן אם משימה דורשת הקשר רחב או רב-מודאליות
• יכולת לקחת בחשבון כיצד מושגים אלו משפיעים על עלות ובחירת דגם

עד כה אנו מכירים את הספקים ואת סוגי הדגמים. עם זאת, לבחירת דגמים נכונה, יש צורך גם להבין כיצד הדגמים עובדים "בפנים"; מכיוון שהחלטות מחיר, קיבולת וזמינות מסתמכות כולן על שלושה מושגי ליבה: אסימון, חלון הקשר ורב-מודאליות. מי שלא מכיר את המושגים הללו לא יכול לקרוא את גיליון המחירים ולתהות "האם המסמך הזה יתאים לדגם?" אינו יכול לענות על השאלה ואינו יכול לראות מתי עיבוד חזותי חיוני. עד סוף יחידה זו, תוכל להסביר את שלושת המושגים הללו בשפה היומיומית, לאבחן האם עבודה דורשת הקשר רחב או רב-מודאליות, ולקחת בחשבון את השפעתם על העלות.

אסימון: יחידה בשימוש על ידי המודל במקום Word

מודלים של בינה מלאכותית מעבדים טקסט לא מילה אחר מילה, אלא בחתיכות קטנות הנקראות אסימונים. אסימון; זה יכול להיות מילה, חלק ממילה, סימן פיסוק או רווח. כדי לעשות חישוב גס: באנגלית, אסימון ממוצע הוא כארבעה תווים, ו-100 מילים הן כ-130-150 אסימונים. בטורקית, שיעור זה עשוי להיות מעט גבוה יותר בשל מילים סומות וארוכות; במילים אחרות, טקסט טורקי בעל אותה משמעות צורך מעט יותר אסימונים מאנגלית.

למה זה חשוב לדעת? כי הכל טעון ונמדד באסימונים. הטקסט (הקלט) שאתה שולח לדגם והתגובה (הפלט) שמפיק המודל נספרים כאסימונים נפרדים. גם החשבונית שלך וגם הקיבולת של הדגם הם באסימונים.

טיפ: כדי לקבל הערכה גסה של כמה אסימונים יש לטקסט, חלקו את מספר התווים בארבעה. דוא"ל של 4,000 תווים הוא בערך 1,000 אסימונים. בטורקית, נניח קצת יותר גבוה כדי להישאר על הצד הבטוח.

חלון הקשר: "זיכרון לטווח קצר" של הדגם

חלון ההקשר הוא הכמות הכוללת של אסימונים שהמודל יכול לזכור בכל פעם. קלט ופלט חייבים להתאים זה לזה בחלון זה. תחשוב על זה כמו כמות הנייר שאתה יכול לפרוס על שולחן בבת אחת: הנייר שלא מתאים לשולחן הוא מחוץ לשדה הראייה שלך באותו רגע.

אם חלון ההקשר של דגם הוא 200,000 אסימונים, זה שווה לכ-150,000 מילים, או מספר ספרים בגודל בינוני. מיליון אסימונים יכולים לעבד מסמכים גדולים בהרבה כמכלול. כמה דגמים רבי עוצמה כיום (למשל קלוד אופוס 4.8 וסונט ​​5) מציעים מיליון הקשרים אסימונים, בעוד שדגמים קלים מגיעים לרוב עם חלונות קטנים יותר (למשל 200,000 אסימונים עבור Haiku 4.5).

למה זה חשוב? מכיוון שאם מסמך לא מתאים לחלון ההקשר, המודל לא יכול לראות הכל ביחד. אתה לא יכול לתת חוזה של 500 עמודים בשלמותו לדגם של 200,000 אסימונים; אתה מחלק את המסמך לחלקים (שעשויים לאבד את הקשר בין החלקים) או בוחר מודל עם הקשר רחב יותר.

זהירות: אין זה חכם למלא כל מסמך מכיוון שזה רק בגלל שחלון ההקשר גדול. ככל שאתה מכניס יותר אסימונים לחלון, אתה משלם יותר, ולפעמים הדגם יכול לפספס את הפרטים האמצעיים בטקסטים ארוכים מאוד. לרוב זול ומדויק יותר לשלוח רק את החלק שעובד.

חלון ההקשר הוא קריטריון החלטה

קווסט

הקשר נדרש משוער

רמה מתאימה

תגובה קצרה במייל

כמה מאות אסימונים

קל משקל

תקציר עמוד אחד

כמה אלפי אסימונים

קל/מאוזן

ניתוח דוחות של 40 עמודים

~30,000 אסימונים

מאוזן/חזק

סקירת חוזה של 300 עמודים

~250,000 אסימונים

רב עוצמה עם הקשר רחב

עבד מאות מסמכים בבת אחת

500,000+ אסימונים

ההקשר הרחב ביותר

טבלה זו עונה על השאלה "איזה דגם?" זה מראה שחלק מהשאלה נענה ישירות לפי גודל המסמך. חבל לקנות דגם יקר עם הקשר גדול לעבודות קצרות; דגם עם חלון קטן אינו מתאים למסמכים גדולים.

מולטי-מודאליות: מעבר לטקסט

מולטי-מודאליות היא היכולת של מודל לטפל במספר סוגי נתונים (תמונה, אודיו, לפעמים וידאו), לא רק טקסט. "מודאלי" כאן פירושו "סוג נתונים"; רב-מודאלי פירושו "מיניים רבים".

• מודל טקסט בלבד: קורא וכותב רק טקסט כתוב.
• מודל רב-מודאלי: יכול לקרוא תמונה של שטר, לפרש מגמה על גרף, לפענח פתק בכתב יד, לפעמים לתמלל הקלטת קול.

למה זה חשוב? מכיוון שאופי העסק שלך עשוי לדרוש רב-מודאליות. צוות הנהלת חשבונות השואב סכומים מתמונות חשבוניות, צוות מסחר אלקטרוני שמסווג תמונות מוצר או צוות ביטוח שמעריך תמונות נזק לא יכול לעשות את העבודה הזו עם מודל שקורא רק טקסט. עיבוד חזותי חיוני למשימות אלו.

שלושה מקרים מציאותיים

מקרה 1 - הפתעת עלות סמלית. צוות תוכן גם שולח לדגם מסמך "מדריך מותג" בן 20 עמודים כשהם מפיקים כל פוסט בבלוג. מדריך זה הוא כ-15,000 אסימונים. הם מייצרים 2,000 מאמרים בחודש; אז עצם שליחת המדריך שוב ושוב פירושה 30 מיליון אסימונים של קלט. על ידי קיצור המדריך ושליחת הסעיף הרלוונטי בלבד (כ-2,000 אסימונים), הם מצמצמים את הקלט לשביעית ומפחיתים משמעותית את החשבון.

מקרה 2 - חלון ההקשר אינו מספיק. משרד עורכי דין רוצה לבחון הסכם מיזוג בן 280 עמודים. לדגם הראשון שניסו היה כריכה של 200,000 אסימונים והמסמך לא התאים; כאשר המסמך נקרע לגזרים, הדוגמנית לא יכולה לשים לב שמאמר בסעיף הראשון סותר מאמר בסעיף האחרון. כאשר הוא עובר למודל עם הקשר של מיליון אסימונים, הוא קורא את המסמך בכללותו ותופס את הסתירה. כאן חלון ההקשר קבע ישירות את הדיוק.

מקרה 3 - מולטי-מודאליות היא חובה. חברת ביטוח מבקשת לבצע הערכה ראשונית מצילומי נזקי רכב. זה בלתי אפשרי עם מודל שקורא רק טקסט; נדרש דגם מולטי-מודאלי ש"רואה" את הצילום. כשהם עוברים לדגם מולטי-מודאלי, הם מקימים מערכת בדיקה מוקדמת המסווגת באופן גס את מיקום וחומרת הנזק בצילום ומכוונת את המומחה. עם זאת, הם מציינים שמומחה אנושי מקבל את ההחלטה הסופית; כי המודל הוא כלי מיון ראשוני, לא המילה האחרונה.

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

סכמו את המסמך הזה. [מסמך ארוך מדי הודבק]

הנחיה עוצמתית:

סכמו למטה את הדוח בן 40 העמודים. תחילה הערך את המספר המשוער של אסימונים בדוח וספר לנו אם הוא מתאים לחלון ההקשר של מודל מאוזן טיפוסי. לאחר מכן תן את הסיכום בפורמט הזה: סיכום מנהלים בן 5 פריטים + 3 ממצאים מסוכנים. השתמש רק במידע בדוח; סמן את החלק שאינך בטוח בו כ"לא ברור בדוח". [דווח]

ההנחיה העוצמתית מודעת לאסימונים/הקשר ושולטת בפורמט ובאפשרות האימות של הפלט.

תבניות הניתנות להעתקה

1. חיזוי אסימונים:

הערך את המספר המשוער של אסימונים עבור הטקסט הבא ופרש זאת במונחים של עלות קלט: "[TEXT]". עיגלו אותו מעט, תוך התחשבות בכך שהוא טורקי.

2. בדיקת זמינות ההקשר:

התפקיד שלי הוא לעבד את המסמכים הבאים: ממוצע [PAGES] של [QTY] מסמכים לחודש. איזה חלון הקשר דורש גודל זה? איזו מהרמות הקלות/מאוזנות/חזקות תספיק? איזה סיכון נוצר אם צריך לפרק אותו?

3. אבחון רב-מודאלי:

זרימת העבודה שלי: [תיאור]. האם יש עיבוד חזותי, אודיו או וידאו בזרם הזה? אם כן, האם נדרש מודל מולטי-מודאלי, או שניתן להמיר אותו לטקסט (OCR/תעתיק) ולפתור אותו במודל הטקסט? השווה את היתרונות/חסרונות של שני הנתיבים.

4. אופטימיזציה של הקשר:

אני שולח מסמך לדוגמנית בכל בקשה, אבל רובו מיותר. כיצד אוכל לחלץ את החלקים הנדרשים בפועל עבור [TASK] ממסמך זה? הצע 3 דרכים קונקרטיות לצמצום הקלט וציון חיסכון אסימון משוער.

טעויות נפוצות

• טעות בסמל למילה: אסימון שונה ממילה; החשבונית והקיבולת תמיד באסימונים, חישוב במילים הוא מטעה.
• לחשוב שחלון ההקשר הוא אינסופי: לכל דגם יש גבול; אם המסמך לא מתאים, הדגם לא יכול לראות את כולו.
• שימוש בהקשר גדול מיותר: קניית דגם יקר עם הקשר גדול לעבודה קצרה; או למלא מסמכי ענק לכל בקשה ולשלם לשווא.
• בהנחה של מולטי-מודאליות: לא כל דגם יכול לעבד חזותיים; לעבודה חזותית, התחל מבלי לאשר שהמודל הוא מולטי-מודאלי.
• שוכחים את עומס האסימונים של טורקית: טקסטים טורקיים צורכים בדרך כלל מעט יותר אסימונים לאותה משמעות; התעלמות מכך בהערכת עלויות.

לסיכום

• אסימון הוא היחידה הקטנה שבה המודל מעבד טקסט; הקלט והפלט נמדדים ומחולקים חשבונית בנפרד כאסימונים.
• חלון ההקשר הוא סך האסימונים שהמודל יכול לזכור בכל פעם; גודל המסמך משפיע ישירות על בחירת הדגם.
• מולטי-מודאליות היא היכולת של המודל לעבד נתונים שאינם טקסטואליים כגון חזותי/אודיו; זה חיוני לעבודות חזותיות.
• שלושת המושגים הללו רלוונטיים שניהם לשאלה "איזה דגם?" כמו גם "כמה זה עולה?" הוא מהווה את הבסיס לשאלות.

משימת יישום

בחר משימת AI חוזרת בעסק שלך. בקש מהתבנית הראשונה (חיזוי אסימון) לחשב כמה אסימונים יש קלט טיפוסי במשימה זו. לאחר מכן קבע איזו רמה מספיקה עם תבנית 2 (בדיקת זמינות ההקשר). אם יש לך עבודה ויזואלית, הבהיר אם נדרש מודל מולטי-מודאלי עם התבנית השלישית (אבחון מולטימודאליות). נשתמש באומדן הסמל המתקבל בחישוב העלות של היחידה הבאה.

רשימת בדיקה

• [ ] אני מכיר את המושג אסימון ואיך להעריך באופן גס כמה אסימונים יש לטקסט.
• [ ] אני יכול להסביר את חלון ההקשר עם אנלוגיה של "טבלה/זיכרון".
• [ ] אני יכול להעריך אם מסמך יתאים למודל.
• [ ] אני יכול לאבחן מתי רב-מודאליות חיונית.
• [ ] אני לוקח בחשבון את התקורה הסמלית של טורקית ואת העלות של הקשר מיותר.