משקל סגור ומשקל פתוח: מאזן של שליטה, עלות ופרטיות

רווחים:

• הבנה קונקרטית של מושג המודל 'משקל' וההבחנה המרומזת/מפורשת
• ראה את ההבדל בין משקל פתוח לקוד פתוח ואת מלכודות הרישוי שלהם
• יכולת בחירה בגישה סגורה, פתוחה או מעורבת עם הצדקה בהתאם למצב העסק

תוך כדי היכרות עם הספקים ביחידה הקודמת, הייתה בטבלה עמודה בשם "סוג משקל": סגור, פתוח, מעורב. העמודה הבודדת הזו מסתירה למעשה את אחת ההחלטות האסטרטגיות ביותר של בחירת הדגם שלך. בין אם תעבדו עם דגם משקל סגור או פתוח; הוא קובע ישירות היכן יעובדו הנתונים שלך, כיצד יעצבו העלויות החודשיות שלך, צורכי הצוות הטכני שלך והאחריות המשפטית שלך. עד שתסתיים יחידה זו, תהיה לך הבנה קונקרטית של המושג "משקל", תראה את ההבדל העדין אך הקריטי בין משקל פתוח לקוד פתוח, ותוכל להצדיק את הגישה הנכונה למצב שלך.

מה זה בדיוק "משקל"?

מודל AI מאומן עם גוש עצום של טקסט תוך התאמה אטית של מיליארדי הערכים המספריים (פרמטרים) בתוכו. כל המספרים הללו נקראים משקולות דגם. המשקולות הן המקום שבו הדוגמנית מאחסנת את "כל מה שהיא למדה"; אפשר להשוות את זה לכוחן של סינפסות במוחו של אדם. הדקדוק, הידע העולמי ודפוסי ההיגיון של המודל מקודדים כולם במספרים אלה.

"להפעיל" מודל פירושה טעינת המשקולות הללו למחשב והרצת הטקסט שאתה מזין מעליהן. השאלה הקריטית היא: למי יש גישה לקבצי המשקל הללו?

• משקל סגור: המשקולות שוכנות רק על שרתי הספק. אינך יכול לגשת אליהם ישירות; אתה משתמש בו דרך האינטרנט דרך ממשק (API) באופן "שלח טקסט, קבל תגובה". Anthropic Claude, OpenAI GPT, Google Gemini הם כאלה. (API הוא ממשק המאפשר לתוכנה לשלוח בקשה לתוכנה אחרת דרך יציאה רגילה ולקבל תשובה).
• משקל פתוח: ניתן להוריד קבצי משקל. אם תרצה, תוכל להתקין ולהפעיל אותו בשרת משלך. כמה דגמים של Meta Llama, DeepSeek, Mistral הם כאלה.

טיפ: חשבו על המשקל הסגור כעל "דירה שכורה" ועל המשקל הפתוח כעל "בית קנוי". קל לעבור בדירה שכורה, התחזוקה אינה באחריותך, אך בעל הבית קובע את הכללים. הכל בבית הנרכש הוא שלך, אבל גם שיפוצים, אבטחה וחשבונות הם באחריותך.

משקל פתוח אינו זהה לקוד פתוח

יש כאן טעות מושגית נפוצה מאוד. "משקל פתוח" ו"קוד פתוח" משמשים לעתים קרובות לסירוגין, אבל הם לא אותו דבר.

• שקלול פתוח פירושו שיתוף רק בפרמטרים הנלמדים של המודל. בדרך כלל לא מוסבר איך המודל מאומן ואיזה נתונים הוא ניזון.
• קוד פתוח לחלוטין אומר באופן אידיאלי שגם המשקולות, נתוני האימון וגם קוד האימון משותפים וניתן להשתמש בהם באופן חופשי.

יש גם עניין של רישוי. גם אם משקלו של דגם ניתן להורדה, הרישיון שלו עשוי להגביל את השימוש המסחרי, להטיל דרישות נוספות מעבר למספר מסוים של משתמשים, או לאסור פיתוח מוצר מתחרה. אז "אני יכול להוריד את זה" ו"אני יכול להשתמש בו איך שאני רוצה" הם דברים שונים.

זהירות: לפני הכנסת דגם משקל פתוח לעסק שלך, הקפד לקרוא את הרישיון שלו. אל תלך שולל על ידי המילה "פתוח"; חלק מהרישיונות דורשים הסכמים נפרדים מעל מספר מסוים של משתמשים פעילים חודשיים, וחלק מגבילים את השימוש בפלט למטרות מסוימות. זה משהו שאתה צריך לשאול את הצוות המשפטי שלך לגביו.

השוואה בין שתי גישות

הטבלה שלהלן מציגה את שתי הגישות זו לצד זו בממדים מרכזיים.

גודל

משקל סגור

משקל פתוח

התקנה

אין, ממשק מוכן

דרושים שרת וצוות טכני

איפה הנתונים מעובדים

בשרת של הספק

בסביבה בשליטתך

עלות ראשונית

נמוך (שלם ככל שאתה הולך)

גבוה (חומרה, התקנה)

עלות בקנה מידה

עולה עם עוצמת הקול

צפוי עם חומרה קבועה

עדכון/תחזוקה

אצל הספק

גם אתה

בקרת פרטיות

מוגבל

מלא

גישה לדגם החזק ביותר

בדרך כלל כאן

משתנה

בטבלה זו אין תשובה אחת ל"מה עדיף"; כל שורה היא פלוס או מינוס בהתאם לעדיפות שלך. אם אתה רוצה שהעלות הראשונית תהיה נמוכה, משקל סגור; אם אסור לנתונים להשאיר את החברה אפילו מילימטר, משקל פתוח בא לידי ביטוי.

שלושה מקרים מציאותיים

מקרה 1 - סטארט-אפ מסחר אלקטרוני (עלייה סגורה במשקל). צוות מסחר אלקטרוני בן חמישה אנשים רוצה לייצר תיאורי מוצרים. אין להם צוותים טכניים, הם לא רוצים לנהל שרתים, הנפח החודשי משתנה. הם מתחילים עם מודל סגור, משלמים על מה שהם משתמשים. בחודש הראשון, הם מעבדים 1.2 מיליון אסימונים ומשלמים כ-15 דולר; ככל שהעסק שלהם גדל, החשבון גם גדל באופן יחסי. אין בעיית שרת, תחזוקה או עדכון. הבחירה הנכונה עבור פרופיל זה ברורה.

מקרה 2 - בית חולים (הגירעון עולה במשקל). בית חולים רוצה לסכם ולקודד הערות של מטופלים. הנתונים הם נתוני בריאות רגישים ביותר; אסור לעזוב את המוסד בשום פנים ואופן. הם בונים מודל משקל פתוח במרכזי הנתונים שלהם. הם משקיעים השקעה ראשונית נכבדה בהתקנה ובחומרה (נניח, שרת של 40,000 דולר ושבועיים של עבודה בהתקנה), אבל אז הם לא משלמים עמלות סמליות נוספות לכל מטופל והנתונים לעולם לא עוברים לשרת חיצוני. הנפח הגבוה והסודיות המוחלטת מצדיקים את העלות הראשונית.

מקרה 3 - משרד רואי חשבון בינוני (הגישה ההיברידית מנצחת). משרד רואי חשבון משתמש במודל משקל סגור מממשק מוכן להתכתבות כללית יומיומית ולטיוטות טקסטים; כי זה לא שווה את מאמץ ההתקנה עבור עבודות אלה. עם זאת, הם מיקור חוץ ניתוח רגיש הכולל נתונים פיננסיים של לקוחות למודל משקל פתוח הפועל על השרתים שלהם. לפיכך, הם נהנים מנוחות ומפרטיות בעת ובעונה אחת. נחזור לגישת "תיק מעורב" זו ביחידה 9.

הנחיה חלשה / הנחיה חזקה: כאשר מבקשים תמיכה בהחלטה

הנחיה חלשה:

האם עלי להשתמש במשקל פתוח או במשקל סגור?

הנחיה עוצמתית:

התפקיד שלך: ארכיטקט בינה מלאכותית ארגונית. המצב שלי: אנחנו משרד רואי חשבון של 12 אנשים, אין לנו צוות טכני אבל יש לנו יועץ IT חיצוני. ~500,000 אסימונים לחודש עסק. חלק מהנתונים הם נתונים פיננסיים של לקוחות (רגישים), חלק מהתכתבויות כלליות. עלינו לציית ל-KVKK. משימה: השוו גישה סגורה, פתוחה ומעורבת בהתאם. לכל אחד: התאמה (1-5), טווח עלות משוער בשנה הראשונה, הערת פרטיות, סיכון עיקרי. לבסוף, תנו הצעה אחת וסכמו את הסיבה ב-3 נקודות.

ההנחיה השנייה מאפשרת למודל לייצר המלצה שבאמת מתאימה לעסק שלך, שכן היא נותנת את כל הגבולות הנדרשים להחלטה (צוות, נפח, סוג נתונים, מסגרת משפטית).

תבניות הניתנות להעתקה

1. החלטה על סוג המשקל:

העבודה שלי: [תיאור]. צוות טכני: [כן/לא]. נפח אסימון חודשי: [NUM].רגישות לנתונים: [נמוכה/בינונית/גבוהה].העדפת מבנה תקציב: [התחלה נמוכה / צפוי קבוע].השווה אפשרות סגורה, פתוחה ומעורבת לפי פרופיל זה ותן המלצה אחת.

2. בדיקת רישיון:

פשט את הרישיון עבור דגם זה במשקל פתוח: [שם רישיון/טקסט]. ענה על השאלות הבאות: האם מותר שימוש מסחרי? האם יש מגבלות על משתמשים/הכנסה? האם אוכל למכור מחדש את הפלט? מהם השימושים שהוא אוסר? אם לא ברור, כתוב "תשאל עורך דין".

3. פירוט עלויות:

פירוט עלות הבעלות הכוללת עבור דגם בעל משקל חשוף: חומרה, עבודת התקנה, חשמל/אירוח, תחזוקה, עדכונים. ערכו השוואה גסה של 3 שנים עם חלופת המשקל הסגור. הנפח החודשי שלי: [NUMBER].

4. בדיקת סיכוני פרטיות:

עקבו אחר היכן עוברים הנתונים מהיכן מגיעים בתהליך העבודה הבא: [תיאור זרימת עבודה]. אם אני משתמש במשקל סגור, באיזה שלב הנתונים יוצאים? כיצד משתנה הסיכון הזה במשקל פתוח? הצע אמצעי הפחתה לכל סיכון.

טעויות נפוצות

• טעות במילה "פתוח" ל"חופשי וללא הגבלה": משקל פתוח אינו מבטיח שימוש מסחרי חופשי או בלתי מוגבל; הרישיון מכריע.
• לחשוב על משקל פתוח זה "קל": הפעלת דגם משקל פתוח דורשת שרתים, צוות טכני ותחזוקה; לזלזל בהתקנה היא טעות נפוצה.
• לא מתחשבים כלל בנתוני המשקל הסגור: במודל הסגור, הנתונים עוברים לספק; זה מסוכן להתחיל בלי לברר מראש אילו נתונים יכולים ללכת.
• רק להסתכל על העלות הראשונית: בעוד משקל פתוח עשוי להיראות יקר בהתחלה, זה יכול להיות זול יותר בטווח הארוך בנפח גבוה מאוד. תסתכל על העלות הכוללת לאורך שלוש שנים.
• המוטו 'הדפוס הכי חזק תמיד סגור': אמנם זה נכון רוב הזמן, אבל זה לא מוחלט; מודלים במשקל פתוח עשויים להתאים למשימות מסוימות.

לסיכום

• משקלי המודל הם מיליארדי פרמטרים המאחסנים את המידע שהמודל למד; ההבחנה "כבוי/הדלקה" נוגעת לגישה לפרמטרים אלו.
• משקל סגור: ממשק מוכן, התחלה נמוכה, על ספק הנתונים. המשקל הברור: שרת משלך, שליטה מלאה, תקורה גבוהה של הפעלה ותחזוקה.
• משקל פתוח אינו זהה לקוד פתוח; תנאי הרישיון עשויים להגביל את השימוש המסחרי.
• הבחירה הנכונה; משתנה בהתאם לצוות, נפח, רגישות הנתונים ומבנה התקציב. גישה היברידית הגיונית עבור רוב העסקים הבינוניים.

משימת יישום

קח את פרופיל הצרכים שיצרת ביחידה הקודמת. תן אותו למודל AI באמצעות תבנית 1 (החלטת סוג משקל) ביחידה זו. העריכו את ההמלצה שהתקבלה בעצמכם על ידי התאמתה בזה אחר זה לשבעת הממדים בטבלה (התקנה, מיקום נתונים, עלות הפעלה, עלות קנה מידה, תחזוקה, פרטיות, גישה למודל החזק). אם ההערכה שלך שונה מהמלצת המודל, ציין במשפט אחד היכן אתה שונה.

רשימת בדיקה

• [ ] אני יכול להסביר את המושג "משקל" במילים שלי.
• [ ] אני יכול להשוות את היתרונות/חסרונות של משקל סגור ופתוח בשבע ממדים.
• [ ] אני יודע את ההבדל בין משקל פתוח לקוד פתוח ואת סיכון הרישוי.
• [ ] אני יכול להצדיק את הבחירה של סגור/פתוח/היברידית עבור העסק שלי.
• [ ] אני יכול לעקוב לאן הנתונים הולכים בזרימת עבודה ולהראות את נקודת הסיכון.