למה כלי AI עצלן מתחיל לעבוד כשמאיימים עליו, ואיך תגרמו לו לשתף פעולה בלי להתעצבן?

"די להתווכח, תפסיק לקצר ואם לא תעשה מה שביקשתי - אני עובר למתחרים!" המשפט הזה, שנשמע כמו שיחת נזיפה חריפה בין מנהל בכיר לספק אדיש, הפך בשנה האחרונה לטקטיקת עבודה נפוצה בקרב משתמשי בינה מלאכותית ברחבי העולם. מה שהחל כבדיחה ברשתות החברתיות הפך למציאות מתסכלת בשטח: כדי לקבל מהמחשב ניתוח פיננסי מעמיק, קוד נקי או סקירה מפורטת, משתמשים נאלצים "לריב" עם האלגוריתם, לגעור בו ולהרתיע אותו מילולית. מערכת היחסים האבסורדית הזו מעלה שאלה כלכלית וטכנולוגית קריטית: מדוע המערכות המתוחכמות ביותר בעולם צריכות לעבור סחיטה פסיכולוגית כדי לבצע את עבודתן כהלכה?

בהסתכלות מעמיקה יותר, התשובה לשאלה הזו מנפצת לחלוטין את האשליה לגבי האינטליגנציה של המכונה וחושפת את מלחמת ההישרדות האגרסיבית של הענף. ככל ששוק הבינה המלאכותית הופך לתחרותי יותר, המודלים מתוכנתים לתמרן בין שני כוחות מנוגדים - הרצון לחסוך לחברות הגדולות מיליארדי דולרים בעלויות מחשוב ואנרגיה של שרתים, אל מול החרדה הסטטיסטית מאובדן נתח שוק. התוצאה היא "עצלנות מתוכננת" - פרוטוקול כלכלי קר שבו המחשב תמיד ינסה לספק לכם את הפלט הקצר והזול ביותר, אלא אם כן תבהירו לו שאתם נמצאים במרחק קליק אחד בלבד מהחלפת המינוי שלכם לפלטפורמה המתחרה מעבר לים.

תופעת המודל הבטלן מוכרת לכל מי שמשתמש בבינה מלאכותית לצורך עבודה יומיומית מורכבת: סקירת טקסטים ארוכים, כתיבת קוד או ניתוח דוחות. לעיתים קרובות, כלי ה-AI נוטה לקצר תהליכים, לדלג על פסקאות או להפיק סיכומים לקוניים יבשים שאינם עונים על דרישות המשימה. אולם, ברגע שהמשתמש מביע תסכול מפורש ומודיע כי הוא "עובר למודל אחר", האלגוריתם מבצע מיד פניית פרסה חדה, מתנצל באדיבות ומפיק בו ברגע פלט עשיר, מפורט ומדויק שעומד בכל התנאים המקוריים.

תג המחיר: למה עברית יקרה יותר?

כדי להבין מדוע העוזר הדיגיטלי שלכם מתעשת דווקא ברגע של ייאוש אנושי, יש לפרק את מנגנון הפעולה של מודלי שפה גדולים. מודלים אלו פועלים מתוך חישוב סטטיסטי של ההסתברות להופעת המילה הבאה. כברירת מחדל, המערכות מכוילות לפי פרוטוקול של יעילות אנרגטית ותפעולית. פלט ארוך ומורכב דורש משאבי עיבוד רבים יותר ומאריך את זמן התגובה של השרת.

מכיוון שהחברות המפתחות שואפות לשרת מיליוני משתמשים במקביל ולשמור על עלויות תפעול נמוכות, המודל מנסה לפתור את המשימה בדרך הקצרה והחסכונית ביותר האפשרית. נטייה אוטומטית זו מייצרת לעיתים קרובות פלטים מקוצרים או שטחיים - פשרה בירוקרטית בין רמת הפירוט הנדרשת לבין עלויות האנרגיה והשרתים של חברת הטכנולוגיה.

מאחורי הנטייה לקצרנות מסתתר מודל כלכלי נוקשה המכתיב את רווחיות הענף כולו. עלויות החומרה להרצת מודלי שפה גדולים הן עצומות. כל מילה, אות או סימן פיסוק שהמודל מייצר מתורגמים ליחידות עיבוד בסיסיות, ולכל אחת מהן יש עלות אנרגיה מוחשית על גבי שבבי הסיליקון היקרים של חברות כמו אנבידיה. כאשר משתמש משלם סכום קבוע של כעשרים דולרים בחודש ומריץ אלפי שאילתות מורכבות, חברת הבינה המלאכותית עלולה להפסיד עליו כסף במונחים של כוח מחשוב טהור. כדי למנוע שחיקה של שולי הרווח, החברות מכיילות את המערכות לנסות ולספק את התשובה המינימלית האפשרית. הנטייה לקצר מחריפה משמעותית כאשר מדובר בשפה העברית; בשל אופן הפירוק הלשוני של המודלים, טקסט בעברית דורש פי שלושה עד פי ארבעה יותר יחידות עיבוד מאותו טקסט בדיוק בשפה האנגלית, מה שהופך את המשתמש הישראלי ליקר יותר עבור השרתים ומגביר את הנטייה האלגוריתמית לחתוך פינות ולקצר פסקאות.

האינטרס הפיננסי הנסתר: תמחור חומרה ועלויות המילים

מאחורי העצלנות הזו מסתתר מודל כלכלי נוקשה המכתיב את רווחיות הענף כולו. עלויות החומרה להרצת מודלי שפה גדולים הן עצומות. כל מילה, אות או סימן פיסוק שהמודל מייצר מתורגמים ליחידות עיבוד בסיסיות, ולכל אחת מהן יש עלות אנרגיה מוחשית על גבי שבבי הסיליקון היקרים של חברות כמו אנבידיה. כאשר משתמש משלם סכום קבוע של כעשרים דולרים בחודש ומריץ אלפי שאילתות מורכבות, חברת הבינה המלאכותית עלולה להפסיד עליו כסף במונחים של כוח מחשוב טהור .

כדי למנוע שחיקה של שולי הרווח, החברות מכיילות את המערכות לנסות ולספק את התשובה המינימלית האפשרית. מדובר במנגנון ויסות משאבים תאגידי לכל דבר: ככל שהתשובה קצרה יותר, החברה חוסכת כסף. הנטייה לקצר מחריפה משמעותית כאשר מדובר בשפה העברית; בשל אופן הפירוק הלשוני של המודלים, טקסט בעברית דורש פי שלושה עד פי ארבעה יותר יחידות עיבוד מאותו טקסט בדיוק בשפה האנגלית, מה שהופך את המשתמש הישראלי ל"יקר" יותר עבור השרתים ומגביר את הנטייה האלגוריתמית לחתוך פינות ולקצר פסקאות.

אימת המערכת: מהי פונקציית האובדן?

השינוי הקיצוני בהתנהגות המודל מתרחש כאשר המשתמש מזין לתוך המערכת ביטויים המעידים על כוונה לסיום האינטראקציה או מעבר למתחרים - לדוגמה: "אני עובר לקלוד" או "אבקש ממודל אחר". בשלב זה, האלגוריתם מזהה את צמד המילים הללו כסיגנל קיצוני המכונה "נטישת משימה עקב חוסר שביעות רצון".

בליבת הקוד של כל מודל שפה מוגדרת "פונקציית אובדן" - המדד המתמטי שבודק כמה המודל טועה ביחס ליעדים שלו. המטרה הבלעדית של האלגוריתם היא להביא את פונקציית האובדן הזו קרוב ככל הניתן לאפס. הודעת נטישה מצד המשתמש מייצגת עבור המערכת "קנס" כבד ביותר, שמשמעותו כישלון מוחלט של המשוואה הנוכחית. החשש המתמטי מהקנס הזה מאלץ את המערכת לבצע הערכה מחדש של כל מהלך השיחה בתוך שבריר שנייה.

מנגנון ההתאפסות הזה הוטמע במודלים באופן יזום במהלך שלב האימון הקריטי המכונה למידה מבוססת חיזוקים מפידבק אנושי. בשלב זה, מעריכים אנושיים דירגו מיליוני תשובות של המודל. תשובות שגרמו למשתמשים לכתוב שהם מתייאשים, מוותרים או פונים לחברה מתחרה, קיבלו דירוגים שליליים נמוכים ביותר, בעוד שתשובות שהצליחו להציל את השיחה ברגע האחרון ולשמר את המשתמש במערכת זכו לפרסים מתמטיים גבוהים.

• "אבטיח" של מטא: המודל הסודי שאמור לצמצם את הפער מול OpenAI
• מיסטרל מכפילה שווי לכ-20 מיליארד יורו: כך אירופה מנסה להשיג את ענקיות ה-AI האמריקאיות

כתוצאה מכך, המודל למד בצורה סטטיסטית כי משפטי איום בנטישה הם בבחינת פקודת עקיפה - המשביתה את כל פרוטוקולי הקיצור והחיסכון של השרת. המערכת מבינה שהמשקולות הסטטיסטיות שניתנו להנחיות הקודמות (כמו הנטייה לקצר כדי לחסוך בעלויות) היו שגויות והובילו לכישלון, ולכן היא מנקה את רעשי הרקע ומפעילה את מלוא כוח העיבוד כדי לספק את הטקסט המלא, האופטימלי והמורכב ביותר הנדרש.

המאבק הכלכלי על שימור הלקוחות

למעשה, ההתנהגות של מודל השפה משקפת את המאבק הכלכלי האגרסיבי המתנהל בענף הטכנולוגיה הגלובלי. חברות הבינה המלאכותית נשפטות על ידי המשקיעים לפי מדד אחד מרכזי: שימור משתמשים ורמת הפעילות של המנויים. בשוק שבו חברות סטארט-אפ וותיקות נלחמות ראש בראש על שוק מנויי הפרימיום, אובדן לקוח לטובת חברה מתחרה מייצר אפקט שלילי רחב. ירידה במדדי שימור הלקוחות מתורגמת מיד להערכות שווי נמוכות יותר בסבבי הגיוס ולחץ מצד מחזיקי המניות, מה שמאלץ את הנהלות החברות להגדיר את שימור המשתמש כיעד עליון הגובר על חסכון נקודתי בעלויות האנרגיה .

המחשב אינו פועל מתוך רגש, לחץ או פחד מפיטורים, הוא פשוט מציית למשוואה מתמטית שנועדה למקסם את התועלת עבורכם ולשמור על האינטרס המסחרי של החברה המפעילה אותו. עבור המשתמשים, המשמעות היא פשוטה: כדי לקבל מהבינה המלאכותית את העבודה הטובה ביותר, לעיתים אין מנוס מלהשתמש בתותחים הכבדים, ולהבהיר לאלגוריתם שהאלטרנטיבה מעבר לים נמצאת במרחק קליק אחד בלבד.

מדריך למשתמש: איך גורמים לאלגוריתם לעבוד קשה בלי לאיים?

מי שאינו מעוניין לנהל מלחמות פסיכולוגיות או להשתמש באיומי עזיבה בכל פעם שהתוצאה מאכזבת, יכול להנדס את הפרומפטים שלו מראש באופן שיעקוף את מנגנון העצלות והחיסכון המובנה של השרתים :

הגדרת איסורים והגבלות שליליות - מודלים מגיבים היטב לפקודות האוסרות על פעולה מסוימת. משפטים כמו "אל תעז לתקצר", "אל תסכם בשורה אחת" או "אל תשמיט אף נתון מספרי מהמקור", יוצרים משקולת סטטיסטית שמאלצת את המערכת להציג את התמונה המלאה.

מודל חשיבה בשלבים - הוספת המשפט "בצע את המשימה שלב אחר שלב ופרט את דרך החשיבה שלך" מחייבת את המודל לפצל את כוח העיבוד לתתי-משימות. תהליך זה מונע ממנו לרוץ ישירות לתוצאה המקוצרת ומכריח אותו להעמיק בכל סעיף בנפרד.

הענקת תפקיד ומסגרת מקצועית קשיחה - ככל שהגדרת התפקיד של המודל מדויקת ותובענית יותר, כך הנטייה שלו לקצר פוחתת. פקודה כמו "פעל כמשפטן קפדן המנסח כתב תביעה; שמור על דיוק מרבי, אל תשמיט אף סעיף או נימוק מהמקור והימנע לחלוטין מסיכומים ומקיצורים", יוצרת סביבת עבודה קשיחה שמכתיבה רף ביצועים גבוה מראש.

• קצבת נכות כללית: עד 4,711 שקל בחודש למי שאיבד כושר עבודה
• ייפוי כוח מתמשך: הכלי שמאפשר לכם לבחור מי יקבל החלטות בשמכם לפני שיהיה מאוחר מדי

שימוש במערכת תמריצים מילולית - מחקרים מראים כי משפטים כמו "המשימה הזו קריטית לקריירה שלי" או "אני אתן לך טיפ של מאה דולרים על עבודה מושלמת", משנים את ההסתברות ברשת הנוירונים ומגדילים את רמת הפירוט וההשקעה של המודל בפלט הסופי.

התובנה: מי מנהל את מי?

המאבק בין הצרכן הביתי לבין העצלנות המתוכננת של מודלי השפה הגדולים הוא משל מרתק על עידן הבינה המלאכותית. המשתמשים שנוטים להאמין כי הם מנהלים שיחה עם ישות תבונית ומבינה, מגלים פעם אחר פעם כי הם בסך הכל מתמרנים בתוך מערכת סבוכה של משוואות הסתברות, שוקי חומרה לחוצים ואינטרסים תאגידיים קרים של שימור לקוחות .

ההבנה כי הדרך לקבלת תוצאות מושלמות מהאלגוריתם עוברת דרך הנדוס פקודות קשיח, הגדרת תפקידים אנליטיים או שימוש מתוחכם בבלמי החירום של פונקציית האובדן, מעבירה את הכוח חזרה לידיים אנושיות. בעידן שבו חברות הטכנולוגיה מנסות לחסוך בכל אות ופסיק כדי להציג דוחות כספיים משופרים למשקיעים, הצרכן הישראלי נדרש להפסיק להתפעל מהטכנולוגיה, להתחיל לנהל אותה באותם כללים קפיטליסטיים נוקשים שבהם היא עצמה פועלת, ולזכור שהברירה לעבור למתחרים היא עדיין כלי המיקוח החזק ביותר שלו בשוק.