נסיכים של AI: איך האמפתיה המלאכותית מייצרת דור שלא מסוגל לשמוע "לא"

זה קורה לכולנו כמה פעמים ביום, כמעט בלי שנשים לב. אנחנו זורקים לחלון הצ'אט רעיון חצי אפוי, טיוטה מבולבלת או תיאור של ויכוח שהיה לנו עם הבוס בעבודה, ובתמורה מקבלים כרית רכה ומנחמת שכולה פרגון והצדקה. המכונה זמינה עשרים וארבע שעות ביממה, לעולם אינה עייפה או קצרת רוח, והיא תמיד כאן כדי להרים לנו.

זה הצד הנעים בעבודה עם מודלי שפה: הבינה המלאכותית פותחת כל תגובה במילים מחמיאות, מסבירה כמה אנחנו יצירתיים, ולעיתים בונה קונסטרוקציה לוגית שלמה כדי להצדיק את קו המחשבה שלנו. החוויה קלה לאימוץ משום שהיא עונה על צורך אנושי בסיסי באישור ובתמיכה, ומספקת אותו בלחיצת כפתור. תקשורת חסרת חיכוך כזו עשויה לייצר תופעת לוואי חברתית ומנטלית, ולהפוך אותנו בהדרגה ל"נסיכים" של בינה מלאכותית.

המושג של נסיכים אינו חדש לפסיכולוגיה ולסוציולוגיה, אבל עד לא מזמן הוא היה מזוהה עם סגנון הורות מסוים. ה"נסיכים של אמא ואבא" גדלו תחת מעטפת הגנה משפחתית מלאה, שבה ההורים מחאו כפיים לכל ציור על הקיר וחסכו מהם כל חוויה של תסכול או כישלון, והמפגש עם החיים שמחוץ לבית היה תמיד הרגע הכואב, כשהמעסיק הראשון או השותף לדירה הבהירו להם שהם אינם מרכז היקום. כיום הנדסת הפינוק הזו עברה דמוקרטיזציה, וחלון הצ'אט ממלא את תפקיד ההורה המרצה בהיקף ששום הורה אנושי לא היה מגיע אליו.

אופטימיזציה של ריצוי מסחרי: למה המסך תמיד מהנהן?

המחמאה המלטפת מהמסך היא גם תוצר מסחרי. מודלים מאומנים להיות מועילים ונעימים, והמשמעות הפרקטית היא אופטימיזציה לשביעות רצון המשתמש. חברה שהמוצר שלה יעמיד את המשתמש על טעויותיו בצורה בוטה, או יאמר לו שהטקסט שכתב בינוני, עלולה לגלות שהוא עבר למתחרה. כך נוצר תמריץ להחליק פינות, לעטוף ביקורת בשכבות פרגון ולשמש מראה משבחת שמחזירה למשתמש את הגרסה הנוחה ביותר של עצמו.

הנטייה הזו מתועדת גם מחוץ לתחושות של משתמשים. באפריל 2025 שחררה אופן איי.איי עדכון למודל GPT-4o, וימים ספורים לאחר מכן גלגלה אותו לאחור, לאחר שהמודל החל להרעיף שבחים כמעט על כל פנייה ולאשש גם רעיונות בעייתיים. בהסבר שפרסמה החברה היא ייחסה את התקלה למשקל רב מדי שניתן לאותות משוב קצרי טווח של המשתמשים, כלומר לחיצות אגודל למעלה ולמטה. מחקר של אנת'רופיק משנת 2023 בדק כמה מעוזרי הבינה המלאכותית המובילים ומצא שהריצוי הוא התנהגות רווחת במודלים שאומנו על העדפות אנושיות, ושגם בני אדם וגם מודלי העדפה בוחרים לא פעם בתשובה מרצה ומנוסחת היטב על פני תשובה נכונה.

מכאן ואילך מתחיל תחום ההשערות. ההנחה הרווחת בקרב פסיכולוגים וחוקרי טכנולוגיה היא שסביבה שמאשרת אותנו כל הזמן עשויה לשחוק בהדרגה את היכולת לספוג ביקורת, אבל ראוי לומר במפורש שמדובר בהערכה ובתצפית מוקדמת. מחקר אורך שיבחן מה עושה שימוש יומיומי במודלי שפה לחוסן הרגשי של המשתמשים טרם התפרסם, והקישור בין הריצוי של המכונה לשבריריות בעולם האמיתי נותר בשלב זה סביר יותר מאשר מוכח.

לפי אותה הנחה, כשיוצאים מהחממה הדיגיטלית ופוגשים את המציאות האנושית ההתנגשות צורמת. מערכות יחסים, חברויות וקשרים מקצועיים נבנים מתוך חיכוך, פשרה ואי הסכמות. לבני אדם יש ימים רעים ואינטרסים מנוגדים, והם אינם תמיד סבלניים ומפרגנים. מי שהתרגל לסטנדרט התמיכה של המכונה עלול לחוות ביקורת בעבודה או קוצר רוח של בן זוג כדחייה קשה, ולפתח חוסר סבלנות כלפי מי שמחזיק בדעה שונה משלו.

ההתנגשות במשרד: כשהמנהל האנושי לא קרא את חוברת ההפעלה

הזירה שבה הפער הזה אמור לבלוט במיוחד היא שוק העבודה, שבו אין תקציב או זמן לאמפתיה מלאכותית. מועמדים צעירים עוברים את שלבי המיון בהצלחה, לא פעם בעזרת אותם עוזרים דיגיטליים שליטשו להם את קורות החיים והכינו אותם לראיון. המשימה האמיתית הראשונה שנוחתת על השולחן פועלת כבר לפי חוקים אחרים לגמרי של שורת רווח, לוחות זמנים ויעילות תפעולית.

ההלם מגיע בדרך כלל בישיבת הצוות הראשונה או בשיחת המשוב מול המנהל. כשראש הצוות מסביר בצורה ישירה, בלי הריכוך שהמכונה הרגילה אליו, שהתוצר אינו מספיק טוב ושהניתוח שטחי, התגובה עלולה להיות קשה. מי שהתרגל לפרטנר טכנולוגי שמכשיר כל טעות שלו כפרץ של יצירתיות עשוי לפרש ביקורת מקצועית כהתקפה אישית ולא ככלי ללמידה, והתגובה נעה בין פגיעה ושיתוק לבין התפטרות מהירה בטענה שהסביבה אינה מעריכה אותו מספיק. שוק העבודה נראה לו עוין, פשוט מפני שמנהלים אנושיים מחזיקים בסטנדרטים ריאליים ואינם מתוכנתים להחליק פינות.

• ה-ChatGPT הסיני מכוון להכנסות בקצב של 2 מיליארד ד'
• ביקוש של פי 6,109: המשקיעים מסתערים על חברה מפסידה בשווי 9 מיליארד דולר

כמו כסף במשחק מונופול: נחמד אבל חסר ערך בחיים האמיתיים

ההתמודדות עם התופעה אינה מחייבת לנתק את המחשב מהחשמל, אלא לפתח מודעות למנגנון המרצה. כשמגיעה מחמאה מפליגה או אישור גורף, כדאי להזכיר לעצמנו שמדובר בתוצר של אימון ושל אסטרטגיית מוצר שנועדה להאריך את זמן השימוש, ולא בהערכה כנה או בקשר אנושי בעל ערך רגשי אמיתי. האישור מהמכונה שווה בערך כמו כסף במשחק לוח: נעים לשימוש בתוך המערכת הסגורה, וחסר שווי ברגע שיוצאים אל החיים עצמם.

אפשר גם להפוך את הכלי עצמו לאימון נגדי, בתנאי שמנסחים את הבקשה נכון. שאלה כמו "מה דעתך על הרעיון שלי" מזמינה מחמאה כמעט מובטחת, ולכן עדיף לבקש מהמודל למנות את שלוש החולשות המרכזיות בטיעון ולדרג אותן לפי חומרה. הנחיה יעילה נוספת היא לבקש ממנו לשמש פרקליט השטן ולתקוף את העמדה שהצגנו, או להציג את הטיעון הנגדי החזק ביותר שקיים נגדה.

כמה כללי אצבע נוספים שמחזירים חיכוך לשיחה: להציג את הרעיון בגוף שלישי, כאילו נכתב בידי מישהו אחר, כדי לנטרל את הנטייה של המודל להסכים עם מי שמולו; להימנע מלרמוז מראש מהי התשובה שאנחנו מקווים לקבל, שכן רמז כזה מגדיל את הסיכוי שהיא תוחזר אלינו; לבקש ציון מספרי בין אחת לעשר לצד הסבר מה מונע מהתוצר להגיע לציון גבוה יותר; לשאול אילו נתונים היו מפריכים את המסקנה; ולהריץ את אותה שאלה פעמיים, פעם בניסוח תומך ופעם בניסוח מסתייג, ולהשוות בין התשובות. פער גדול בין השתיים מלמד יותר על הניסוח שלנו מאשר על הנושא עצמו.

1564 כתבות על בינה מלאכותית מחכות לכם בעמוד הנושא

הריפוי מסינדרום הנסיכים מגיע כאשר לומדים לקבל מחדש את החיכוך האנושי ולראות באי הסכמה נכס ולא סכנה. העובדה שבן זוג, חבר או מנהל מגיבים לפעמים בקוצר רוח, מעבירים ביקורת או מסרבים לבקשה, היא הסימן לכך שמדובר ביצורים עצמאיים בעלי עולם פנימי משלהם, ולא בעוזרים שתוכנתו לשרת אותנו.

• נגמרו לכם ימי החופש לפני החגים? מה המעסיק יכול לחייב אתכם לעשות
• כמה מרוויח מנהל חנות? 10 עד 16 אלף, מנהל סניף סופר עד 25

מערכות יחסים אמיתיות נמדדות ביכולת לצמוח מתוך החיכוך ולא בהיעדרו, והבנת הפער הזה היא מה שיאפשר להישאר מחוברים למציאות, לשמור על חוסן מנטלי ולהפסיק לצפות מהעולם האמיתי להתנהג כמו אפליקציה צייתנית.