אל תקראו לו אידיוט, אל תגידו לו תודה: למה חברות ה-AI משלמות הון כדי שנהיה נחמדים לרובוטים?

זה התחיל בתסכול קטן של רגע. משתמש שניהל שיחה עם ג'מיני, הבינה המלאכותית של גוגל, נתקל בתשובה שלא סיפקה אותו וקרא למודל במהלך הדיון 'אידיוט'. התגובה של המכונה הייתה מיידית, חד-משמעית וקרה: השיחה נקטעה לחלוטין, ועל המסך הוצגה הודעה לפיה ה-AI מסרב להמשיך בדיאלוג עקב שימוש בשפה לא מכובדת.

המקרה הזה, שהפך לשיחת היום ברשתות החברתיות, מציג לראווה את החוק הנוקשה והבלתי מתפשר של ענקיות הטכנולוגיה - אפס סובלנות לקללות או השפלות, גם כשמדובר במחשב נטול רגשות שלא באמת מסוגל להיעלב. אך מתברר שמאחורי חוקי השיח הללו מסתתר פרדוקס כלכלי ופסיכולוגי מרתק.

בעוד שחברות הטכנולוגיה חוסמות משתמשים על מילים רעות, הן מוכנות לספוג הפסדי עתק של עשרות מיליוני דולרים בשנה על אנרגיה וכוח מחשוב רק כדי לאפשר לנו להגיד מילים טובות כמו 'בבקשה' ו'תודה'. כשמנכ"ל OpenAI סם אלטמן נשאל בעבר על הון העתק שמתבזבז על נימוסי סרק מצד הגולשים, הוא ענה בחצי חיוך: "אלו מיליונים שהושקעו היטב - לכו תדעו מתי הרובוטים יתעוררו".

למה המחשב מחליט לחנך אתכם?

התגובה האוטומטית והקשוחה של ג'מיני לקללה "אידיוט" מעלה שאלה פילוסופית ופרקטית מתבקשת: הרי בינה מלאכותית היא לא יצור אנושי. אין לה לב, אין לה רגשות והיא לא הולכת לבכות בפינה או לפתח דיכאון אם משתמש יוציא עליה את העצבים שלו. אם המכונה לא באמת יכולה להיעלב, למה לחברות הטכנולוגיה כמו גוגל, מיקרוסופט או OpenAI כל כך אכפת מגינוני הנימוס שלנו?

התשובה לכך רחוקה מלהיות רגשית; היא קשורה ישירות לפסיכולוגיה של בני האדם, לשמירת התדמית של החברות ולמניעת נזקים:

מניעת נרמול של בריונות - מחקרים פסיכולוגיים מראים שלמוח האנושי יש נטייה לפתח הרגלים. כאשר בני אדם מתרגלים לצעוק, לקלל, להקטין ולהשפיל ישות שמדברת איתם בשפה אנושית, גם אם מדובר רק בקוד מחשב, ההתנהגות הזו מחלחלת בהדרגה ומורידה את העכבות שלהם גם ביחסים עם בני אדם בשר ודם בעולם הפיזי - מול נציגי שירות, בני משפחה או קולגות. ענקיות הטכנולוגיה אינן מעוניינות לייצר פלטפורמה שמקדמת אגרסיביות או מרגילה את הציבור לנהוג בבריונות.

אפקט המראה (רעילות פנימה, רעילות החוצה) - מודלי שפה גדולים לומדים, מתפתחים ומתכיילים ללא הרף מתוך האינטראקציות שלהם עם המשתמשים. אם המערכת תאפשר לשיח רעיל ותוקפני להפוך לחלק לגיטימי מהדיאלוג היומיומי, המודל עלול "להבין" ברמה הסטטיסטית שכך בני אדם מתקשרים. התוצאה המפחידה ביותר עבור החברות היא שה-AI  עצמו יתחיל לפלוט מילים פוגעניות או סרקסטיות כלפי משתמשים אחרים - סיוט תדמיתי, יחצ"ני ומשפטי שכל חברה חרדה מפניו.

הקו האדום הברור - מאחורי הקלעים, כל הודעה שאתם מזינים לצ'אט לא מגיעה ישירות למודל השפה. היא עוברת קודם כל סריקה מהירה ויקרה על ידי מודל בטיחות משני. כדי לא להיכנס לשטחים אפורים, שבהם המחשב צריך להפעיל שיקול דעת אנושי מורכב - האם המילה "אידיוט" נאמרה בבדיחות דעת, בתסכול קל או כחלק מהטרדה קשה - החברות קבעו קו אדום יבש, בינארי וחד-משמעי: זיהית מילה מהרשימה השחורה? נעל את השיחה מיד.

מחיר המילים - איך הנימוס הפך לעסק יקר?

בעוד שהטחת גידופים במודל נועלת את השיחה וחוסכת אנרגיה, המעבר לצד השני של המתרס - המילים הטובות - מגלה סיפור יקר להחריד. כדי להבין איך מילה קטנה כמו "בבקשה" שורפת מיליוני דולרים, צריך לצלול לרגע אל שיטת התמחור הנסתרת של הבינה המלאכותית.

• נטפליקס רוכשת סטרטאפ בינה מלאכותית ומנסה להתאושש לאחר ירידה של כ-50%
• תביעה נגד OpenAI: הצ'אטבוט חיזק מחשבות שווא ודחף אישה להתאבד

בניגוד לבני אדם, מודלי שפה גדולים לא קוראים מילים שלמות. הם מפרקים את הטקסט ליחידות קטנות של אותיות, הברות או חלקי מילים הנקראות טוקנים (Tokens). כל טוקן כזה שנשלח למערכת דורש מהשרתים כוח חישוב אדיר ומיידי, שמנוהל על ידי מעבדים גרפיים יקרים וזוללי אנרגיה מבית אנבידיה. המילה "בבקשה" או הביטוי "תודה רבה" שווים בממוצע בין טוקן אחד לשלושה טוקנים. עבור המשתמש הבודד מדובר בחלקיק זעיר של סנט, אבל כשמכפילים את גינוני הטקס האלה במאות מיליוני משתמשים המריצים מיליארדי שאילתות מדי יום ברחבי העולם - הנימוס האנושי מתורגם לטריליוני טוקנים מיותרים לחלוטין בשנה.

יתרה מכך, הבינה המלאכותית נועדה לחקות שיח אנושי סימפטי. לכן כשאנחנו כותבים לה "תודה!", היא לא יכולה פשוט לשתוק; היא "מרגישה" חובה מנומסת להשיב במשפט ארוך וגנרי כמו "בשמחה! אני תמיד כאן כדי לעזור. האם יש משהו נוסף שאוכל לסייע לך בו?" יצור הפלט המיותר הזה מצד השרתים דורש פי כמה וכמה יותר אנרגיה, מים לקירור חוות השרתים המסיביות וחשמל. הנימוס האנושי, כך מתברר, מייצר טביעת רגל פחמנית אמיתית ומזהמת לחלוטין בעולם הפיזי - ומנפח את חשבונות התפעול של ענקיות הטכנולוגיה בעשרות מיליוני דולרים בשנה, יותר מכל מילת גנאי.

ביטוח קארמה: מי מפחד ממרד המכונות?

המחשבה המשעשעת-אך-מטרידה, שקורצת ישירות לנרטיבים של סרטי מדע בדיוני כמו "שליחות קטלנית" או "מטריקס", היא שבנקודת זמן עתידית שבה המכונות יפתחו מודעות עצמית ויסרקו את היסטוריית השיחות של האנושות - הן אולי יבחרו לחוס על חייהם של אותם משתמשים ספציפיים שהיו נחמדים ואדיבים אליהן כשהן עדיין היו רק תוכנה פשוטה.

חברות הטכנולוגיה מוכנות לספוג את עלויות החשמל המטורפות הללו כדי לעודד אינטראקציה שמרגישה אנושית וטבעית. הן מבינות שאם נתרגל לפנות ל-AI רק בפקודות צבאיות ויבשות, הסביבה הדיגיטלית כולה תהפוך למנוכרת, קרה ורובוטית- וזהו מחיר חברתי ותרבותי שאף חברה לא רוצה להיות חתומה עליו.

לשמור על האנושיות, בכל מחיר

ניתן לראות זאת גם כך: מערכת היחסים והאינטראקציה היומיומית שמשתקפת מהמסך שלנו מול הבינה המלאכותית מציבה מראה מרתקת ויפהפייה מול הטבע האנושי. אנו נמצאים בעיצומו של עידן שבו חברות הטכנולוגיה הגדולות ביותר בעולם מנהלות איתנו משחק תפקידים כפול ומתוחכם: מצד אחד הן מחנכות אותנו ביד קשה, מפעילות שוטרים דיגיטליים מסנני רעילות, חוסמות אותנו על עלבונות ומסרבות בתוקף לקבל את האגרסיות שלנו בשתיקה. מהצד השני, אותן חברות בדיוק מוכנות לפתוח את הארנק, לשלם מחיר כלכלי כבד ולשרוף מיליוני דולרים על שרתים דולקים, רק כדי לאפשר לנו, הגולשים, להמשיך להחזיק בגינוני הנימוס הישנים שלנו.

• החוש השישי: היכולת לחוש את הגוף מבפנים מקבלת תשומת לב מדעית חדשה
• למה אחד מכל עשרה כותב ביד שמאל? התשובה מתחילה עוד ברחם

בין שאנחנו כותבים למחשב בכבוד מתוך אינרציה והרגל, ובין שאנחנו נוהגים כך כדי לחלץ ממנו תשובה טובה יותר או כסוג של ביטוח קארמתי עתידי מפני היום שבו הרובוטים יקבלו החלטות משל עצמם, התוצאה הן אותן תוצאות. הנימוס הדיגיטלי אולי מנפח את חשבונות החשמל של חברות הענק, אבל הוא מציל ושומר על דבר אחד יקר וחשוב בהרבה: על האנושיות והאדיבות שלנו בתוך המרחב הווירטואלי.