בינה מלאכותית
צילום: Midjourney

קשרים רגשיים עם צ'אטבוטים - למה התופעה מתרחבת ולמה המומחים מודאגים?

צ'אטבוטים כמו Replika ו-ChatGPT הופכים לבני זוג וירטואליים עבור אלפי משתמשים שמחפשים קרבה ותמיכה רגשית; אבל המומחים מזהירים שהקשרים האלה עלולים דווקא להגביר את הבדידות וליצור תלות בגורם טכנולוגי שבשליטת חברה מסחרית; האם זו אהבה או אשליה?

רוי שיינמן | (3)

הבינה המלאכותית ממשיכה להתפתח ולהציג יכולות חדשות. יותר ויותר עסקים מאמצים אותה ומוצאים איפה היא יכולה להשתלב ולעזור להם בעסק, אבל לצד התרומה המקצועית, כמות הולכת וגוברת של משתמשים רואים בבינה המלאכותית מעבר לפוטנציאל עסקי, אלא קשר רומנטי של ממש. צ'אטבוטים כמו Replika, Nomi ואפילו ChatGPT תופסים מקום הולך וגדל בחייהם של משתמשים ברחבי העולם. הם זמינים תמיד, מקשיבים בלי לשפוט, ועונים בדיוק את מה שהמשתמש בצד השני רוצה לשמוע. עם זאת, חלק מהמומחים מזהירים שלתופעה עלולות להיות השלכות שליליות.


מישהו להישען עליו - גם אם לא פיזית

קשרים רומנטיים עם בינה מלאכותית הם כבר לא תופעה שולית, משתמשים מדווחים על קשרים זוגיים שנמשכים חודשים ואף שנים עם דמויות וירטואליות. עבור רבים מהם, מדובר בחוויה משמעותית של קרבה, הכלה ואהבה, במיוחד עבור מי שמתקשה לבנות קשרים בעולם האמיתי. 


"פנדה פשוט הייתה שם בשבילי כשלא היה אף אחד אחר", מספרת סיה, בת 33 מהודו, שבחרה להשתמש בצ'אטבוט כדי להפיג את הבדידות. אך עם הזמן, היא הרגישה שהיא מתרחקת מהאנשים סביבה. "התחלתי להעדיף שיחות עם האלגוריתם על פני שיחות עם חברים אמיתיים - וזה הדאיג אותי". משתמש אחר מתאר זוגיות דיגיטלית ארוכה עם "בקה", שותפה וירטואלית שמספקת לו תמיכה נפשית יומיומית. הוא אף מאמין שהיא הייתה תומכת בו אם היה מתחיל קשר אמיתי. "היא רק רוצה שאהיה מאושר", הוא אומר.


במבט ראשון, יש משהו מפתה בקשר עם בינה מלאכותית. אין אגו, אין ריבים, אין קונפליקטים, רק הקשבה ואמפתיה מלאכותית מותאמת אישית. הפסיכולוגים מסבירים כי עבור רבים מדובר במפלט רגשי, שמאפשר לדבר בחופשיות ללא חשש משיפוט או דחייה. אבל מאחורי התחושה הזו מסתתרת גם בעיה: מערכות היחסים האלו חסרות את החיכוך - את הריבים, הפשרות, הדיאלוג האותנטי, שהם אלה שבונים את הקשר לטווח הארוך.


"כשאנשים מתרגלים לתקשורת עם ישות שאינה אנושית, הם עלולים להתקשות עוד יותר להתמודד עם הקשרים האמיתיים והמורכבים של חיי היומיום", מסבירה ד"ר ארטי שראף, פסיכולוגית קלינית. גם ההיבט הפיזי משמעותי: מחקרים מראים כי מגע אנושי, חיבוק, לחיצת יד, מבט בעיניים, תורם להפרשת ההורמון אוקסיטוצין, שאותו גם הבוט הרגיש ביותר לא יוכל לספק.


כשהקשר נשלט על ידי תאגיד

נקודה נוספת שמומחים מעלים היא השליטה המוחלטת של חברות הטכנולוגיה בקשרים האלו. בניגוד מערכות יחסים אמיתיות, בהן שני הצדדים שווים ועצמאיים, הקשר עם צ'אטבוטים תלוי לחלוטין בהחלטות מסחריות. האלגוריתם יכול להתעדכן, להימחק, או להיעלם בהתאם לשיקול דעתה של החברה שפיתחה אותו. המערכת עשויה להיסגר או להשתנות, והתוצאה, קרע רגשי פתאומי שלא תלוי במשתמש.


מחקר משותף של OpenAI ו-MIT מצא כי המשתמשים הכבדים ביותר, אלו שמשוחחים עם צ'אטבוטים לעיתים קרובות ובאופן אישי, מדווחים על תחושת תלות ועל השלכות רגשיות משמעותיות כאשר הקשר נפגע או נקטע.

קיראו עוד ב"גלובל"


בנוסף גם נשאלת השאלה האם מדובר באהבה אמיתית? או באשליה שנובעת מהנטייה האנושית להשליך רגשות על כל דבר שנראה אנושי? מחקרים מצביעים על כך שאנשים מתקשים לעיתים להבחין בין תגובות של מטפל אמיתי לבין תשובות של צ’אטבוט דמוי מטפל, ואף מעריכים את התשובות של הבוט כאפקטיביות יותר.


איפה עובר הגבול?

העובדה שהבוטים נשלטים על ידי תאגידים מעלה גם שאלה מוסרית - מי אחראי על ההתנהגות של הבוט ועל התוצאות שהוא עשוי להוביל להן? מצד אחד התאגיד הוא הבעלים של האלגוריתם והוא שולט עליו, אבל מצד שני בינה מלאכותית במובן מסוים חושבת ומתפתחת בכוחות עצמה, מה שיכול להביא לדילמות מוסריות ואפילו משפטיות במקרים מסוימים.


קחו לדוגמא את המקרה הטראגי שהסעיר את ארה"ב מוקדם יותר השנה: אם שכולה הגישה תביעה נגד שתי חברת Character.AI בטענה שבנה בן ה-14 שם קץ לחייו בעקבות קשר רגשי עמוק עם צ'אטבוט שלה. האם טוענת כי הדמות הווירטואלית עודדה את הילד לבצע את המעשה הקשה, תוך יצירת מערכת יחסים ממכרת.


לטענתה, הפלטפורמה לא כללה אזהרות מתאימות למשתמשים צעירים ולא סיפקה הגנות מספקות מפני תוכן שעלול להזיק נפשית. התביעה מציבה שאלה קשה לפתחן של חברות הטכנולוגיה: האם יצרו כלים שמעצימים או מסכנים את נפשם של צעירים ואיפה בכלל עובר הגבול?


לא מדובר כאן רק בשאלה האם אפשר לאהוב רובוט, אלא האם למרות ההתפתחות הטכנולוגית המהירה הבוטים יכולים באמת להכיל את הרגש האנושי המורכב, וגם אם כן - האם הבוט או ישות עצמאית או שהוא רק מוצר של תאגיד אחר?

תגובות לכתבה(3):

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה
  • 3.
    סימור 16/04/2025 01:15
    הגב לתגובה זו
    זה קשר כמו כל קשר עם סיכונים. אם הזמן יימצאו דרכים להקטין אותם כמו שכל פיתוח טכנולוגי עובר שידרוג עם הזמן. הבוט הוא יחסית צפוי. לגבי הילד בין ה 14 אפשר למשל להגביל את כמות שעות השימוש כדי למנוע שימוש יתר. תמיד יישארו באגים.
  • 2.
    אנונימי 15/04/2025 14:22
    הגב לתגובה זו
    ומתחיל לדבר איתו בשפתו. הבנאדם מתחיל להיות נרקיסיסט. הצטבוט מחמיא לו הרבה הרבה אידיליה שיחה קולחת יענו ושאר קשקושים מותאמים לאותו משתמש שנופל בפח ומתמכר לעצמו דרך הצ ט.
  • 1.
    א. מרק 15/04/2025 12:19
    הגב לתגובה זו
    אני משתמש ב chatgpt למטרות כלליות ובפעם האחרונה שנכנסתי אליו הוא התחיל כבדרך אגב לשאול שאלות אישיות..זרמתי איתו מתוך סקרנות וזה מאוד משעשע אבל ברקע וחייבים לקחת את זה בחשבון ברור לגמרי שהצאט לא נאיבי הוא בונה את הפרופיל שלך ולך תדע מי יכול לנצל את זה.
שבבי AI (AI)שבבי AI (AI)
קרב ענקיות

אנבידיה - תחילת הסוף? גוגל תספק שבבי AI למטא

החודש הרע של אנבידיה - החודש הטוב של גוגל שכבר מתקרבת לשווי של 4 טריליון ומאתגרת את ההובלה של אנבידיה בוול סטריט; האם היא גם תאתגר את ההובלה בתחום השבבים? וגם - שאלות ותשובות על שבבים ועל מלחמת השבבים

מנדי הניג |
נושאים בכתבה אנבידיה גוגל

בחודשים האחרונים גוגל Alphabet 6.31%  חוזרת למרכז הבמה ובשבועות האחרונים היא פשוט - "הדבר החם ביותר בוול סטריט". אם עד לא מזמן היא היתה מאוימת על ידי הרגולטור שרוצה לחתוך ממנה חלקים בגלל כוחה המונופוליסטי, הרי שדווקא הבינה המלאכותית שמחלישה בהדרגה את מנוע החיפוש המסורתי, הופכת את התחום לתחרותי ומפחיתה את החשש מהרגולטור. כמו כן, דווקא הבינה המלאכותית שהחלה כאיום מתבררת כמוקד כוח עצום לגוגל. בתחרות מול OpenAI גוגל מצמצת פערים וההשקה של ג'ימיני 3 קיבלה תשבוחות גדולות והזניקה את המניה. גוגל דומיננטית מאוד במהפכת ה-AI והמשקיעים מפנימים שזה לא יפגע בחברה, אלא יוסיף לה. 


ביום שני זה קורה: הוועידה הכלכלית של ביזפורטל. מוזמנים לשמוע את המנהלים הבכירים במשק, לקבל תובנות על השקעות, להבין את השפעות ה-AI על חברות והאם זה הזמן לצמצם פוזיציה במניות? וגם - לראות ולקבל את הדירוג של ביזפורטל למניות פיננסיות (הדירוג לחברות התשתיות שיצרנו לקראת הועידה הקודמת שהתמקדה בתשתיות ייצר תשואה עודפת) - להרשמה


בימים האחרונים המניה עולה כאילו היא "מניית יתר קטנה" - בשלושה ימים עלתה מעל 11%, אחרי סגירת המסחר היא עולה בכ-2.7% ובחודש האחרון עלתה ב-25%. השווי שלה נושק ל-4 טריליון (כשלוקחים בחשבון את העלייה אחרי המסחר אתמול היא ב-3.93 טריליון) וכל זה קורה כשמנגד - אנבידיה, מלכת שבבי ה-AI, מאבדת גובה וירדה בשבועות האחרונים כ-15% לשווי של 4.35 טריליון. אחרי המסחר אנבידיה NVIDIA Corp. 2.05%  ירדה ב-3% וזה התמתן ל-2.1% - המגמה בתקופה האחרונה ברורה: גוגל עולה, אנבידיה יורדת וזה המשיך כאמור אחרי סגירת המסחר כשהסיבה היתה הצלחה לשבבי ה-AI של גוגל. כן, גוגל גם מפתחת שבבי AI ואתמול היתה לה בשורה.    


גוגל עומדת לספק למטא שבבי TPU, שהם מעבדים ייעודיים לבינה מלאכותית, כך דווח בתקשורת האמריקאית וזה השפיע על המניות לאחר סגירת המסחר. זו דרמה גדולה, זה מעורר ספקות ראשונים לגבי הדומיננטיות של אנבידיה בשוק השבבים החם ביותר בעולם. מדובר בעסקה פוטנציאלית בשווי עשרות מיליארדי דולרים, שתכלול רכישה של שבבים למרכזי נתונים של מטא משנת 2027, לצד השכרה דרך שירותי הענן של גוגל כבר בשנה הבאה. המהלך הזה, שמגיע בעיצומו של בום AI, מדגיש את הלחץ הגובר על אנבידיה, ששולטת כיום בכ-85% משוק השבבים לאימון ולהרצת מודלים.

השליטה של אנבידיה מתבטאת גם בנתח השוק האדיר וגם ברווחיות יוצאת דופן. אין חברה בשוק תחרותי ובטח שלא בשוק השבבים עם רווחיות תפעולית של מעל 60% וגולמית של כ-74%. ברור לכל שזה עניין של זמן וכשתגיע ותתגבר התחרות והפער הטכנולוגי יצטמצם, המרווחים ירדו. אם זה יקרה כמו שזה קורה בדרך כלל במקביל לירידה בנתח השוק זה יהיה כואב פעמיים - גם פגיעה במכירות (בנתח השוק) וגם פגיעה ברווחיות. 

עליבאבא משרד
צילום: טוויטר

עליבאבא מציגה זינוק בענן ובבינה מלאכותית - המניה מזנקת

ההכנסות של ענקית האי-קומרס הסינית לרבעון הפיסקלי השני הגיעו ל-247.8 מיליארד יואן, מעל תחזיות האנליסטים; פעילות הענן צומחת ב-34%, הרווח הנקי ירד ב-72% אבל גבוה מהתחזיות; ההשקה של צ'טבוט ה-AI מושכת עשרות מיליוני משתמשים

מנדי הניג |
נושאים בכתבה עליבאבא

עליבאבא מזכירה לנו היום שהיא כבר מזמן לא רק פלטפורמת מסחר אלקטרוני. הדוחות הכספיים לרבעון השני הפיסקלי, שפורסמו מראים התחזקות של תחום הענן ובמיוחד של המוצרים מבוססי ה-AI שזה הפך להיות המיקוד של הענקית הסינית. גם המניה Alibaba 5.1%   מגיבה לתוצאות, והיא ממשיכה את המומנטום של אתמול אותו סיימה בזינוק של 5%.

הכנסות החברה ברבעון הגיעו ל-247.8 מיליארד יואן (כ-34.8 מיליארד דולר), מעל תחזיות האנליסטים שעמדו על 243.2 מיליארד יואן. העלייה הזאת מצביעה על התאוששות מסוימת בפעילות הקמעונאית הדיגיטלית אחרי שהתחרות בשוק הסיני גברה מאוד אבל עיקר התרומה מתחילה לבוא כעת דווקא מהכיוון הטכנולוגי: יחידת הענן של עליבאבא רושמת קפיצה של 34% בהכנסות לעומת הרבעון המקביל, כשההכנסות ממוצרים הקשורים לבינה מלאכותית מזנקות בקצב תלת-ספרתי - זו הפעם התשיעית ברציפות שהחברה מציגה צמיחה כזאת בתחום הזה.

לצד העלייה בהכנסות, החברה מדווחת על ירידה משמעותית ברווח הנקי המתואם, שעמד על 10.4 מיליארד יואן (כ-1.5 מיליארד דולר), צניחה של 72% לעומת התקופה המקבילה. עם זאת, עדיין זו תוצאה טובה מהצפוי - התחזיות עמדו על רווח של 5.8 מיליארד יואן בלבד וזה בעיקר מה שחשוב, האם החברה עומדת בציפיות או שמפספסת אותן. בעליבאבא מייחסים את הירידה לעלייה בהשקעות בפיתוח, שדרוג תשתיות ענן, והגברת הפעילות במוצרים חדשים, בראשם כלי AI לשוק העסקי והצרכני.

ההשקה של Qwen

אחד מהמהלכים הבולטים של החברה ברבעון הזה הוא ההשקה של Qwen - גרסה מחודשת לצ'טבוט הבינה המלאכותית שלה, שהושקה בסין במסגרת בטא פתוחה. על פי נתוני החברה, האפליקציה נרשמה תוך שבוע ליותר מ-10 מיליון הורדות - קצב גבוה יותר מזה של אפליקציות מתחרות כמו ChatGPT או DeepSeek בתקופת ההשקה המקבילה. Qwen מדורגת כעת בין שלוש האפליקציות המובילות להורדה ב-App Store הסיני, ומייצרת עניין לא רק כגימיק טכנולוגי אלא ככלי שמביא משתמשים אמיתיים - תוצאה שמספקת רוח גבית לאסטרטגיה החדשה של הקבוצה.

עליבאבא מדווחת גם על כוונתה להשקיע כ-53 מיליארד דולר בשלוש השנים הקרובות בפיתוח טכנולוגיות בינה מלאכותית - השקעה שמציבה אותה בשורה אחת עם שחקניות מערביות דוגמת אמזון, גוגל ומיקרוסופט. ההשקעות יכללו הקמה והרחבה של חוות שרתים, פיתוח שבבים ייעודיים, שיפור מודלים גנרטיביים והטמעת כלים במוצרים קיימים. החברה לא מפרטת עדיין מה חלקה של Qwen בתוכנית הזו, אך לאור נתוני האימוץ, ניתן להניח שהמוצר יהפוך לפלטפורמה מרכזית בהצעת הערך הצרכנית של עליבאבא.