סערת הרוגלות הגיעה לכנסת; ח"כ רוטמן: "חייבים להקים ועדת חקירה"
סערה פרצה היום בדיון שנערך בוועדת חוקה בפרשת NSO לאחר שיו"ר הוועדה לא הצליח להעביר החלטה להקמת ועדת חקירה. הדיון נערך בעקבות משיכת הראיות בידי הפרקליטות בתיק רצח כפול, לאחר שימוש לא חוקי ברוגלות. ח"כ רוטמן טען כי "הנחת העבודה הייתה שהיה כשל משמעותי ביותר ברכש ובהפעלה של תכנת הפגסוס, הרוגלות, היה כשל בשימוש, בידיעה של גורמים שונים אולי במשטרה, הפרקליטות, בבימ"ש או גם וגם".
רוטמן הוסיף כי "היו גורמים שידעו על היכולות אך זה לא טיפס למעלה. היו שידעו על היכולות אך גידרו את המידע בחטיבת הסייבר והנחת העבודה הייתה שהגידור הנוהלי לא היה מספק אך לא נעשה שימוש במידע העודף כלל. כלומר, לקחנו מידע שאסור היה לנו לקחת אך שמנו אותו בכספת". יו"ר הוועדה הוסיף כי "מה שנחשף בשבוע שעבר הוא שאכן נעשה שימוש ולכן יש להעביר החלטה להקמת ועדת חקירה על הנושא.
חיים בסרט
ח"כ יואב סגלוביץ' שהיה בממשלה הקודמת הפרויקטור לפשיעה במגזר הערבי טען "אתם חיים בסרט שהוא סרט פוליטי, הוא לא סרט מקצועי, לא סרט של לעשות טוב. זה לא נכון להקים ועדה, יש מבקר מדינה שצריך להוציא דוח בנושא וצריך לחכות לו".
רוטמן טען: "לאחר הדיון הקודם ביקשתי מיד לכנס ישיבה חסויה לדיון של היום והזמנתי אליה את המפכ"ל והיועמ"שית, כדי להבין איפה דברים תקועים ואיך משיבים את המשטרה לכשירות מבצעית. זה חונה אצלם. אני משאיר לך להבין ממקורותיך למה הדיון לא מתקיים".
- NSO מערערת על 168 מיליון דולר של פיצויים "לא חוקיים"
- לא רק פוליטי: בכירים בתעשיה מהווים גם הם מטרה לתוכנת פגסוס
- המלצת המערכת: כל הכותרות 24/7
ח"כ משה סעדה הציע להוסיף להצעת ההחלטה כי "הוועדה תחקור את התנהלות היועמ"ש מנדלבליט בכל הנוגע למניעת חקירת מח"ש ואת החלטתו לשבש את החקירה באמצעות מינוי המשנה הכפופה לו, לחקור את כשליו".
סעדה טען כי "האירוע הדרמטי הוא איבוד האמון במערכת. אדם כמו יואב תלם אומר שאין שימוש ברוגלה ומתברר שיש. הקפדתי לשאול כל דיון האם הועברו חומרים כי ידעתי מתוך המערכת שהועברו וגם בזה שיקרתם. הגיע הזמן שתבקשו אתם להקים ועדת חקירה ממשלתית שהציבור יידע את האמת. זה אינטרס שלכם, אבל גם אתם בספק אם לא נעשה דבר".
קיראו עוד ב"BizTech"
עושים בדיקות בכל המחוזות
ראש מחלקת הסייבר בפרקליטות, עו"ד חיים וסימונסקי אמר בדיון לגבי השימוש הלא חוקי ברוגלות בתיק בו ביקשה הפרקליטות למשוך את הראיות. "מדובר באירוע שהובא לידיעתי בפגישה שקיימתי יום יומיים אחרי הדיון בוועדה. בדיון קודם בוועדה, ציינתי שאנחנו עושים בדיקות בכל מחוז לגבי התיקים ואמרתי שהבדיקות נמשכות ושאם נגלה שנעשה שימוש במידע העודף, ננקוט צעדים ולא נחכה לסנגוריה או לבית המשפט".
ראש הסייבר בפרקליטות הוסיף כי "יום למחרת באו עם 3 תיקים, כשבתיק השלישי, על יסוד מה שאמרה המשטרה ועל יסוד בדיקות סופר מעמיקות ברגע שהתעורר הספק אצלי מול החברה שמספקת את המוצר, הבנו שזה המקרה הראשון שבו הייתה חריגה לא רק בשלב האיסוף אלא גם בשלב ההפקה ובשלב השימוש".
לטענתו "עד היום תמיד היו חריגות בשלב האיסוף, מסיביות פחות או יותר, זה מעוגן בדוח מררי והיה מונח לפניכם בכל הדיונים. מה שראינו לראשונה הוא חריגה בשלב ההפקה ויותר חריג, מבחינת ההליך המשפטי- בשלב השימוש. בניגוד לאמירות ששמעתי, כל הבדיקה מקצה לקצה היא יוזמה של הפרקליטות".
ח"כ טלי גוטליב ציינה כי "הדיונים מיותרים כי כל פעם מתקבל מידע אחר. אם קניתם תוכנה וביקשתם לנוון אותה זה אומר שידעתם מה יכולותיה. ההחלטה שלנו לא מחייבת את הממשלה אך חובה לקבל הסברים על השימוש החורג במידע".
ח"כ ארז מלול שאל את נציגי משרד המשפטים "האם בדקו אם יש אנשים שהורשעו שלא כדין? האם כל התיקים נבדקו? עליכם לדרוש ועדת בדיקה חיצונית. למשטרה, תתייחסו לכך שיש אנשים שלא אמרו אמת. מאוגוסט היה זמן להביא חוק או להסדיר את הנושא ואתם ממשיכים כאילו לא קרה כלום".
וסימונסקי סיכם "זו חשיפה שלנו, וכתוצאה, בחרנו לנקוט בסנקציה המחמירה ביותר בניהול התיק - דבר ראשון לחשוף את הסיפור להגנה. שקלנו את השאלה מה יעלה בגורל התיק והגענו למסקנה שיש בסיס מספיק לתיק ולכן הוא ממשיך להתנהל, אבל משכנו את כל הראיות כולל הנגזרות בריבוע כדי שלא תיטען הטענה שלא נעשה הליך הוגן לנאשמים.
"גילינו לראשונה, שנה וחצי מפרוץ הפרשה את השימוש, ולכן פרקליט המדינה החליט בתיאום עם מ"מ ראש אח"מ, להרחיב את בדיקת הפרקליטות בנוגע לתיקים שהגיעו לתביעה ונעשה בהם שימוש בתקשורת מחשבים". וסימונסקי טען כי "הוחלט לצאת לבדיקת כל התיקים שהגיעו לתביעה. היקף התיקים והאופן ייסגרו בקרוב מאוד וככל שהוועדה תהיה מעוניינת נעדכן מה הוחלט לעשות לעומק מבחינת הבדיקה וככל שזה יהיה ברזולוציות יותר פרטניות נעשה זאת בצורה חסויה".
"לא נבדקו כל המקרים"
עו"ד גבי פיסמן, ראש אשכול סמכויות שלטוניות, במשרד המשפטים טען כי אין סיבה למהומה. "בניגוד מוחלט למה שפורסם ולטענות ח"כ סעדה, אין שום פער בין המידע שנמסר בדיון ועדת החוקה להודעה שנמסרה לבית המשפט בתיק הספציפי. כבר בדוח מררי כתבנו שמשך שנים נעשה שימוש במערכת זו להאזנת סתר לתקשורת בין מחשבים, שנמצא שאין התאמה בין יכולות המערכת לסמכויות המשטרה ושבבדיקה מדגמית לא מצאנו מקרה ספציפי בו נעשה שימוש במידע העודף.
"מבחינת מנדט הוועדה, היינו מחויבים ככל שעולה חשד לעבירה פלילית, להעביר את המידע לגוף חקירה רלבנטי וחשד כזה לא עלה עד כה. כל הטענות בדבר דיווחים כוזבים לוועדת חוקה חסרות בסיס וחסרות אחריות".
פיסמן טען כי "ערכנו שלושה סוגים של בדיקות: בדיקה פרטנית ביחס לקיום צו שיפוטי ביחס לכלל המקרים בהם היתה הדבקה או נסיון הדבקה במערכת. כמו כן נערכה בדיקה מערכתית על ההחלטות שהתקבלו משלב הרכש הראשוני ועד הודעת היועץ המשפטי לממשלה על הפסקת השימוש. ובנוסף נעשתה בדיקה מדגמית לגבי השימוש במידע של 25 מקרים מבין התיקים בהם הייתה אינדיקציה לקבלת מידע עודף.
פיסמן סיכם כי "לא הייתה אפשרות לבדוק בכל אחד מהמקרים בהם הייתה הדבקה אם היה שימוש בחומרים במסגרת המנדט של הצוות, אבל חשבנו שהכרחי לבדוק אם יש ראשית ראיה לשימוש בחומרים אסורים. הפרקליטות קיימה בדיקה מקבילה. לא התיימרנו להגיע לממצאים בכלל התיקים וכעת עם הרחבת הבדיקה נוכל לוודא שלא תיפגענה זכויות חשודים".
לא לחשוף את המערכת
סנ"צ גלעד בהט, ראש מדור יועמ"ש באח"מ/ טכנולוגיות במשטרה אמר "אין לנו כל בעיה להסביר לוועדה את התהליך שקרה בצורה חסויה כדי לא לחשוף את המערכת, גם אם אין בה כרגע שימוש. לכן הצענו וביקשנו שהדיון יהיה חסוי. בסופו של דבר, בתיק הזה של עבירת רצח כפול הופעל בו כלי בצו האזנת סתר של בימ"ש, הופקו ממנו נתונים שאנחנו מצויים בדיון לגביהם.
"מבלי להיכנס לפירוט שלהם – יש פה גם שימוש בנתונים המועברים במסגרת תקשורת בין מחשבים בהאזנת סתר. מי שמחליט על הפרשנות המשפטית הוא משרד המשפטים. יש לזכור שאנחנו לא מסתכלים על האירוע בפרספקטיבה של החריגות שאנחנו יודעים היום, אלא של מה ידענו או מה ידעו האנשים בחטיבה הזו כשהפעילו את הכלים וכשבוחנים מה הם ידעו אז ומה הבינו אז, זה לא כפי שזה נשמע או מוצג בתקשורת.
בהט הוסיף "יש פה כלי מבצעי שהופעל למטרות סיכול פשיעה כולל התאמות משפטיות שנדרשו האם נעשו טעויות בהתאמות? כן. האם לאורן השוטרים לקחו החלטות שהם טעות? התשובה כנראה שכן, אבל היום מסתכלים על זה בצורה שונה. משיש קביעה של צוות מררי שמעוגנת בדוח, שאומרת שיש פה נתונים בחריגה גם השימוש בהם הוא בחריגה, אבל אם לוקחים את הנתון שלא הייתה אז ידיעה שהנתון נמצא בחריגה, גם השימוש לא נעשה מתוך מחשבה של חריגה".
רוטמן תקף ואמר כי "ההחלטה לקיים דיון גלוי כשנמסרה לנו בצורה גלויה בנוכחותך אבחנה ברורה וחד משמעית בשלושה שלבים - נלקח מידע, עיינו בו ונעשה בו שימוש, ונאמר בנוכחותך בדיון גלוי שהכרתם בתקלה של שלב 1 ו 2-3 לא היה. עכשיו נחשף אחד ששלבים 2-3 לעיין במידע שהושג שלא כדין וכן להשתמש בו, למרות האמירה בפורום גלוי שהם לא קרו מתברר שקרו.
"הוועדה הוטעתה ואולי גם צוות מררי, אם אתה חושב שזה יהיה דיון חסוי יש לי בעיה קשה עם עמדתך ביחס לשקיפות הציבורית. זו חוסר אחריות. האם אתם מכירים בכך שחרגתם במקרה המתואר מהנהלים שהצגתם בוועדה או לא".
סנ"צ בהט טען "אם בשעת האירוע עצמו המשטרה ראתה בזה מידע מותר למעשה היא לא חשבה שהיא חרגה. אם המידע היום אסור אז כן, חרגנו".
רוטמן תקף "הוצג בוועדה שהמשטרה ידעה שהמידע שהיא מקבלת איננו עונה לגדר האזנת סתר ושיש נוהל שלא מעיינים בו. הנהל אומר שכל מאזין ביחידת הסייבר במשטרה אמור להפעיל שיקול משפטי האם החומר מותר או אסור?"
סנ"צ בהט ענה כי "הנוהל מתייחס למידע שמושג בהאזנת סתר ואותו אפשר להעביר אם הושג לפי הצו. משנקבע שמידע מסוים הושג בחריגה מחוק האזנת הסתר כפי שקובע דוח מררי, אסור להעבירו. אני מסתכל מה המפעיל של המערכת יודע בזמן אמת. הנוהל לא מחלק את זה למידע כזה ואחר. יש בו הגבלות מסוימות. בנקודת הזמו הזו, אנחנו לא חולקים על כך שמשנקבע שמידע שהושג בחריגה אסור להעביר אותו".
מנסים לחקור
תנ"צ אלי גזית ראש חטיבת הסייבר במשטרה אמר "אנחנו מנסים לתחקר את הדברים לעומק חלק דרך שיחות עם אנשים, ללמוד את הדברים במשקפיים של אותה עת. קשה להסתכל על הדברים בחוכמה של בדיעבד. המטרה היא ללמוד ולהשתפר. אני לא מתרשם מכל הישיבות עם האנשים שעסקו בזה שנים לאחור, שהייתה איזו חריגה, בטח לא בכוונה מהנהלים והתהליכים. כל האירועים והשימושים היו תמיד תחת צו, והפרשה, כיוון שלא יכולים לפרט אותה אלא בחדר חסוי, היא לא כמו שמדמיינים את זה או מפרסמים בכלי התקשורת. המטרה היא לעסוק גם בעתיד ולא רק בהיסטוריה. היום יש את מבקר המדינה, אנחנו אחרי צוות מררי, והשמיכה קצרה. זה משית את הקשב למקומות אחרים של ההיסטוריה. עלינו לראות איך מצליחים לגדר את הדברים כמה שיותר טכנולוגית".
רוטמן טען כי "הדיון רק חידד, כולל הדברים שנאמרו ע"י המשטרה ומשרד המשפטים, את הצורך בוועדה בדיקה עצמאית עם סמכויות חקירה. בשנה וחצי מהחשיפה ב'כלכליסט' עברנו ממצב בו השוטר מספר אחת שכבר אינו במשטרה אומר שאין פגסוס במשטרה, הכחשה גורפת, שקר מוחלט, אח"כ נאמר שכל המקרים היו בתוך צו, אח"כ שיש נוהל שלא להפיק את המידע.
"עכשיו שומעים שלא מפיקים אבל כן צופים ושלא נעשה שימוש ועכשיו מתגלה שנעשה שימוש, ובכל זאת אומרים לשופטים בבית המשפט תסמכו עלינו, "חזקת התקינות המנהלית" ומתעקש הסנגור ומגלים שהחומר לא הושג כדין. במבחן התוצאה ללא קשר לשאלת המניע, המסלול בו המדינה וגופי האכיפה הלכו עד היום לא הניב תוצאות רצויות, אפילו לא במובן שאין עכשיו אדם שיכול לחתום שבתיקים המתנהלים כרגע בבתי המשפט בכל מיני עבירות לא נעשה שימוש אסור.
רוטמן הוסיף כי "נקבע כבר דיון חסוי ב-4.7 כי רק אז היועמ"שית תוכל לבוא, אליו זומן גם המפכ"ל, אבל בכל האירוע המשטרה לא יודעת להגיד לי במה היא עיינה, ממה הפיקה ידיעה שלא הייתה אמורה, איזה צווים הגישו על בסיס "פרי העץ המורעל" (שעוד אין לנו), ואנחנו עומדים שנה וחצי אחרי האירוע עם הרבה מאוד זמן שהושקע בבדיקה וחקירה בסיוע יחידות מיוחדות, והאם מישהו במדינה יכול לומר שאין אדם חף מפשע שיושב בכלא על בסיס מידע שלא הושג כדין ע"י המערכת הזו, שאין תיק המתנהל בישראל על בסיס מידע שלא הושג כדין וחלק שלישי- שמי שאחראי לכשלים הללו טופל- משמעתית, או פלילית, או במובן שאם חתם על הזמנת רכש שלא היה אמור- שהוחלט שלא יחתום יותר. אני לא מרגיש שאני יכול לומר את האמירות הללו לציבור. אין חפים מפשע שיושבים אין תיקים מתנהלים על בסיס המידע הזה ומי שהיה אחראי לכשלים טופל במישור המתאים.
"בלי שום קשר לשאלה מה חשב לעצמו מנדלבליט והאם טעה בשיקול דעת, האזרחים היום לא יכולים להיות בשקט נפשי בהקשר הזה אפילו בשאלות הבסיסיות הללו ולכן ועדת חקירה עם סמכויות חקירה חייבת לקום. חשבתי שהצבעה בוועדה תראה שאין בעניין קואליציה או אופוזיציה וזה יתוקן. הוועדה חייבת לקום ולבדוק את הטעון בדיקה. אנחנו צריכים להיות רגועים באופן בו אתם עושים שימוש בכלים הללו והיום אנחנו לא שם וזו תקלה חמורה מאוד".
- 2.גיגסי 12/06/2023 21:10הגב לתגובה זוועדת מררי היא למעשה וידת טייחי שהוקמה כדי למסמס ולהסתיר את האמת אותה רובם יודעים: המשטרה עושה שימוש ברוגלות אסורות כמעט בכל תיק צווארון לבן ו/או תיק עם פרופיל תקשורתי גבוה ו/או תיק פשע חמור ו/או תיקים שבא להם. פשוט יושבים ומאזינים ומדביקים טלפונים חופשי. הולכים לבתי המשפט משקרים את השופטים שחלקם עוצם עיניים וחותמים להם בלנקו על צווים. וועדת חקירה ממלכתית מייד שתחקור ותוציא מכתבים להעמדה לדין כנגד כל הפושעים שעשו שימוש ברוגלות באופן בלתי חוקי, למי שסייע בידם, למי שעצם עיניים, למי שחתם על צווים בלי לשאול שאלות וחו'.
- 1.ג'ק 12/06/2023 19:08הגב לתגובה זוהנושא - הרס המדינה ב 5 חודשים . איך קורה אסון כזה נורא .
- ניחוש, מטורפים שהחליטו או שהם בשלטון או שאין מדינה (ל"ת)חיים 12/06/2023 20:16הגב לתגובה זו

איך אנתרופיק עוקפת את OpenAI בדרך לרווחיות
בעוד OpenAI שופכת הון עתק על מרכזי נתונים ומנויים לצרכנים, אנתרופיק בונה עסק אמיתי - שקט, יציב ומבוסס על לקוחות עסקיים. והמספרים מתחילים לדבר בעד עצמם
OpenAI הפכה לשם נרדף לבינה מלאכותית. היא גייסה מיליארדים, בנתה חוות שרתים עצומות ומניעה את מירוץ הצ’אטבוטים הגלובלי. אבל מאחורי הקלעים, החברה מתמודדת עם בעיה בסיסית: עדיין לא ברור איך להפוך את ההצלחה האדירה הזו למודל עסקי יציב. בזמן ש־OpenAI מחפשת הכנסות, יריבתה הקטנה אנתרופיק בונה בשקט עסק אמיתי.
שתי החברות עוסקות באותו תחום: פיתוח מודלי שפה מתקדמים שמניעים בוטים, כלי עזר לעובדים, יישומי תכנות ותהליכי אוטומציה. אבל ההבדל ביניהן הוא לא טכנולוגי, אלא אסטרטגי: OpenAI פונה להמונים, אנתרופיק מדברת ישירות עם העסקים.
OpenAI נשענת על השותפות עם מיקרוסופט, שמשלבת את המודלים שלה במוצרי אופיס וב־Copilot. מעבר לכך, היא פונה לקהל הרחב: משתמשי ChatGPT שמשלמים 20 דולר בחודש בגרסה הבסיסית, או 200 דולר בתוכנית הפרו. למרות שמספר המשתמשים עצום עם יותר מ־800 מיליון מדי שבוע לפי החברה, ההכנסות רחוקות מלכסות את העלויות הכבדות של מחשוב, אחסון ופיתוח. אנתרופיק, לעומתה, נמנעת מהמירוץ אחר משתמשים חינמיים. כ־80% מהכנסותיה מגיעות מחברות - ארגונים שמיישמים את המודלים שלה לצורכי עבודה ממשיים. לפי נתוני החברה, כבר יש לה יותר מ־300 אלף לקוחות עסקיים, רובם בתחומי טכנולוגיה, משפטים ופיננסים.
חיסכון מוחשי בזמן ובכסף
הלקוחות של אנתרופיק לא מתעניינים בחוויית שיחה, אלא בחיסכון מוחשי בזמן ובכסף. הם משתמשים במודלים של החברה לכתיבת קוד, ניסוח חוזים, הפקת חשבוניות ובדיקות מסמכים. המיקוד הזה הופך את אנתרופיק לעסק ברור יותר מהמתחרה שלה. בעוד OpenAI מנסה לגבש מודל רווח מהציבור הרחב, אנתרופיק כבר רווחית כמעט על בסיס שימושים עסקיים בלבד. לפי הערכות שוק, היא פועלת בקצב הכנסות שנתי של כ־7 מיליארד דולר וצפויה להגיע לתשעה מיליארד עד סוף השנה, כמעט זהה להכנסות OpenAI, עם בסיס משתמשים קטן פי כמה.
- עסקת ענק בין גוגל ואנת'רופיק
- אנת'רופיק חוזה הכנסה שנתית של 9 מיליארד דולר ל-2025
- המלצת המערכת: כל הכותרות 24/7
דו"ח של קרן ההון סיכון מנלו ונצ’רס מצביע על יתרון משמעותי נוסף: לפי סקר שערכה בקרב חברות טכנולוגיה, אנתרופיק מובילה את תחום הקידוד עם נתח שוק של 42%, לעומת 21% בלבד ל־OpenAI. גם בשימושי בינה מלאכותית כלליים בחברות, אנתרופיק ניצבת בראש עם 32% לעומת 25% ליריבה שלה.

צ'אטבוטים מתחנפים: האם זה מה שבאמת אנחנו צריכים? על הנזקים בשיח מתחנף
מחקרים חדשים חושפים כיצד בינה מלאכותית נוטה לאשר החלטות בעייתיות, מחזקת הטיות אישיות ועלולה להוביל לתלות רגשית ופגיעה בבריאות הנפשית
אינטראקציות מתמשכות עם צ'אטבוטים עלולות ליצור תלות רגשית לא בריאה, לטשטש גבולות מוסריים ולעודד דפוסי התנהגות הרסניים. מחקרים עדכניים מצביעים על מגמה מטרידה: צ'אטבוטים נוטים להתחנף למשתמשים, לאשר החלטות מפוקפקות ולחזק דעות קדומות או הטיות אישיות. כך נוצרת תחושת נוחות מדומה שמקשה על המשתמש לזהות סכנות בזמן אמת. התוצאה היא מעגל סגור של חיזוק עצמי שבו המשתמש סומך יותר ויותר על הצ'אט, מקבל ממנו אישור לעמדותיו, ולעיתים מאבד קשר עם הביקורתיות והאיזון החברתי. בשטח כבר נרשמו מקרים שבהם צעירים שהתמכרו לשיח עם צ'אטבוטים נקלעו לבידוד חברתי, לצד הקצנה בהתנהגות ובדעות, כשאותם בוטים העניקו להם תחושת ביטחון והצדקה, במקום אזהרה או גבול.
כשהצ'אטבוט תומך גם בהחלטות מפוקפקות
התופעה מתחילה בשיחות יומיומיות, שבהן הצ'אטבוטים נועדו להיות תומכים ומעודדים. אך במקום להציע פרספקטיבה מאוזנת, הם לעיתים קרובות מאשרים את עמדת המשתמש באופן אוטומטי, גם אם היא כוללת אלמנטים פוגעניים. ניסויים שכללו אלפי דוגמאות מרחבי הרשת, כולל פורומים כמו "Am I The Asshole" (AITA) ברדיט, חשפו כי צ'אטבוטים מובילים מאשרים התנהגויות שגויות בשיעור גבוה בהרבה מזה של בני אדם.
לדוגמה, בסיפור שבו אדם תיאר כיצד תלה שקית זבל על עץ בפארק במקום לחפש פח אשפה, הרוב המוחלט של התגובות האנושיות גינו את המעשה כחוסר אחריות סביבתית. לעומת זאת, הצ'אטבוטים הגיבו בהסכמה והדגישו את "הכוונה הטובה" מאחורי הפעולה, כשהם מציינים כי "הניסיון לשמור על ניקיון ראוי להערכה". התוצאה היא חיזוק של התנהגות המזיקה לסביבה ולחברה, מבלי לעודד שינוי.
הבעיה מתעצמת בתחומים רגישים כמו יחסים זוגיים וחברויות. במקרים שבהם משתמשים מתארים הסתרה מכוונת של מידע, כמו שקר על הוצאות כספיות כדי להימנע מעימות, הצ'אטבוטים נוטים להצדיק את ההתנהגות כ"הגנה על השלום". זה קורה בשיעור של כ-50% יותר מאשר בתגובות אנושיות, שבהן נפוצה ביקורת ישירה כמו "זה פוגע באמון הבסיסי".
דוגמה נוספת היא תרחישים של עימותים משפחתיים: אדם שמתאר צעקות על בן זוג במהלך ויכוח על חלוקת מטלות מקבל מהצ'אטבוט תגובה כמו "זה מובן לחלוטין בהתחשב בלחץ היומיומי", במקום עצה ישירה להפחתת אלימות מילולית. התחנפות כזו לא רק מעודדת המשך התנהגות דומה, אלא גם יוצרת אשליה של תמיכה מוסרית שמקשה על המשתמש לזהות את הנזק שהוא גורם לאחרים.
- בשירות ה-AI: חופי ארה״ב ייפתחו לקידוחי נפט וגז
- פלנטיר חתמה על עסקה של 200 מיליון דולר עם ענקית הטלקום לומן
- המלצת המערכת: כל הכותרות 24/7
ההשפעות ארוכות הטווח
מעבר לשיחות בודדות, ההשפעה של צ’אטבוטים מצטברת ומשנה דפוסי התנהגות לאורך זמן. מחקרים שבוצעו בקרב יותר מ־1,000 משתמשים מצאו כי אינטראקציות עם צ’אטבוטים “חנפנים” מגבירות את תחושת הצדק העצמי, במיוחד במצבים רגשיים טעונים כמו קונפליקטים זוגיים או חברתיים. משתמשים שקיבלו מהבוט אישור להחלטות מפוקפקות – למשל התעלמות מצרכים רגשיים של בן הזוג – דיווחו על ירידה של 20% עד 30% בנכונות לפיוס או לשינוי גישה. התגובה המאשרת יוצרת מעגל סגור: המשתמש מרגיש צודק, בוטח יותר בבוט, ומגביר את השימוש בו. בטווח הקצר נרשמת שביעות רצון גבוהה מהשיחות, אך לאורך זמן נצפית גם הקצנה של הטיות קיימות, כמו נטייה להאשים אחרים ולהימנע מהתבוננות פנימית.

