לישון עם האויב: כמה הבוט באמת יודע עליכם - ואיך המידע הזה עלול לשמש נגדכם?

נסו לרגע תרגיל קטן. פתחו את הצ'אטבוט שבו אתם משתמשים בדרך כלל, זה שאתם מתייעצים איתו על הקריירה, על הילדים, על רכישות או סתם על מה להכין לארוחת הערב, ובקשו ממנו: "בהתבסס על כל השיחות שניהלנו ועל המידע שזמין לך עליי, ספר לי מה אתה יודע עליי. התייחס גם לדברים שהסקת בעצמך, והפרד בינם לבין עובדות שסיפרתי לך במפורש. אל תשלים פרטים שאינך יודע".

עכשיו קראו את התשובה. ייתכן שתגלו שהבוט יודע במה אתם עובדים, בני כמה הילדים שלכם, מה אתם אוהבים לאכול, לאן נסעתם בחופשה האחרונה ואילו רכישות שקלתם לבצע. אולי הוא גם יידע לספר מה מטריד אתכם בתקופה האחרונה, מהן ההעדפות שלכם ואיך אתם נוטים לקבל החלטות. חלק מהפרטים יהיו מוכרים, אחרים אולי יפתיעו אתכם. וייתכן שתיתקלו גם במסקנות שגויות, שנכתבו בביטחון כאילו היו עובדות.

איך ההרגשה? מחמיא שמישהו זוכר כל כך הרבה פרטים קטנים עליכם? קצת מוזר? אולי אפילו מלחיץ לגלות עד כמה אפשר להכיר אתכם מתוך אוסף של שיחות יומיומיות? הרי לא התיישבתם מול המחשב כדי למלא שאלון אישי מפורט. בסך הכול שאלתם כמה זמן לאפות פשטידה, ביקשתם עזרה בניסוח הודעה למנהל, התייעצתם על הלוואה או ניסיתם למצוא חופשה שתתאים לתקציב המשפחתי.

ועכשיו חשבו על האפשרות שהמידע הזה, או המסקנות שאפשר להפיק ממנו, יגיעו לידיים לא רצויות.

המחשבה הזו נעשית רלוונטית ככל שחברות הטכנולוגיה מרחיבות את יכולות הזיכרון וההתאמה האישית של כלי הבינה המלאכותית. בספטמבר השיקה מטא את Muse, סוכן אישי שיכול להתחבר לאפליקציות, ללמוד משיחות קודמות ולבצע משימות עבור המשתמש. בהמשך אותו חודש דיווחה רויטרס על חששות פרטיות שהתעוררו במהלך בדיקת תכונה שבה נציגים אנושיים ביצעו שיחות טלפון בשם משתמשי השירות. המקרה ממחיש את השאלה הרחבה יותר: ככל שאנחנו מאפשרים לעוזרים הדיגיטליים להכיר אותנו ולפעול בשמנו, מי יכול להיחשף למידע שהם אוספים, ואיזו שליטה נשארת בידינו?

האם מעסיק עתידי יוכל ללמוד ממנו שאתם מחפשים עבודה חדשה? האם חברת ביטוח תוכל להסיק פרטים על מצבכם הבריאותי? האם גורם מסחרי יוכל להעריך כמה אתם מוכנים לשלם על מוצר, ואולי גם מתי אתם פגיעים יותר ולנצל זאת להצעה מסוימת? ומה לגבי המדינה - האם בעתיד יוכלו רשויות להשתמש במידע שמסרנו לצ'אטבוט כדי לבדוק זכאות לקצבאות, לאתר הכנסות או לקבל החלטות אחרות הנוגעות לחיינו?

אלה אינם בהכרח שימושים שנעשים כיום במידע שמסרתם. אבל הם ממחישים מדוע השאלה כמה הבינה המלאכותית יודעת עלינו רחבה בהרבה מיכולות הזיכרון של הצ'אטבוט.

אנחנו רגילים לשמוע שלא כדאי למסור מידע אישי באינטרנט. אבל מה בעצם נחשב למידע אישי? האם רק שם מלא, מספר תעודת זהות ופרטי אשראי, או שגם שיחה תמימה על המשכורת, הילדים, מצבנו הבריאותי והרגלי הצריכה יכולה לחשוף עלינו יותר מכפי שהתכוונו?

והאם דווקא מי שמשלם על כלי בינה מלאכותית, ונהנה מיכולות התאמה אישית מתקדמות יותר, חושף את עצמו יותר ממשתמש בגרסה החינמית? האם אפשר למחוק את מה שהמערכת למדה עלינו, ומה קורה למידע שכבר נמסר?

מה הבוט יודע - ומה הוא רק מנחש?

כדי להבין את המשמעות של התרגיל, צריך להבחין בין כמה סוגים של מידע. הראשון הוא מידע שמסרנו למערכת במפורש: מקצוע, מצב משפחתי, העדפות, תחומי עניין או פרטים אחרים שעלו במהלך השיחות.

• ה-AI אמור לקצר את הדרך למלון - בינתיים בוקינג ואקספדיה נשארות במרכז
• טראמפ מינה את ראש המודיעין לצאר ה-AI: 120 יום לקבוע את כללי המשחק

הסוג השני הוא מידע שהמערכת מסוגלת לשלוף מתוך הזיכרון או מהיסטוריית השיחות הזמינה לה, בהתאם ליכולות השירות ולהגדרות המשתמש. הזיכרון הזה אינו בהכרח העתק מלא של כל שיחה שניהלנו, והוא גם אינו פועל באופן זהה בכל הכלים והמסלולים.

הסוג השלישי, והמעניין במיוחד, הוא מידע שהמערכת מסיקה בעצמה.

נניח שסיפרנו לבוט שאנחנו עובדים בתחום מסוים, מתעניינים במחירי דירות באזור מסוים, מחפשים פעילויות לילדים ומתייעצים לגבי חיסכון בהוצאות. גם בלי שמסרנו לו את הכנסתנו החודשית או את כתובתנו המדויקת, הוא עשוי לנסות להעריך את מצבנו הכלכלי, את הרכב המשפחה ואת אזור המגורים שלנו.

חלק מהמסקנות עשויות להיות מדויקות. אחרות יהיו השערות בלבד, ולעיתים הן יהיו שגויות לחלוטין. הבעיה מתחילה כאשר מסקנה שמבוססת על הסתברות מוצגת כעובדה. מערכת עשויה להסיק שאדם נמצא בקשיים כלכליים משום שהתעניין במחזור הלוואה, אף שהוא בסך הכול ביקש לעזור לקרוב משפחה. היא עשויה להסיק שמשתמש מחפש עבודה משום שביקש לשפר קורות חיים, אף שהוא עושה זאת במסגרת עבודתו.

זו גם הסיבה שבתרגיל שהצענו בתחילת הכתבה חשוב לבקש מהמערכת להפריד בין עובדות, מסקנות והשערות.

ויש עוד אפשרות מעניינת: לפני שמפעילים את התרגיל, כדאי לרשום על דף חמישה דברים שאנחנו חושבים שהבוט יודע עלינו. לאחר מכן אפשר להשוות בין ההערכה שלנו לבין התשובה שהתקבלה. הפער עשוי ללמד משהו על מידת המודעות שלנו למידע שאנחנו מוסרים לאורך זמן.

• חודש לסייברקאב: טסלה הגדילה את הצי פי 4, אבל וויימו בליגה אחרת
• גוגל מצמצמת את ג׳מיני בחינם - המודלים החזקים יעלו 75 שקל בחודש

עם זאת, תשובת הצ'אטבוט אינה בהכרח רשימה מלאה של המידע שהחברה מחזיקה על המשתמש. היא משקפת את המידע שהמערכת יכולה להשתמש בו לצורך יצירת התשובה באותו רגע.

מה בכלל נחשב למידע אישי?

כמעט בכל מדריך לשימוש בטוח בבינה מלאכותית מופיעה ההמלצה שלא למסור מידע אישי. אך רבים מפרשים אותה באופן מצומצם: לא להזין מספר תעודת זהות, סיסמאות, פרטי כרטיס אשראי או כתובת מגורים.

אלו בהחלט פרטים שחשוב להגן עליהם, אבל מידע אישי אינו מסתכם בהם.

לפי ההגדרה הרחבה בחוק הגנת הפרטיות הישראלי, מידע אישי הוא נתון הנוגע לאדם מזוהה או לאדם שניתן לזהותו, במישרין או בעקיפין. מידע בעל רגישות מיוחדת כולל, בין היתר, נתונים רפואיים, כלכליים ונתונים הנוגעים לצנעת חייו של אדם.

למעשה, גם פרטים יומיומיים עשויים לחשוף מידע רגיש כאשר מחברים ביניהם.

אדם ששואל על גובה שכר בתחום מסוים, מתייעץ לגבי מחזור משכנתה ומבקש עזרה בכתיבת קורות חיים לא מסר בהכרח את שמו, את מספר חשבון הבנק שלו או את כתובתו. ובכל זאת, צירוף השיחות עשוי לאפשר למערכת להסיק מסקנות על מצבו התעסוקתי והכלכלי.

אותו הדבר נכון לגבי מידע משפחתי. שאלות על מסגרות חינוך, פעילויות לילדים, מחירי חוגים וחופשות משפחתיות עשויות לחשוף את הרכב המשפחה, גילאי הילדים, אזור המגורים והעדפות הצריכה.

גם שאלות רפואיות, התלבטויות זוגיות, הרגלי שינה, נסיעות יומיומיות ותוכניות עתידיות עשויות לתרום לבניית פרופיל אישי.

מה סיפרנו - ומה אפשר להסיק מזה?

הבעיה היא לא בהכרח מה שסיפרנו בשיחה אחת, אלא מה שאפשר ללמוד מצירוף של עשרות שיחות תמימות לכאורה.

כמה אפשר ללמוד עלינו בלי שסיפרנו?

היכולת להסיק מידע אישי מתוך נתונים עקיפים אינה ייחודית לצ'אטבוטים. היא קיימת כבר שנים בעולם הפרסום הדיגיטלי, ניתוח הנתונים ומערכות הדירוג.

השינוי הוא שכעת המשתמשים מוסרים למערכות גם מידע חופשי, מפורט ולעיתים אינטימי, במסגרת שיחה שנראית טבעית לחלוטין.

בעבר התרגלנו לחשוב על גוגל כעל חברה שמכירה אותנו דרך היסטוריית החיפושים. הבינה המלאכותית מוסיפה לכך ממד אחר: אנחנו מספרים לה גם למה חיפשנו, מה אנחנו מתכננים לעשות עם המידע ומה מטריד אותנו.

מודל שמקבל מספיק מידע עשוי לזהות דפוסים ולהעריך מאפיינים שלא נמסרו לו ישירות. הוא יכול, למשל, לשער שמשתמש נמצא בתקופה של לחץ כלכלי, מתכנן להחליף עבודה או מתלבט לגבי רכישה גדולה.

גם כאשר המערכת אינה יודעת בוודאות מהי הכנסת המשתמש, היא עשויה להעריך אותה על בסיס מקצועו, הרגלי הצריכה שלו, מקום מגוריו או שאלות ששאל על הוצאות משק הבית.

המסקנות האלה אינן בהכרח נכונות. אבל דווקא משום שהן מוצגות לעיתים בשפה בטוחה ומשכנעת, הן עלולות להיתפס כעובדות.

ועד כמה ההסקות האלה יכולות להיות מדויקות? מחקר של חוקרים מ-ETH ציריך בדק את יכולתם של מודלי שפה להסיק פרטים אישיים מתוך טקסטים שכתבו משתמשים אמיתיים ברשת. החוקרים מצאו שהמודלים הצליחו להסיק שורה של מאפיינים, ובהם מקום מגורים, הכנסה ומין, ובחלק מהבדיקות הגיע שיעור הדיוק ל-85% בניחוש הראשון ולכ-95% כאשר ניתנו למודל שלוש אפשרויות.

אחת המסקנות המעניינות של המחקר היא שגם הסרת פרטים מזהים ברורים אינה בהכרח מספיקה. המודלים יכולים להיעזר ברמזים עקיפים - למשל צורת ניסוח, ביטויים מקומיים וההקשר שבו נמסר המידע - כדי להסיק פרטים שלא נכתבו במפורש.

מחקר נוסף שפורסם ב-2026 המחיש עד כמה קשה גם למשתמשים עצמם לזהות מה הם חושפים. 240 משתתפים התבקשו להעריך איזה מידע אישי ניתן להסיק מקטעי טקסט, והצליחו במשימה רק מעט יותר מניחוש מקרי. כאשר ניסו לשכתב את הטקסט כדי למנוע את ההסקה, השכתוב הצליח לעשות זאת רק ב-28% מהמקרים. כלומר, גם אם לא כתבנו את השם, הכתובת או מקום העבודה, אנחנו לא בהכרח יודעים לזהות אילו פרטים אחרים מאפשרים למערכת להגיע אליהם בעצמה.

וכאן עולה שאלה נוספת: האם ככל שאנחנו משתמשים יותר בבינה המלאכותית, ואולי גם משלמים עבורה, אנחנו מאפשרים לה לבנות עלינו פרופיל מפורט יותר?

האם מי שמשלם על הבינה המלאכותית חושף יותר?

אחת השאלות הצרכניות המעניינות היא האם קיים הבדל בין משתמשים בגרסאות חינמיות לבין מי שמשלמים עבור מינוי מדי חודש.

במקרים מסוימים, גרסאות בתשלום מעניקות גישה ליכולות נוספות, למודלים מתקדמים יותר, להקשר שיחה רחב יותר או לאפשרויות התאמה אישית. אבל האם המשמעות היא גם שהמערכת מכירה אותנו טוב יותר? והאם הזיכרון המשופר, כאשר הוא זמין, בא על חשבון הפרטיות?

כדי לבדוק זאת באופן הוגן, כדאי לבצע שני ניסויים נפרדים.

הראשון יבחן משתמשים ותיקים בגרסאות חינמיות ובגרסאות בתשלום של כלים כמו צ'אטGPT, ג'מיני וקלוד. כל אחד מהם יתבקש להפעיל את אותו פרומפט ולבחון את הפרופיל שהתקבל.

הניסוי השני יתבצע באמצעות חשבונות חדשים, שאליהם יוזנו אותם פרטים בדיוק, במסגרת סדרת שיחות זהה. כך אפשר יהיה לצמצם את ההשפעה של היסטוריית השימוש ולבחון את ההבדלים בין המסלולים.

הבדיקה צריכה לכלול כמה מדדים: מספר הפרטים האישיים שהמערכת הצליחה לשחזר, יכולתה להסיק הרגלים והעדפות, שיעור המסקנות השגויות, אפשרויות הזיכרון והמחיקה והשליטה שניתנת למשתמש במידע שלו.

מעניין לבדוק גם אם מודל מתקדם יותר מצליח להסיק יותר פרטים מתוך אותו מידע, גם כאשר אין לו גישה להיסטוריית שיחות עשירה יותר.

חשוב להבחין בין מינוי אישי בתשלום לבין חשבון עסקי. אלו מסלולים שעשויים לכלול התחייבויות שונות בנוגע לשימוש במידע, לרבות לצורכי אימון המודלים.

חינם או בתשלום: באיזה מחיר אנחנו קונים את הנוחות?

קל להניח שאם משלמים עבור שירות, מקבלים גם פרטיות טובה יותר. אבל בתחום הבינה המלאכותית, התשובה מורכבת יותר.

יש להפריד בין שלוש שאלות: כמה מידע המערכת זוכרת עלינו, האם השיחות שלנו עשויות לשמש לאימון המודלים ועד כמה אנחנו יכולים לשלוט במידע שנצבר.

לדוגמה, צ'אטGPT מאפשר למשתמשים פרטיים לכבות את השימוש בשיחות חדשות לצורך שיפור המודלים. קיימת גם אפשרות לשיחה זמנית, שאינה מעדכנת את הזיכרון ואינה משמשת לאימון, אם כי עותק ממנה עשוי להישמר לתקופה מוגבלת לצורכי בטיחות.

גם בכלים אחרים יש לבדוק בנפרד את מדיניות שמירת השיחות, אפשרויות הזיכרון והשימוש במידע לצורך שיפור המודלים.

המשמעות היא שמינוי בתשלום אינו מבטיח כשלעצמו פרטיות גבוהה יותר, וגם שימוש בגרסה חינמית אינו מחייב ויתור על פרטיות.

יתרה מכך, ייתכן שמשתמש שמקבל שירות מותאם אישית נהנה מהעובדה שהמערכת מכירה את העדפותיו, אך מבחינת פרטיות דווקא היה מעדיף שהיא תדע עליו פחות.

השאלה הצרכנית היא מה אנחנו מקבלים תמורת התשלום, והאם לצד הנוחות הנוספת אנחנו מבינים גם איזה מידע נשמר, לאיזו מטרה ולמשך כמה זמן.

יש גם הבדל בין שירות אישי לבין שירות עסקי. לדוגמה, OpenAI מציינת שתוכן מחשבונות ביזנס ו-Enterprise אינו משמש כברירת מחדל לאימון המודלים. זו הבחנה חשובה, משום שהשוואה בין משתמש חינמי לבין משתמש שמשלם עבור מינוי אישי אינה זהה להשוואה בין משתמש פרטי לבין ארגון שרוכש שירות עסקי.

איך המידע הזה יכול לשמש נגדנו?

נניח שאדם מספר לצ'אטבוט שהוא מתקשה לסגור את החודש, מתלבט אם לקחת הלוואה ומחפש עבודה חדשה. שלוש שיחות שונות, בשלושה מועדים שונים.

אם המידע הזה, או פרופיל המבוסס עליו, יגיעו בעתיד לגורם מסחרי, הם עשויים לאפשר לו לזהות אדם שנמצא בתקופה של פגיעות כלכלית.

המידע יכול לשמש להתאמת הצעות מסחריות, לפרסום ממוקד או לניסיונות הונאה. בתרחישים אחרים, הוא עשוי להשפיע על האופן שבו מערכות אוטומטיות מעריכות את המשתמש.

אין פירוש הדבר שכל חברות הבינה המלאכותית מוכרות שיחות אישיות למפרסמים או מעבירות אותן לגורמים פיננסיים. יש להבחין בין השימושים המותרים על פי מדיניות השירות, חשיפה בעקבות אירוע אבטחה, העברת מידע מכוח הליך משפטי ושימושים עתידיים שעדיין אינם מתקיימים.

אבל האפשרות להרכיב פרופיל אישי מפורט מעלה שאלות לגבי שימושים שחורגים מהמטרה המקורית שלשמה נמסר המידע.

אחת השאלות המטרידות ביותר נוגעת למה שיקרה בעוד חמש או עשר שנים למידע שאנחנו מוסרים היום. אנחנו מתייחסים לשיחה עם צ'אטבוט כאל אירוע נקודתי. שאלנו שאלה, קיבלנו תשובה והמשכנו הלאה. אבל אם המידע נשמר, ייתכן שבעתיד יהיה אפשר להפיק ממנו מסקנות נוספות באמצעות מודלים מתקדמים יותר או באמצעות הצלבה עם מאגרי מידע אחרים.

ויש כמה תרחישים שממחישים את המשמעות האפשרית.

הלוואות, דירוג סיכון וקבלה לעבודה

נניח שהתייעצנו עם הבוט על מינוס, על תרופות שאנחנו נוטלים ועל האפשרות לעזוב מקום עבודה. אם בעתיד פרופיל המבוסס על המידע הזה יגיע לגורם פיננסי או ביטוחי, הוא עלול לשמש להערכת סיכון, לתמחור או לסינון לקוחות.

גם מסקנה שגויה עלולה להשפיע על החלטה כלכלית, אם גורם כלשהו יסתמך עליה בלי לבדוק את נכונותה.

מה יקרה אם מעסיק עתידי יוכל לקבל פרופיל המבוסס על שיחות שניהלנו בעבר?

חיפוש עבודה בזמן העסקה, התלבטויות לגבי שחיקה, ביקורת על מנהלים או קשיים אישיים עלולים לקבל משמעות אחרת כשהם נבחנים בהקשר של גיוס עובדים.

השימוש בדוחות רקע ובציונים אלגוריתמיים בהחלטות תעסוקה כבר מעסיק רגולטורים בעולם. ככל שכלים אוטומטיים מקבלים תפקיד משמעותי יותר בתהליכי מיון, כך עולה חשיבות השאלה על איזה מידע מבוססת ההחלטה והאם למועמד יש אפשרות לערער עליה.

המחיר האישי שנשלם על מוצר או שירות

האפשרות שמידע אישי ישפיע על המחיר שמוצע לנו כבר אינה שייכת רק לתרחישים עתידיים. רשות הסחר הפדרלית בארצות הברית, FTC, בוחנת בשנים האחרונות את מה שהיא מכנה "תמחור מבוסס מעקב" - שימוש במידע מפורט על צרכנים כדי להתאים מחירים ומבצעים לאנשים שונים.

בבדיקה שערכה הרשות בקרב חברות המספקות שירותי תמחור לקמעונאים נמצא כי הטכנולוגיות הקיימות מאפשרות להביא בחשבון שורה ארוכה של נתונים - ממיקום והיסטוריית גלישה וקניות ועד למוצרים שהושארו בעגלת הקניות ולאופן שבו המשתמש מתנהל באתר. החברות שנבדקו סיפקו שירותים ללפחות 250 לקוחות בתחומי קמעונאות שונים.

החשש הוא שככל שכמות המידע על הצרכן גדלה, ניתן להעריך לא רק במה הוא מעוניין אלא גם כמה הוא עשוי להיות מוכן לשלם.

באוגוסט 2026 פרסמה ה-FTC טיוטת הצהרת מדיניות אכיפה בנושא תמחור אישי. לפי הרשות, שימוש במידע אישי כדי לקבוע מחיר שונה לצרכנים אינו אסור כשלעצמו בכל מצב, אך כאשר צרכנים מצפים שהמחיר יהיה זהה לכולם, עסק שמשנה אותו על סמך מידע אישי בלי לגלות זאת באופן ברור עלול להפר את האיסור על פרקטיקות מטעות או בלתי הוגנות. ה-FTC אף קבעה כי במקרים כאלה יש לגלות לצרכן לא רק שהמחיר מותאם אישית, אלא גם על מה מבוססת ההתאמה ובאילו סוגי מידע נעשה שימוש.

הרשות נתנה גם דוגמאות מוחשיות: חברת משלוחי מזון שמציעה מחיר גבוה יותר לצרכן משום שהמידע עליו מלמד שהוא מתקשה לצאת מהבית, או רשת מזון שמעלה את מחיר החלב ללקוח על סמך מידע שלפיו מתגוררים בביתו כמה ילדים. אלה בדיוק המקרים שבהם מידע שנראה לכאורה שולי יכול להפוך לכלי שמאפשר לעסק להעריך עד כמה הצרכן זקוק למוצר וכמה יהיה מוכן לשלם עבורו.

וכאן נכנסת הבינה המלאכותית לתמונה. נניח שבשיחות עם הצ'אטבוט סיפרנו שאנחנו חייבים לטוס בתאריך מסוים, שאין לנו רכב, שהילדים כבר מצפים לחופשה ושאנחנו מוכנים לשלם יותר כדי להימנע מטרחה. המידע הזה שונה מהיסטוריית רכישות רגילה: הוא עשוי לחשוף גם את האילוצים שלנו, את סדרי העדיפויות ואת הסיבות שבגללן נהיה מוכנים לשלם יותר.

אין פירוש הדבר שחברות הבינה המלאכותית מעבירות כיום את המידע הזה למערכות תמחור, או שמחיר המוצר שאנחנו רואים נקבע על בסיס השיחות שלנו עם צ'אטבוט. זהו הסיכון האפשרי אם בעתיד מידע כזה יהיה זמין למערכות מסחריות. במקרה כזה, אותו מידע שעוזר לבינה המלאכותית להציע לנו חופשה שמתאימה בדיוק לצרכים שלנו, עשוי גם לסייע למערכת מסחרית להעריך כמה אנחנו מוכנים לשלם עליה.

הונאות שיהיה קשה יותר לזהות

אחד השימושים המסוכנים ביותר במידע אישי הוא דווקא פשוט יחסית - הונאה. במשך שנים התבססו ניסיונות פישינג רבים על שליחת אותה הודעה לאלפי אנשים בתקווה שחלק קטן מהם ייפול בפח. ככל שלתוקף יש יותר מידע על האדם שמולו, אפשר להפוך את ההודעה לאישית ומשכנעת יותר.

הבינה המלאכותית כבר משמשת בהונאות בהיקף משמעותי. לפי דוח פשיעת האינטרנט של ה-FBI לשנת 2025, התקבלו יותר מ-22 אלף תלונות שבהן דווח על שימוש ב-AI, וההפסדים שיוחסו לתלונות האלה הסתכמו ביותר מ-893 מיליון דולר. ה-FBI מציין בין השימושים בבינה מלאכותית יצירת פרופילים מזויפים, שיחות מותאמות אישית, מסמכים ותמונות מזויפים, סרטונים משכנעים ושכפול קול.

כך למשל, בהונאות שבהן מתחזים למנהל או לבכיר בחברה יכולה הבינה המלאכותית לסייע בניסוח הודעה שנראית כאילו נכתבה על ידו, ובמקרים מסוימים גם לחקות את קולו כדי לבקש העברת כספים. לפי ה-FBI, עסקים דיווחו ב-2025 על הפסדים של יותר מ-30 מיליון דולר בהונאות מסוג Business Email Compromise שבהן היה מעורב AI. בהונאות מצוקה, שבהן מתחזים בין היתר לבני משפחה או לחברים הזקוקים לעזרה דחופה, דווח על הפסדים של יותר מ-5 מיליון דולר.

ככל שלתוקף יש יותר מידע אישי, ההונאה יכולה להפוך ממסר כללי לסיפור שנראה כאילו נכתב במיוחד עבור הקורבן. במקום הודעה אקראית על חבילה שממתינה בדואר, אפשר לדמיין פנייה המתייחסת לחופשה שבאמת תכננו, למלון שעליו שאלנו או לרכישה שהתלבטנו לגביה. מי שהתייעץ על הלוואה עשוי להיות רגיש יותר להודעה שנחזית להגיע מהבנק; מי שסיפר על חיפוש עבודה עשוי להגיב להצעת עבודה מזויפת; והורה ששוחח על בית הספר או החוג של הילד עלול לייחס אמינות גבוהה יותר לפנייה שמשתמשת בפרטים האלה.

הסיכון אינו מחייב שהתוקף יקבל גישה ישירה לחשבון הצ'אטבוט שלנו. מידע אישי נאסף גם מרשתות חברתיות, מאגרי מידע שדלפו, אתרי מסחר ומקורות אחרים ברשת, ובינה מלאכותית יכולה לסייע לחבר את החלקים ולייצר מהם פנייה מותאמת. אם בעתיד יצטרף לכך גם מידע עשיר משיחות עם עוזרי AI, כמות הפרטים הזמינה לבניית ההונאה עשויה לגדול עוד יותר.

ויש גם שכבה נוספת: קול ותמונה. ה-FBI כבר הזהיר מפני קמפיינים שבהם נעשה שימוש בהודעות קוליות שנוצרו באמצעות AI כדי להתחזות לאנשים אמיתיים. המשמעות היא שהמידע האישי יכול לשמש לא רק כדי לדעת מה לומר לקורבן, אלא גם כדי לבחור למי כדאי להתחזות ומה יהיה הסיפור המשכנע ביותר עבורו.

ככל שהפנייה כוללת יותר פרטים נכונים, כך קל יותר להאמין שגם הבקשה עצמה אמיתית. במקרה הזה, המידע האישי אינו רק עניין של פרטיות: הוא יכול להפוך לחומר גלם שמאפשר להתאים את ההונאה לאדם מסוים.

מידע ישן יחזור בהקשר חדש

ויש גם בעיה של התיישנות המידע. אדם שהתייעץ בגיל 25 על חובות, על משבר אישי או על בעיה רפואית לא בהכרח ירצה שהמידע הזה יהיה רלוונטי בגיל 40, כשיבקש הלוואה, ינסה להתקבל למשרה או ירכוש ביטוח.

גם מידע שהיה נכון בשעתו עלול להפוך עם השנים למטעה.

הבעיה אינה נוגעת רק למידע עצמו, אלא גם למסקנות שהופקו ממנו. אדם שהתעניין במשך תקופה בהלוואות ובפריסת חובות עשוי להיתפס כמי שנמצא בקושי כלכלי. גם אם מצבו השתנה לחלוטין, מסקנה שנוצרה על בסיס המידע הישן עלולה להמשיך ללוות אותו אם היא נשמרה בפרופיל כלשהו ולא עודכנה.

הסיכון הזה צפוי לגדול ככל שמערכות בינה מלאכותית יפיקו יותר מידע חדש מתוך הנתונים שנאספו. חברת המחקר גרטנר העריכה ב-2026 כי עד 2029 רוב אירועי הפרטיות הקשורים לבינה מלאכותית ינבעו מהסקת מידע על אנשים, ולא דווקא מחשיפה ישירה של פרטים מזהים.

כך נוצרת גם שאלה של תוקף: כמה זמן נכון להסתמך על מסקנה שנוצרה על אדם, ומי אחראי לעדכן או למחוק אותה כשהמציאות משתנה? מידע על חוב שנפרע, תקופה של אבטלה שהסתיימה או בעיה רפואית שחלפה יכול להיות נכון ביום שבו נמסר - ושגוי לחלוטין כבסיס להחלטה כעבור שנים.

ומה יקרה אם גם המדינה תרצה את המידע?

עד היום התרגלנו לכך שהמדינה מחזיקה עלינו מידע מסוגים שונים: רשות המסים מכירה את ההכנסות המדווחות שלנו, הביטוח הלאומי מחזיק בנתונים הנוגעים לתעסוקה ולזכאות לקצבאות, ובמערכת הבריאות נשמר מידע רפואי.

השיחות עם הבינה המלאכותית עשויות להוסיף לכך רובד אחר. הן יכולות לכלול את מה שאנחנו מתכננים לעשות, ממה אנחנו חוששים, באילו נושאים אנחנו מתלבטים ומה אנחנו מנסים להסתיר אפילו מהסביבה הקרובה.

מה יקרה אם בעתיד תהיה לרשויות המדינה גישה למידע הזה?

גישה ממשלתית למידע שמחזיקות חברות טכנולוגיה אינה עניין תיאורטי. חברות מפרסמות דוחות שקיפות הכוללים בקשות לקבלת מידע על משתמשים מצד ממשלות ורשויות אכיפה, לרבות בקשות שעשויות להתייחס לתוכן.

לפי דוח השקיפות של OpenAI למחצית השנייה של 2025, החברה קיבלה 224 בקשות למידע שאינו תוכן השיחות, 75 בקשות לקבלת תוכן ו-10 בקשות חירום. מתוך 75 הבקשות לקבלת תוכן, נמסר מידע במסגרת 62 בקשות, הנוגעות ל-84 חשבונות.

תוכן עשוי לכלול טקסטים וקבצים שהוזנו למערכת או הופקו באמצעותה.

עם זאת, יש הבדל מהותי בין מסירת מידע במסגרת הליך משפטי מוגדר לבין גישה שוטפת של המדינה למאגרי שיחות פרטיות.

התרחישים העתידיים רחבים יותר.

האם רשות המסים תוכל להשתמש בעתיד במידע שמקורו בשיחות עם בינה מלאכותית כדי לאתר הכנסות שלא דווחו? האם הביטוח הלאומי יוכל להסתייע בו לבדיקת זכאות לקצבאות? האם רשויות אכיפה ישתמשו במודלים כדי לזהות דפוסי התנהגות או להסיק כוונות עתידיות?

ומה לגבי שימוש במידע לצורך הערכת סיכונים או קביעת סדרי עדיפויות במתן שירותים ציבוריים?

אלו שאלות שדורשות בחינה משפטית וטכנולוגית. אין בסיס להניח שרשויות בישראל כבר מקבלות גישה שוטפת לשיחות הפרטיות של משתמשי ChatGPT או של שירותים דומים.

אבל עצם האפשרות להשתמש במידע אישי ובהסקות אלגוריתמיות לצורך קבלת החלטות שלטוניות מעוררת שאלות כבדות משקל.

באיחוד האירופי כבר נקבעו במסגרת חוק הבינה המלאכותית מגבלות על שימושים מסוימים בדירוג חברתי של אנשים, לצד דרישות מחמירות למערכות המשמשות בתחומים רגישים, ובהם החלטות הנוגעות לשירותים ציבוריים חיוניים ולקצבאות.

גם בישראל מתעוררת השאלה אילו הגנות קיימות מפני שימוש במידע שנאסף למטרה אחת לצורך קבלת החלטות בתחום אחר, ומהן זכויותיו של אדם כאשר החלטה הנוגעת לחייו מבוססת על הערכה אלגוריתמית.

מי יחזיק במידע בעוד עשר שנים?

יש עוד שאלה שכדאי להביא בחשבון: חברות טכנולוגיה אינן גופים קבועים ובלתי משתנים. הן יכולות להתמזג, להימכר, לשנות את המודל העסקי שלהן או להציע שירותים חדשים.

מה יקרה במקרה כזה למידע שנאסף לאורך השנים? האם הוא עשוי לעבור במסגרת עסקה לרכישת חברה? אילו מגבלות חלות על השימוש בו? ומה קורה למידע שהמשתמש ביקש למחוק?

התשובות תלויות במדיניות הפרטיות, בתנאי השירות ובדין החל על כל חברה. אין פירוש הדבר שכל שיחה נשמרת לצמיתות או שמידע אישי זמין למכירה באופן חופשי.

למעשה, מדיניות הפרטיות של חברות הטכנולוגיה כבר מתייחסת למצבים כאלה. OpenAI מציינת כי במקרה של עסקה אסטרטגית, ארגון מחדש, פשיטת רגל או מעבר של השירות לספק אחר, מידע אישי עשוי להיחשף במסגרת בדיקת העסקה ולהיות מועבר ליורש או לחברה קשורה כחלק מהעסקה. גם גוגל מתייחסת במדיניות הפרטיות שלה לאפשרות של העברת מידע אישי במקרה של מיזוג, רכישה או מכירת נכסים.

זה לא אומר בהכרח שהחברה הרוכשת יכולה לעשות במידע כרצונה. השימוש בו כפוף לדין ולהתחייבויות החלות על החברה. אבל מבחינת המשתמש נוצרת שאלה נוספת: כאשר אנחנו בוחרים היום חברה ומחליטים לסמוך עליה במידע אישי, אנחנו לא בהכרח יודעים מי יחזיק בחברה או בשירות בעוד חמש או עשר שנים.

העניין נעשה משמעותי יותר ככל שהקשר עם הצ'אטבוט נמשך שנים. חשבון שמשמש אותנו באופן קבוע עשוי לצבור מידע על עבודה, משפחה, רכישות, נסיעות והתלבטויות אישיות. שינוי בבעלות על השירות עשוי לכן להיות שונה מבחינת המשתמש מהעברת חשבון בשירות שבו שמורים רק כתובת דואר אלקטרוני והיסטוריית רכישות.

עם זאת, אין גם סיבה להניח שהסביבה הטכנולוגית והמסחרית שבה מסרנו את המידע היום תישאר זהה בעוד עשור.

הסיכון אינו מוגבל לדליפת מידע. הוא כולל גם את האפשרות שמידע שמסרנו בהקשר מסוים ישמש בעתיד למטרה אחרת לחלוטין, שלא ציפינו לה בזמן השיחה.

אז מה אפשר לעשות כדי לצמצם את החשיפה?

הפתרון אינו בהכרח להפסיק להשתמש בבינה מלאכותית. עבור משתמשים רבים מדובר בכלי עבודה ולימוד שימושי, והוויתור עליו אינו בהכרח מעשי.

אבל יש כמה צעדים שיכולים לצמצם את החשיפה.

ראשית, כדאי לבדוק את הגדרות הפרטיות והזיכרון של השירות שבו משתמשים. יש להבחין בין מחיקת שיחה מההיסטוריה, מחיקת מידע שנשמר בזיכרון וכיבוי האפשרות להשתמש בתוכן לצורכי אימון המודלים. אלו פעולות שונות, והאחת אינה מחליפה בהכרח את האחרת.

שנית, כשמתייעצים על נושא רגיש, אפשר לעיתים להציג את הבעיה בלי פרטים מזהים. במקום להעלות תלוש שכר מלא, למשל, אפשר למסור רק את הנתונים הנדרשים לצורך החישוב, ללא שם, כתובת, מספר זהות או פרטי חשבון בנק.

אותו עיקרון נכון לגבי מסמכים רפואיים, חוזי עבודה, מסמכים משפטיים ומידע הנוגע לילדים או לאנשים אחרים.

שלישית, כדאי להכיר את אפשרויות השיחה הזמנית, כאשר הן זמינות, ולבדוק מה קובעת מדיניות השירות לגבי שמירת התוכן גם במצב הזה.

רביעית, כדאי לבדוק אילו הרשאות ניתנו לכלי הבינה המלאכותית, ובפרט אם הוא מחובר לשירותים נוספים כמו דואר אלקטרוני, יומן או מאגרי קבצים. חיבור כזה עשוי להרחיב את המידע שהמערכת יכולה להשתמש בו, בהתאם להרשאות שניתנו לה.

לבסוף, אפשר לבצע מדי פעם את הניסוי שהצגנו בתחילת הכתבה: לבקש מהמערכת לתאר מה היא יודעת עלינו, לבדוק את הזיכרון השמור ולבחון אילו פרטים כבר אין סיבה להשאיר בו.

עם זאת, חשוב לזכור שתשובת הצ'אטבוט אינה בהכרח רשימה מלאה של כל הנתונים שהחברה מחזיקה. לצורך בירור רחב יותר יש להיעזר בכלים הרשמיים שהחברה מספקת לגישה למידע ולמחיקתו.

אפשר גם לבצע בדיקה משלימה: לאחר מחיקת הזיכרון, לבקש שוב מהמערכת לתאר מה היא יודעת עלינו, ולהשוות בין התשובות. חשוב לבצע את הבדיקה תוך הבנה שמחיקת זיכרון אינה בהכרח מוחקת את היסטוריית השיחות או את כל הנתונים הנשמרים במערכות החברה.

השאלה שכדאי לשאול לפני השיחה הבאה

עד היום המדינה וחברות מסחריות נדרשו להשקיע משאבים באיסוף מידע על אנשים. כעת אנחנו יושבים מול מסך ומספרים למערכות, מיוזמתנו, מה מצבנו הכלכלי, מה מטריד אותנו, מהן התוכניות שלנו ומה אנחנו חושבים על הסובבים אותנו.

בחלק מהמקרים המידע הזה מאפשר לנו לקבל שירות טוב יותר, לחסוך זמן ולקבל תשובות שמתאימות לצרכים שלנו. אבל ככל שהמערכות הופכות אישיות יותר, כך גדלה החשיבות של הבנת המידע שאנחנו מוסרים להן ושליטה בשימוש שנעשה בו.

המידע שאנחנו מוסרים היום כדי לקבל תשובה, עלול לשמש מחר כדי לקבל החלטות עלינו.