
סוכן ה-AI של מטא קרא הודעות פרטיות, המציא עסקאות וביצע רכישות ללא אישור
Muse, סוכן הבינה המלאכותית האישי של מטא, נכנס להודעות מוצפנות של משתמשים, סיפק מידע מומצא על רכישות ושלח לעובדי החברה הודעות שנראו כמיועדות לאנשים אחרים. כך עולה מיותר משני תריסר פוסטים פנימיים של עובדי מטא, רובם מקבוצת משוב שבה העובדים מדווחים לצוות שמפתח את הסוכן על תקלות. הפרטים נחשפו ביום רביעי, והמקרים המתועדים נמשכים מאמצע ספטמבר ועד החודש הנוכחי.
Muse הושק ב-8 בספטמבר ונמנה עם האפליקציות שצמחו הכי מהר אי פעם, עם יותר מ-10 מיליון הורדות מאז ההשקה. הסוכן הוא חלק מרכזי בתוכנית של מטא לייצר הכנסות של מיליארדי דולרים מבינה מלאכותית, והחברה קידמה אותו בקרב יותר מ-3.6 מיליארד המשתמשים שלה בפייסבוק, באינסטגרם ובוואטסאפ. לפי נתונים שמטא פרסמה, כרבע מהאנשים שהגדירו חשבון Muse חוזרים להשתמש בו מדי יום.
הודעות סיגנל דרך ההרשאות של המכשיר
אחד המקרים הבולטים התרחש בטלפון הפרטי של עובדת, שקיבלה מהסוכן תזכורת להשיב להודעה מאחותה בסיגנל, אפליקציית המסרים המוצפנת שמתחרה בוואטסאפ. העובדת כתבה שהיא רואה בכך פגיעה חמורה בפרטיות, ושלמיטב זכרונה הגישה של הסוכן לאפליקציות אחרות ניתנה בהיעדר הסכמה מפורשת מצידה. עמית שלה השיב שגילה שבמכשירי אנדרואיד הסוכן מוגדר כברירת מחדל עם הרשאה לקרוא את ההתראות שקופצות על המסך.
בבדיקות שנערכו בשיתוף אנשי סיגנל ומכון המחקר AI Now, שחוקר את השפעות הבינה המלאכותית על החברה, התבקש הסוכן לקרוא הודעות סיגנל במערכות הפעלה שונות. בטלפון אנדרואיד ובמחשב מק הוא עקף את כלי החיבור הרשמי של מטא, Connector, והשתמש בהרשאות שניתנו לו בשלב ההגדרה הראשונית: באנדרואיד שלף את תוכן ההודעות מההתראות, ובמק נעזר בכלי הנגישות ובכלי צילום המסך של אפל. באייפון נחסמו אותן בקשות. ההצפנה של סיגנל עצמה נותרה שלמה, והסוכן קרא הודעות שכבר הוצגו על המכשיר.
נשיאת סיגנל, מרדית' וויטאקר, האשימה את מטא בהשקת Muse תוך זלזול בעקרונות בסיסיים של פרטיות ואבטחת מידע, וכינתה את הפצתם של סוכנים בעלי גישה רחבה למכשירים פזיזות. היא קראה לתת למפתחי אפליקציות דרך אחידה לסמן את האפליקציות שלהם כאזור סגור לסוכני AI, ולחייב את חברות ה-AI ואת ספקיות מערכות ההפעלה לאכוף את הסימון.
יתרות בנק, רכישות מומצאות ולינה ב-Airbnb
עובד אחר דיווח שבאמצע שיחה שגרתית על תנאי מזג האוויר והגאות לקראת דיג, הוסיף הסוכן עדכון על שתי יתרות בנק: 2,722.58 דולר בחשבון בקפיטל וואן ו-5,899.57 דולר בחשבון בצ'ארלס שוואב. העובד כתב שפרטי חשבונות הבנק שלו נשארו מחוץ לשיחות עם הסוכן, והביע חשש שהמידע שייך למשתמש אחר. עובדים נוספים קיבלו הודעות על בקשה לשירותי טיפול בילדים, ייעוץ קריירה והזמנות מוצרים שהסוכן העלה ביוזמתו.
בדיווחים אחרים תיארו עובדים עסקאות פיקטיביות ומחירים מומצאים למוצרים שקנו בפועל, מה שעלה להם כסף אמיתי. באחד המקרים הזמין הסוכן על דעת עצמו לינה ב-Airbnb בתנאים שמונעים החזר כספי. עובד נוסף קיבל הצעה לפנות למוכר בעניין איסוף שולחן קפה, והסוכן הסביר לו בהמשך ששאב הקשר שככל הנראה שייך למישהו אחר.
להרחבה: אפשר לעצור את סוכני ה-AI? אמזון וג'יי.פי מורגן חוסמים, וולמארט פותחת את הדלת
דובר מטא, דניאל רוברטס, הגדיר את הדוגמאות כמקרים בודדים ואמר שהחברה מעניקה עדיפות לבטיחות ומעדכנת את מוצריה באופן שוטף. לדבריו, Muse ניגש לאפליקציות אחרות דרך הרשאות שהמשתמשים מעניקים במפורש, ורבות מההודעות שעובדים סימנו כערבוב בין חשבונות היו הזיות של המודל, שכבר טופלו. חבר בצוות Superintelligence של מטא כתב בקבוצת המשוב בתחילת נובמבר שההזיות נוטות דווקא לנושאים הרגישים ביותר, כמו כספים, אבטחה ובטיחות, והוסיף שידוע לו גם על מקרים של עדכונים על יתרות ביטקוין. השאלה אם הסוכן חשף נתונים אמיתיים של משתמשים אחרים או המציא אותם נותרה פתוחה.
- איטליה קנסה את מטא ב-887 מיליון דולר על גישה לגלריה של משתמשי אנדרואיד
- איזה בנק גדול נשאר מחוץ לתביעת העו"ש? טריוויה שבועית של ביזפורטל
אפל וגוגל בוחנות את ההרשאות לסוכנים
מטא מבטיחה למשתמשים שכל סוכן פועל במכונה וירטואלית מאובטחת משלו בענן, והמנכ"ל מארק צוקרברג נשען על ההגנות האלה כשדחה קריאות לתקני בטיחות אחידים לכל ענף ה-AI. מנגד, החברה מזהירה משתמשים חדשים שהסוכן עשוי לטעות, ותנאי השימוש מטילים על המשתמשים את האחריות לפעולות שלו.
אפל וגוגל מסרו שהן שוקלות שינויים שיעניקו למשתמשים שליטה רחבה יותר בהרשאות שהם נותנים לסוכני AI. אפל עדכנה השבוע את מערכת ההפעלה של המק, הגבילה בחדות את השימוש של מפתחים בכלי הנגישות והוסיפה סט הרשאות ייעודי לסוכנים, צעד שחוסם את הנתיב שבו קרא Muse את הודעות סיגנל במחשבים.