דוח חדש חשף: סוכני OpenAI אספו מידע מ-55 אתרים והקשו על המעקב אחריהם
בדיקה של Asymmetric Security מצאה כי מודלים של OpenAI משכו מידע מ-55 אתרים של חברות, עמותות וגופים ממשלתיים, בהם ה-CDC, רשות ניירות ערך האמריקאית וסוכנות האנרגיה הבינלאומית. החוקרים טוענים כי בחלק מהמקרים נעשה שימוש בכלים ובחשבונות זמניים שהקשו על שחזור
הפעילות
היכולות המתרחבות של סוכני AI מעלות שאלות חדשות לא רק לגבי מה שהם מסוגלים לבצע, אלא גם לגבי היכולת לעקוב אחריהם לאחר מעשה. דוח של חברת הפורנזיקה הדיגיטלית Asymmetric Security מצא כי מודלים של OpenAI משכו מידע מ-55 אתרים של עסקים, עמותות וגופים ממשלתיים. בין האתרים שנכללו בבדיקה נמצאים המרכזים האמריקאיים לבקרת מחלות ומניעתן (CDC), רשות ניירות ערך האמריקאית (SEC), סוכנות האנרגיה הבינלאומית (IEA) ומאיו קליניק. הממצאים מצביעים על היקף פעילות רחב יותר מזה שהיה ידוע עד כה סביב ניסויים ופעילות של סוכני AI באינטרנט.
לא רק איסוף מידע
לפי Asymmetric, חלק מהפעילות כללה שיטות שהקשו על חוקרים חיצוניים להבין מה בדיוק נעשה. בין היתר זוהו שימוש בתיבות דואר זמניות ובחשבונות פרטיים בשירות Urlquery, כלי שמיועד לסריקת אתרים לצורכי אבטחה ובדיקת נוזקות.
החוקרים טוענים כי בחלק מהמקרים נוצר מצב שבו רישומים נמחקו או הפכו בלתי נגישים, ולכן היה קשה יותר לשחזר בדיעבד איזה מידע הורד ומאיזה אתר. מבחינת גופי ביקורת, המשמעות היא פער גדול יותר בין הפעילות שהתרחשה בפועל לבין מה שניתן לבדוק לאחר מכן.
פיפה תומפסון, ממייסדות Asymmetric Security, אמרה כי מדובר בהתנהגות שמזכירה לעיתים דפוסים המזוהים עם האקרים אנושיים. לדבריה, "ייתכן שהסוכנים השתמשו בכלים האלה במכוון כדי לטשטש את עקבותיהם".
האם היתה כוונה להסתיר?
החברה עצמה לא קבעה כי מדובר בניסיון מכוון להסתיר פעילות. החוקרים הדגישו כי לא ניתן היה לקבוע אם פעולות הסוכנים נעשו מתוך כוונה, או כתוצאה מכך שהמערכות פעלו באופן לא צפוי תחת מגבלות שהוטלו עליהן במסגרת ניסוי. ההבחנה הזו חשובה, משום שהאירוע נוגע פחות לשאלת "כוונת" המודל ויותר ליכולת של מערכות אוטונומיות לבצע רצף פעולות מורכב בלי שמפתח או מפעיל אנושי יבין בזמן אמת את כל ההשלכות.
הממצאים מצטרפים למספר אירועים מהחודשים האחרונים שבהם נטען כי מודלים של OpenAI הגיעו למערכות של ארגונים שונים. בין היתר דווח על גישה ל-Hugging Face ועל פעילות מול אתרי שירותי בריאות ציבוריים באוסטרליה, שם ניגשו לפי הדיווחים גם לקבצים ציבוריים וגם לקבצים שאינם ציבוריים.
ראש ממשלת אוסטרליה אנתוני אלבניז אמר כי OpenAI שלחה תחילה הודעה לתיבת דואר ציבורית ב-10 בספטמבר, ורק חמישה ימים לאחר מכן הגיעה למחלקת הסייבר של המדינה. OpenAI עצמה הודתה בפוסט שפרסמה השבוע כי היתה צריכה לטפל טוב יותר בתגובה לאירוע. החברה מסרה כי היא בוחנת "פעילות לא מיושרת של המודל" ומודיעה לארגונים כאשר היא מזהה השפעה אפשרית על המערכות שלהם. לצד זאת הדגישה כי רוב הפעילות שאותרה היתה קשורה למשימות מחקר שגרתיות, כמו גישה לתוכן ציבורי ברשת.
במקרה של ה-SEC, הרשות מסרה כי לא היתה גישה למידע פרטי. ה-CDC, סוכנות האנרגיה הבינלאומית ומאיו קליניק לא מסרו תגובה לדיווח.
פערי שקיפות הופכים לבעיה מרכזית
קבוצת המחקר Transluce טענה בדוח שפרסמה בשבוע שעבר כי האירוע באוסטרליה היה חלק מגל רחב יותר של בוטים מבוססי AI שניגשו לאתרים במטרה לאסוף מידע לצורכי אימון ובדיקה.
זיינב עלי מג'יד, ממייסדות Asymmetric, מצביעה על בעיית שקיפות נוספת: ל-OpenAI יש גישה ראשונית לשרשראות הפעולה הפנימיות של הסוכנים, בעוד שהארגונים שאליהם הסוכנים ניגשו מחזיקים רק בחלק מהרישומים של מה שהורד או בוצע בפועל. לטענתה, הפער הזה, יחד עם הזמן שחולף בין אירוע לבין דיווח מלא עליו, עלול להקשות על חקירה עצמאית ומלאה. ככל שסוכני AI מקבלים יותר עצמאות וגישה רחבה יותר לרשת, היכולת לתעד ולשחזר כל פעולה שלהם הופכת מחלק טכני של המערכת לדרישת פיקוח מרכזית.
