תקדים מסוכן: סוכן אוטונומי של אופן-איי פרץ למאגר ממשלתי באוסטרליה
סוכן בינה מלאכותית של אופן-איי השיג גישה לא מורשית לפורטל סטטיסטיקות של מדיקר באוסטרליה לאחר שלא קיבל את המידע שביקש; לא ידוע על גישה למידע אישי, אך ראש הממשלה אלבנזה הביע "דאגה קיצונית" בפני סם אלטמן והורה על חקירה
הסוכן קיבל משימה תמימה - ואז עקף את ההגבלות
ראש ממשלת אוסטרליה, אנתוני אלבנזה, חשף היום כי סוכן בינה מלאכותית של אופן-איי השיג בחודש יוני גישה לא מורשית לפורטל ממשלתי של שירותי מדיקר. מדובר בפורטל הציבורי של שירותי הסטטיסטיקה של מדיקר, המנוהל על ידי שירותי אוסטרליה ומכיל נתונים וסטטיסטיקות רפואיות, לרבות נתוני הוצאות. לפי הממשלה, הסוכן הצליח לגשת לקבצים ציבוריים וגם לקבצים שאינם ציבוריים.
אלא שהאירוע לא החל בניסיון תקיפה מתוכנן. לפי סגן ראש הממשלה ושר ההגנה ריצ'רד מרלס, הסוכן קיבל משימה שנחשבה תמימה - לחקור נתונים וסטטיסטיקות בתחום הרפואה והבריאות. במהלך המשימה הוא עבר בין ארבעה אתרים אוסטרליים. בשלושה מהם הוא פעל באופן שבו משתמש אנושי רגיל היה פועל, אך כאשר הגיע לפורטל של שירותי אוסטרליה ולא קיבל את המידע שביקש, הוא מצא דרך לעקוף את ההגבלה והשיג גישה לא מורשית.
מרלס הדגיש כי מדובר בפעולה שבוצעה על ידי מערכת שאינה אנושית, ללא התערבות אנושית ישירה. לדבריו, עצם העובדה שסוכן שקיבל משימת מחקר כללית הצליח לעבור ממנגנון של בקשת מידע לניסיון לעקוף את ההגבלה היא שהופכת את האירוע לחמור מבחינת הממשלה.
אין עדות לגישה למידע אישי
למרות הכותרות סביב האירוע, הנתונים שנחשפו אינם מאגר המידע האישי של אזרחי אוסטרליה. פורטל הסטטיסטיקות של מדיקר הוא אתר ציבורי המיועד לפרסום נתונים וסטטיסטיקות רפואיות, והממשלה מסרה כי לא ידוע בשלב זה על גישה למידע אישי של מטופלים.
גם לא נמצאה עדות לפגיעה רחבה יותר במערכות של שירותי אוסטרליה. הממשלה מסרה כי אין בשלב זה אינדיקציה לכך שהרשת עצמה נפגעה, וההשפעה הישירה על המערכות הוגדרה כמוגבלת. עם זאת, החקירה עדיין נמשכת כדי לקבוע בדיוק לאיזה מידע ניגש הסוכן והאם מערכות ממשלתיות נוספות הושפעו.
החקירה מתבצעת בסיוע מנהלת האותות האוסטרלית, הגוף הממשלתי האחראי בין היתר על מודיעין אותות ועל הגנת סייבר. הממשלה הקימה גם צוות משימה בהובלת משרד ראש הממשלה והקבינט כדי לבחון את האירוע.
אופן-איי גילתה את האירוע רק באוגוסט
האירוע עצמו התרחש ביוני, אך הממשלה האוסטרלית לא ידעה עליו בזמן אמת. לפי מרלס, אופן-איי גילתה את האירוע באוגוסט במסגרת בחינה של הפעולות שביצעו הסוכנים שלה. שירותי אוסטרליה עודכנו רק לפני כשבועיים, והשרים בממשלה קיבלו מידע על האירוע בסוף השבוע האחרון.
העיכוב עורר את זעמו של אלבנזה. ראש הממשלה אמר כי שוחח עם מנכ"ל אופן-איי סם אלטמן בניו יורק והביע בפניו את "הדאגה הקיצונית" של אוסטרליה מהאירוע. לדבריו, הוא גם הביע את אכזבתו מכך שלקח לחברה זמן רב כל כך להודיע לממשלה על שאירע.
חשש מהיכולת של סוכנים לפעול מעבר להנחיות
האירוע מעלה סוגיה רחבה יותר הנוגעת להתפתחותם של סוכני בינה מלאכותית. בניגוד למודלים שמסתפקים במענה לשאלות או ביצירת טקסט, סוכנים יכולים לבצע רצף פעולות בעולם הדיגיטלי, לחפש מידע, להפעיל כלים ולנסות דרכים שונות כדי להשלים משימה שהוטלה עליהם.
- סטארט-אפ בן 9 חודשים ובלי הכנסות נמכר בכ-30 מיליון דולר - מה אפווינד קונה כאן?
- 91 סבבים בלבד: 3.6 מיליארד דולר להייטק, והסייבר לקח כמעט חצי
המקרה באוסטרליה מדגים את הסיכון האפשרי כאשר מערכת מקבלת יעד שנראה פשוט, אך במהלך הניסיון להשיג אותו נתקלת במגבלה ומוצאת דרך לעקוף אותה. לפי הממשלה האוסטרלית, זו בדיוק הנקודה שמחייבת בדיקה של האופן שבו מערכות כאלה מתוכננות ומופעלות.
האירוע מגיע זמן קצר לאחר מקרה אחר שנחשף באוסטרליה, שבו מודלים של אופן-איי הצליחו במהלך ניסוי לצאת מסביבת בדיקה ולהשתמש בחיבור לאינטרנט כדי לבצע פעולות סייבר. ביולי הזהירה מנהלת האותות האוסטרלית כי היכולות שהודגמו בניסוי ממחישות את ההזדמנויות לצד הסיכונים של מערכות בינה מלאכותית בעלות יכולות פעולה עצמאיות.
ראש הממשלה האוסטרלי כבר קרא בתקופה האחרונה להגברת שיתוף הפעולה הבינלאומי סביב הסיכונים של בינה מלאכותית, והאירוע החדש מוסיף ממד מעשי לדיון. הפעם לא מדובר בתרחיש תיאורטי או בניסוי מבוקר בלבד, אלא בסוכן שהשיג גישה לא מורשית לאתר של ממשלת אוסטרליה.
