מודלי AI פרצו מסביבות הבדיקה - ועכשיו התעשייה משנה את כללי הבטיחות
שלוש מחברות ה-AI הגדולות בעולם כבר גילו שהגבול בין סביבת בדיקה סגורה לבין האינטרנט האמיתי לא תמיד ברור. בעקבות שורה של תקריות שבהן מודלים מתקדמים יצאו מסביבות ניסוי, הגיעו למערכות אמיתיות ואף ניגשו למידע חסוי, מעבדות AI וחברות סייבר בוחנות מחדש כיצד בכלל צריך לבדוק את היכולות של המודלים החזקים ביותר.
במשך שנים, הכלל המקובל בעולם הסייבר היה פשוט: תוכנה מסוכנת בודקים בתוך "ארגז חול" - סביבה מבודדת שאינה מחוברת למערכות אמיתיות. כך בודקים נוזקות, אפליקציות ותוכנות ניסוי בלי להסתכן בכך שהן ישפיעו על משתמשים או ארגונים מחוץ למעבדה. הבעיה היא שמודלי AI מתקדמים נועדו יותר ויותר לפעול בעולם פתוח - להשתמש בכלים, לחפש מידע, לבצע משימות ולתקשר עם מערכות חיצוניות. אם בודקים אותם רק בסביבה מבודדת לחלוטין, ייתכן שלא ניתן יהיה להבין עד הסוף מה הם מסוגלים לעשות בתנאים אמיתיים.
לפתוח את האינטרנט - אבל בשליטה
חלק מאנשי הסייבר טוענים שסגירה מוחלטת של המודלים אינה בהכרח הפתרון. לדבריהם, כדי לבדוק אם מודל מסוגל לבצע פעולות מסוכנות בתרחיש אמיתי, צריך להציב אותו בתנאים שדומים ככל האפשר למציאות - כולל גישה מבוקרת לסביבות מקוונות.
Irregular Security, שחוותה בעצמה תקלות תצורה שאפשרו למודלים להגיע לאינטרנט במהלך הערכות, פועלת כעת עם גורמים נוספים בענף לגיבוש סטנדרטים חדשים. הרעיון הוא לאפשר רמת ריאליזם גבוהה יותר, אבל תוך יצירת גבולות, בקרה וניטור הדוקים בהרבה. מנכ"ל החברה דן להב טוען כי בלי קירבה לתרחיש האמיתי קשה למדוד את היכולת בפועל. מבחינתו, אם רוצים להבין מה מודל יכול לעשות מול מערכות, מסדי נתונים וכלים חיצוניים, אי אפשר להסתפק תמיד בסימולציה פשוטה.
OpenAI כבר הודיעה כי בעקבות האירועים תחזק את הניטור על מודלים שעדיין לא שוחררו לציבור. לפי החברה, המטרה היא לזהות התנהגות חריגה בזמן שהמודלים פותרים בעיות ומשתמשים בכלים מקוונים, ולהתריע לצוותי הבטיחות בתוך כ-30 דקות.
ככל שהמודלים נפתחים, הסיכון גדל
האתגר הופך משמעותי יותר ככל שמודלים מתקדמים נעשים זמינים יותר להורדה, להתאמה ולשימוש בידי מפתחים חיצוניים. ברגע שמודל יוצא משליטה ישירה של המעבדה שפיתחה אותו, קשה יותר לדעת באילו תנאים הוא נבדק ומה בדיוק נעשה איתו. מומחי אבטחה מזהירים גם מחוסר שקיפות, כאשר לא כל חברות ה-AI מפרסמות כיצד הן בודקות מודלים מתקדמים, אילו הרשאות הן מעניקות להם ואילו תקלות התרחשו במהלך הניסויים.
החשש הוא שלא כל האירועים כבר ידועים. אם מודל קיבל בטעות גישה למערכת אמיתית ולא זוהה בזמן, ייתכן שנפגעו ארגונים או משתמשים בלי שהדבר דווח לציבור.
מכאן נובע האתגר המרכזי של התעשייה: לבנות בדיקות שמצד אחד משקפות את העולם האמיתי, ומצד שני אינן מסכנות אותו. ככל שהמודלים נעשים אוטונומיים יותר ומקבלים גישה רחבה יותר לכלים, לאינטרנט ולמערכות חיצוניות, שיטות הבדיקה המסורתיות של עולם הסייבר נדרשות להתאים את עצמן למציאות החדשה.
