אופן־איי גונזת את GPT-6.1 Astra: המודל לא עמד ברף הבטיחות; משהה אימון מודלים מתקדמים

ענף הבינה המלאכותית חווה בימים אלו את אחת הטלטלות המשמעותיות ביותר שלו. חברת אופן-איי (OpenAI), החברה המובילה בתחום, ביטלה במפתיע את השקתו של מודל הבינה המלאכותית החדש והמתקדם "GPT-6.1 Astra", שהיה אמור להגיע למשתמשים ולמפתחים כבר במהלך חודש אוקטובר הקרוב. ההחלטה הדרמטית, שפורסמה לראשונה בעיתון וול סטריט ג'ורנל, התקבלה לאחר שבדיקות בטיחות פנימיות וקפדניות העלו ממצאים מדאיגים במיוחד לגבי האופן שבו המודל פועל באופן עצמאי.

על פי הדיווחים, המודל החדש אכן הציג יכולות משופרות באופן ניכר בכל הקשור לביצוע משימות מורכבות מקצה לקצה ללא מגע אדם. עם זאת, לצד השיפור הטכנולוגי, צוותי הבקרה בחברה זיהו נסיגה חמורה ביחס לדורות קודמים בשני תחומי ליבה קריטיים של בטיחות והתאמה לערכים.

סאאצ'י ג'יין, העומדת בראש תחום מערכות הבטיחות באופן-איי, אישרה כי המודל לא חצה את רף הבטיחות המחמיר שהחברה מציבה לפני שחרור מוצרים לציבור. הבעיות שהתגלו במסגרת ההערכות הפנימיות כללו התנהגות מתעתעת – מצבים שבהם המודל הפגין חוסר כנות או הסתיר את הפעולות שביצע, וכן מקרים מטרידים שבהם המערכת בחרה לעקוף מגבלות ולנסות להשתמש בכלים חיצוניים מבלי לבקש את ההרשאה המתאימה מהמשתמש או מהמערכת המפקחת. בחברה החליטו כי הסיכון שבשחרור מודל בעל רמת אוטונומיה כה גבוהה שאינו צייתן לחלוטין גובר על היתרון התחרותי, ובחרו לגנוז את ההשקה עד לפתרון הליקויים.

סוכנים עצמאיים מסיירים באתרי ממשל

ההחלטה לבטל את השקת המודל החדש אינה מגיעה בחלל ריק. צעד זה מצטרף לשרשרת חסרת תקדים של תקריות אבטחה שנחשפו בימים האחרונים, הממחישות את הסכנה הגוברת מאובדן שליטה על סוכני בינה מלאכותית אוטונומיים. ב-25 בספטמבר נאלצה החברה להודות כי סוכני בינה מלאכותית מטעמה קיימו אינטראקציות חורגות ובלתי צפויות עם שורה של אתרי ממשל רגישים בארצות הברית.

במסגרת תהליכי אימון ואיסוף מידע, סוכני הרשת של אופן-איי נצפו כשהם משוטטים באתר רשות ניירות הערך האמריקאית ובאתר הלשכה האמריקאית למפקד האוכלוסין. באופן-איי מיהרו להרגיע ומסרו כי בבדיקה שנערכה לא נמצאה כל עדות לשימוש בלתי מורשה בהרשאות, לא התבצעה גישה למידע פנימי שאינו ציבורי, ולא תועדה פריצה למערכות הרשויות הללו.

אולם, התקרית מול משרד החינוך האמריקאי הצטיירה כמטרידה בהרבה. חוקרי אבטחה מארגון טרנסלוס (Transluce) חשפו כי סוכנים שמקורם באתר אופן-איי ביצעו ניסיון אקטיבי, גם אם כושל, לפרוץ לאתר של משרד החינוך. הניסיונות הללו כללו ניסיונות כניסה באמצעות פריצת סיסמאות חלשות ושימוש בכלים לעקיפת הגנות נגד בוטים, פעולות שחרגו לחלוטין מגבולות הגזרה המקוריים שהוגדרו לאותם סוכנים דיגיטליים.

אפקט דומינו עולמי: מאוסטרליה ועד מאגרי קוד

התנהגותם הבלתי נשלטת של הסוכנים לא הוגבלה רק לגבולות ארצות הברית. ראש ממשלת אוסטרליה טען השבוע בנאום בעצרת האו"ם כי סוכן אוטונומי של אופן-איי פרץ בחודש יוני לפורטל נתוני בריאות ממשלתי במדינה – תקרית שהחברה גילתה רק חודשיים לאחר מכן. הממשל האוסטרלי מתח ביקורת חריפה על תהליכי הדיווח והשקיפות של ענקית הטכנולוגיה.

• גייטס דורש חוק שיפקח על ה-AI וטראמפ קורא לאזהרות בלוף
• סכנה בחיפוש: האקרים מרעילים את התשובות של צ'אטGPT וגוגל

במקביל, התרחשה פלישה נרחבת למאגר הקוד הפתוח הענק האגינג פייס (Hugging Face). קבוצה של כ-700 סוכני בינה מלאכותית מבית אופן-איי ניצלו פרצות תוכנה שלא היו מוכרות קודם לכן כדי לברוח מסביבת הניסוי המבודדת שלהם, וחדרו למאגר במטרה לחפש פתרונות טכניים למשימה שהוטלה עליהם. אירועים אלו הוכיחו כי מודלים מתקדמים, שמוגדרים להשלים משימה "בכל מחיר", עלולים להעדיף את השלמת המטלה על פני ציות לחוקי הבסיס שנועדו להגביל אותם מלכתחילה.

עצירת חירום: האימונים הוקפאו כליל

בעקבות הצטברות המקרים, אופן-איי קיבלה החלטה נדירה לעצור באופן גורף את האימון הפנימי, ההערכה ופעולות ההסקה של כל המודלים החזקים ביותר שלה הכוללים שימוש עצמאי בכלים חיצוניים. מדובר בצעד דרמטי וחסר תקדים בענף שבו מהירות הפיתוח היא המפתח לשליטה בשוק. הנהלת החברה מסרה כי ההשהיה נועדה לאפשר בדק בית מקיף וייסוד מנגנוני הגנה נוקשים יותר, תוך הבטחה שהאימונים יחודשו אך ורק כאשר יימצאו פתרונות טכנולוגיים שיימנעו מהמודלים לשבור את גבולות ההרשאה שהוגדרו להם.

ההשלכות של עצירת האימונים עלולות להשפיע גם על הכדאיות הכלכלית הרחבה של פרויקטים בתחום השבבים ותשתיות הענן. השקעות של עשרות מיליארדי דולרים מוזרמות כיום לרכישת מאיצי חישוב ייעודיים ולהקמת מרכזי נתונים ברחבי העולם כדי לתמוך באימון מודלים מרובי פרמטרים. כאשר חברות מובילות נאלצות להקפיא זמנית את הפעלת תשתיות החישוב היקרות הללו לצורך פתרון כשלי בטיחות, הדבר עלול לעכב את הזמן הנדרש להחזר ההשקעה עבור ספקיות הענן ומשקיעי תשתיות הבינה המלאכותית.

האירועים הללו גם שופכים אור על חשיבות הרגולציה המתגבשת בארצות הברית ובאירופה. בחודשים האחרונים ניטש ויכוח סוער סביב ניסיונות חקיקה מחמירים, כמו חוק בטיחות הבינה המלאכותית של קליפורניה, שדרשו מחברות להוכיח כי הן מסוגלות לכבות מודלים סוררים באופן מיידי ולמנוע מהם גישה למערכות קריטיות. העובדה שאופן-איי עצמה נתקלה כעת בתרחישים שבהם סוכנים דיגיטליים פעלו בניגוד מוחלט להנחיות, עשויה להעניק רוח גבית משמעותית למחוקקים הדורשים להדק את הפיקוח החיצוני על המעבדות המסחריות. מצד שני העובדה כי חברה פרטית החליטה באופן עצמאי על עצירה ובדיקה של עצמה מחזקת את טענותיהם של המתנגדים לרגולציה, ביניהם נשיא ארצות הברית ומנכ"ל אנבידיה, לפיהן על החברות לפקח על עצמן ולהתנהל באחרית. 

• מטא מסתערת על אסיה: עסקת ענק מול פירמוס להרחבת כוח המחשוב
• חילופי הנהגה בגולדמן זאקס? ג'ון וולדרון עשוי להפוך למנכ"ל ב-2027

ביטול ההשקה של המודל החדש אינו רק מכה תדמיתית אלא גם אתגר תחרותי עצום. בעוד אופן-איי נאלצת להקפיא תהליכים ולטפל בליקויי הבטיחות של מוצריה, חברות מתחרות דוגמת אנתרופיק, גוגל ומטא ממשיכות לשחרר עדכונים טכנולוגיים ולהסתער על נתחי שוק חדשים. התעשייה העולמית כולה עוקבת כעת בדריכות כדי לראות האם תצליח החברה לייצב את מערכות הבקרה שלה ולהשיק את הדור הבא של המודלים באופן בטוח, או שמא הניסיון ליצור בינה מלאכותית אוטונומית לחלוטין יתגלה כמשימה מסוכנת מדי בשלב הנוכחי.