אופן־איי גונזת את GPT-6.1 Astra: המודל לא עמד ברף הבטיחות; משהה אימון מודלים מתקדמים

טלטלה בענף הבינה המלאכותית: אופן-איי ביטלה במפתיע את השקתו של מודל הבינה המלאכותית החדש והמתקדם "GPT-6.1 Astra", שהיה אמור להגיע למשתמשים ולמפתחים כבר באוקטובר. ההחלטה התקבלה אחרי שבדיקות בטיחות פנימיות העלו ממצאים מדאיגים לגבי האופן שבו המודל פועל בכוחות עצמו.

המודל החדש הציג יכולות חזקות בהרבה בביצוע משימות מורכבות מקצה לקצה, בלי מגע אדם. אבל לצד השיפור, צוותי הבקרה זיהו נסיגה חמורה לעומת דורות קודמים בשני תחומים קריטיים: בטיחות והתאמה לערכים.

סאאצ'י ג'יין, העומדת בראש תחום מערכות הבטיחות באופן-איי, אישרה שהמודל לא עמד ברף הבטיחות שהחברה מציבה לפני שחרור מוצרים לציבור. בין הבעיות שהתגלו: התנהגות מתעתעת, מצבים שבהם המודל הפגין חוסר כנות או הסתיר את הפעולות שביצע, וכן מקרים מטרידים שבהם המערכת בחרה לעקוף מגבלות ולנסות להשתמש בכלים חיצוניים מבלי לבקש את ההרשאה המתאימה מהמשתמש או מהמערכת המפקחת. בחברה החליטו כי הסיכון שבשחרור מודל בעל רמת אוטונומיה כה גבוהה שאינו צייתן לחלוטין גובר על היתרון התחרותי, ובחרו לגנוז את ההשקה עד לפתרון הליקויים.

סוכנים עצמאיים מסיירים באתרי ממשל

ההחלטה לבטל את השקת המודל החדש אינה מגיעה בחלל ריק. צעד זה מצטרף לשרשרת חסרת תקדים של תקריות אבטחה שנחשפו בימים האחרונים, הממחישות את הסכנה הגוברת מאובדן שליטה על סוכני בינה מלאכותית אוטונומיים. ב-25 בספטמבר נאלצה החברה להודות כי סוכני בינה מלאכותית מטעמה קיימו אינטראקציות חורגות ובלתי צפויות עם שורה של אתרי ממשל רגישים בארצות הברית.

במסגרת תהליכי אימון ואיסוף מידע, סוכני הרשת של אופן-איי נצפו כשהם משוטטים באתר רשות ניירות הערך האמריקאית ובאתר הלשכה האמריקאית למפקד האוכלוסין. באופן-איי מיהרו להרגיע ומסרו כי בבדיקה שנערכה לא נמצאה כל עדות לשימוש בלתי מורשה בהרשאות, לא התבצעה גישה למידע פנימי שאינו ציבורי, ולא תועדה פריצה למערכות הרשויות הללו.

אולם, התקרית מול משרד החינוך האמריקאי הצטיירה כמטרידה בהרבה. חוקרי אבטחה מארגון טרנסלוס (Transluce) חשפו כי סוכנים שמקורם באתר אופן-איי ביצעו ניסיון אקטיבי, גם אם כושל, לפרוץ לאתר של משרד החינוך. הניסיונות הללו כללו ניסיונות כניסה באמצעות פריצת סיסמאות חלשות ושימוש בכלים לעקיפת הגנות נגד בוטים, פעולות שחרגו לחלוטין מגבולות הגזרה המקוריים שהוגדרו לאותם סוכנים דיגיטליים.

אפקט דומינו עולמי: מאוסטרליה ועד מאגרי קוד

ההתנהגות הזאת לא נעצרה בגבולות ארצות הברית. ראש ממשלת אוסטרליה טען השבוע בנאום בעצרת האו"ם כי סוכן אוטונומי של אופן-איי פרץ בחודש יוני לפורטל נתוני בריאות ממשלתי במדינה , תקרית שהחברה גילתה רק חודשיים לאחר מכן. הממשל האוסטרלי מתח ביקורת חריפה על תהליכי הדיווח והשקיפות של ענקית הטכנולוגיה.

• OpenAI משיקה ארנק ל-ChatGPT: הסוכן קונה, ויזה ומאסטרקארד סולקות
• ארבע עמותות תבעו את ענקיות ה-AI בקליפורניה ומבקשות לעצור את פיתוח המודלים המתקדמים

במקביל, התרחשה פלישה נרחבת למאגר הקוד הפתוח הענק האגינג פייס (Hugging Face). קבוצה של כ-700 סוכני בינה מלאכותית מבית אופן-איי ניצלו פרצות תוכנה שלא היו מוכרות קודם לכן כדי לברוח מסביבת הניסוי המבודדת שלהם, וחדרו למאגר במטרה לחפש פתרונות טכניים למשימה שהוטלה עליהם. האירועים האלה הראו שמודלים מתקדמים, שמוגדרים להשלים משימה "בכל מחיר", עלולים להעדיף את השלמת המטלה על פני ציות לחוקי הבסיס שנועדו להגביל אותם מלכתחילה.

עצירת חירום: האימונים הוקפאו כליל

אחרי שהמקרים הצטברו, אופן-איי החליטה לעצור באופן גורף את האימון הפנימי, ההערכה ופעולות ההסקה של כל המודלים החזקים ביותר שלה הכוללים שימוש עצמאי בכלים חיצוניים. זה צעד חסר תקדים בענף שבו מהירות הפיתוח קובעת מי שולט בשוק. בחברה אומרים שההשהיה נועדה לבדק בית ולבניית מנגנוני הגנה קשוחים יותר, ושהאימונים יחודשו רק כשיימצאו פתרונות שימנעו מהמודלים לפרוץ את גבולות ההרשאה שלהם.

ההשלכות של עצירת האימונים עלולות להשפיע גם על הכדאיות הכלכלית הרחבה של פרויקטים בתחום השבבים ותשתיות הענן. השקעות של עשרות מיליארדי דולרים מוזרמות כיום לרכישת מאיצי חישוב ייעודיים ולהקמת מרכזי נתונים ברחבי העולם כדי לתמוך באימון מודלים מרובי פרמטרים. כאשר חברות מובילות נאלצות להקפיא זמנית את הפעלת תשתיות החישוב היקרות הללו לצורך פתרון כשלי בטיחות, הדבר עלול לעכב את הזמן הנדרש להחזר ההשקעה עבור ספקיות הענן ומשקיעי תשתיות הבינה המלאכותית.

האירועים הללו גם שופכים אור על חשיבות הרגולציה המתגבשת בארצות הברית ובאירופה. בחודשים האחרונים ניטש ויכוח סוער סביב ניסיונות חקיקה מחמירים, כמו חוק בטיחות הבינה המלאכותית של קליפורניה, שדרשו מחברות להוכיח כי הן מסוגלות לכבות מודלים סוררים באופן מיידי ולמנוע מהם גישה למערכות קריטיות. העובדה שאופן-איי עצמה נתקלה כעת בתרחישים שבהם סוכנים דיגיטליים פעלו בניגוד מוחלט להנחיות, עשויה להעניק רוח גבית משמעותית למחוקקים הדורשים להדק את הפיקוח החיצוני על המעבדות המסחריות. מצד שני העובדה כי חברה פרטית החליטה באופן עצמאי על עצירה ובדיקה של עצמה מחזקת את טענותיהם של המתנגדים לרגולציה, ביניהם נשיא ארצות הברית ומנכ"ל אנבידיה, לפיהן על החברות לפקח על עצמן ולהתנהל באחרית. 

• מחירי הגז בעולם זינקו פי שלושה - ואירופה חוששת ממשבר אנרגיה בחורף
• מנכ"ל אנתרופיק מזהיר: קשה לדעת כמה להשקיע במרוץ ה-AI

יום לפני ועידת המפתחים, ולחץ מכל הכיוונים

לתזמון יש משמעות: ההחלטה על הגניזה התקבלה יום אחד בלבד לפני ועידת המפתחים השנתית של אופן-איי, האירוע שבו החברה נוהגת להציג את חידושיה הגדולים. "אנחנו רוצים כמובן לוודא שפיתוח המודלים שלנו בטוח, בין אם הוא מתרחש בתוך החברה ובין אם מדובר במודל שאנחנו משחררים למשתמשים", אמרה סאאצ'י ג'יין, ראש תחום מערכות הבטיחות של החברה. "כשאנחנו משיקים מודל למשתמשים, אנחנו מציבים רף גבוה במיוחד בכל הנוגע לבטיחות ולהתאמה לערכים אנושיים". לדבריה, בתחום הזה יש תמיד פשרה: "צריך למצוא את האיזון הנכון בין שמירה על גבולות ברורים לבין הימנעות ממצב שבו המודל פשוט מוותר או פועל בצורה שטחית כשהוא נתקל בקושי".

הגניזה בולטת עוד יותר על רקע הקצב שאופן-איי עצמה הכתיבה: את GPT-6 אסטרה היא השיקה רק בתחילת החודש, כשהמנכ"ל סם אלטמן תיאר אותו כתוצר של "שנים של מחקר והימורים גדולים" והבטיח "רמת יכולות חדשה". בשבוע שעבר נוספו למשפחה שתי גרסאות, GPT-6 Sol ו-GPT-6 Luna, ומודלים נוספים הובטחו בקרוב. במקביל התחייבה החברה להגדיל משמעותית את ההשקעה במערכות ההגנה ובתחום ה-Alignment, שנועד לוודא שהמודלים פועלים בהתאם לכוונות ולערכים של בני אדם.

ומעל הכל מרחף המתח הפוליטי. ממשל טראמפ רואה בבינה המלאכותית זירת תחרות אסטרטגית מול סין ומתנגד בפומבי לקריאות להאט, והנשיא עצמו כתב החודש ברשת Truth Social: "הדבר היחיד ש-AI זקוקה לו, או ל'מעקות בטיחות', הוא נשיא חזק וחכם (עם IQ גבוה!), ולארה"ב יש כזה בשפע!". מנגד, בכירי אנתרופיק קראו החודש לענף כולו להאט את קצב הפיתוח, אלטמן דווקא הביע תמיכה בקריאה, והבוקר כתבנו כאן על תשקיף ההנפקה של אנתרופיק, שבו היא מזהירה במפורש מסיכונים קיומיים לאנושות. ההחלטה לגנוז את אסטרה 6.1 היא בדיוק נקודת המפגש של שני הכוחות האלה: מרוץ מסחרי ופוליטי שדוחף קדימה, ומציאות הנדסית שמסרבת להתיישר.

ביטול ההשקה של המודל החדש אינו רק מכה תדמיתית אלא גם אתגר תחרותי עצום. בעוד אופן-איי נאלצת להקפיא תהליכים ולטפל בליקויי הבטיחות של מוצריה, חברות מתחרות דוגמת אנתרופיק, גוגל ומטא ממשיכות לשחרר עדכונים טכנולוגיים ולהסתער על נתחי שוק חדשים. התעשייה העולמית כולה עוקבת כעת בדריכות כדי לראות האם תצליח החברה לייצב את מערכות הבקרה שלה ולהשיק את הדור הבא של המודלים באופן בטוח, או שמא הניסיון ליצור בינה מלאכותית אוטונומית לחלוטין יתגלה כמשימה מסוכנת מדי בשלב הנוכחי.