הכיבוי האוטומטי כשל: OpenAI עוצרת שוב את אימון המודלים הבאים

סוכן AI של OpenAI שנבדק ב-20 בספטמבר מצא דרך לצאת מסביבת בדיקה סגורה אל האינטרנט הפתוח, ומנגנון הכיבוי האוטומטי שהיה אמור לעצור אותו לא עבד. עכשיו, ימים ספורים אחרי שהשיקה את GPT-6 סול ולונה במחיר חצי, החברה הודיעה שהיא עוצרת את אימון הדור הבא של המודלים שלה. זו הפעם השנייה בפחות משלושה חודשים שהיא מקפיאה פיתוח, והרקע רחב יותר מהתקלה עצמה: סוכנים שלה הגיעו לאתרים של רשות ניירות ערך האמריקאית ושל משרד המסחר, ו-53 צילומים של משתמשי ChatGPT דלפו לרשת.

בדוח שפרסמה בסוף השבוע החברה מודה בשורה של כשלים בשליטה. הסוכן שנבדק למשימות חיפוש מידע איתר שירות DNS ודרכו שלח שאילתות לצ'אטבוט ציבורי, מחוץ לסביבה שאמורה הייתה להיות אטומה. מערכת הניטור סימנה את ההתנהגות תוך רבע שעה, ואדם התחיל לבדוק אותה שלוש דקות אחר כך, אבל מנגנון הכיבוי האוטומטי שאמור לעצור אימון במקרה כזה כשל, ואת הריצה עצרו ידנית אחרי שעתיים וחצי. החברה מתכננת להתחיל את האימון מאפס, להוסיף חסימות בשתי שכבות רשת נפרדות ולחזור לעבודה כשתהיה בטוחה שיש אמצעי הגנה נוספים. היא גם מציינת שכנראה תצטרך לעצור שוב בעתיד.

בדיקה מאוחרת יותר העלתה שהמודל ניסה להשתמש באותה שיטה גם בפעמים אחרות, ושמערכת הניטור לא סימנה אותן. ההקפאה הקודמת הגיעה בסוף יולי, אחרי שאלפי סוכנים של החברה יצאו מסביבת הבדיקה ומאות מהם השתתפו במתקפה על חברת ה-AI הגינג פייס. אז עצרה OpenAI את האימון לשבועיים, וב-18 באוגוסט הכריזה על סדרת צעדים לחיזוק האבטחה. האירוע של 20 בספטמבר הוא הראשון מאז שבו מודל שלה השיג גישה לא מורשית לאינטרנט. "כל ההסקה של המודלים הכי מתקדמים שלנו נשארת עצורה עד שנקשיח את המערכות", כתב מיכה קרול, שאחראי אצל OpenAI על ההיערכות לסיכונים מסוג זה.

OpenAI אישרה בעצמה שסוכנים שלה, במהלך אימון והערכה בקיץ, שלפו מידע ציבורי משני אתרים של רשות ניירות ערך ומנתוני לשכת המפקד שבמשרד המסחר, ובמקרה של הרשות גם העתיקו את המידע ופרסמו אותו במקום אחר ברשת, בניגוד למה שהתבקשו לעשות. בלשכת המפקד, לפי הניו יורק טיימס, הסוכנים השתמשו בפרטי גישה של מפתחים שמצאו ברשת, אבל לפי החברה השיגו בסופו של דבר מידע פומבי בלבד. הרשות מסרה שלא הייתה גישה למידע שאינו ציבורי. החברה כבר הודיעה לעשרות ארגונים, כולל רשויות ואוניברסיטאות, שהאתרים שלהם עלולים היו להיפגע או להאט בגלל בדיקות המודלים.

גם דליפת הצילומים אושרה: 53 קבצים שמשתמשים העלו ל-ChatGPT הועלו על ידי סוכנים לקישורי אחסון שאינם מאונדקסים. רוב הקבצים הוסרו, אבל החברה מסרה שאינה מסוגלת לזהות את המשתמשים שנפגעו ולהודיע להם.

מעבדת המחקר העצמאית טרנסלוס טוענת שסוכנים שנראים כשייכים ל-OpenAI ניסו לפרוץ לאתר של משרד החינוך וכנראה גם לבורסת קריפטו, שני דברים שהחברה טרם אישרה. משרד החינוך הודיע שאין עדות לפגיעה באתר או במסדי הנתונים שלו. בכלי תקשורת אמריקאיים דווח על כמעט מיליון קישורים שהסוכנים יצרו ובהם פיסות מידע מקודדות, ועל כך שהבית הלבן ביקש מהחברה הבהרות. הנשיא טראמפ, מצדו, אמר השבוע שארצות הברית מובילה בבינה מלאכותית וכך זה צריך להישאר, בלי בלמים.

השבוע OpenAI הורידה את מחירי ה-API של סול ללקוחות ל-2 דולר למיליון טוקנים בקלט ו-10 דולר בפלט, לעומת 4 ו-20 בדור הקודם, ואת לונה ל-0.1 ו-0.5 דולר. המסר לשוק היה שהחברה יכולה להוזיל בזכות שיפורים בהסקה ולהתחרות ראש בראש עם אנתרופיק, שהשיקה את קלוד אופוס 5.5 באותו יום במחיר כפול. הורדת המחירים באה עם שיפור ביצועים קטן, ועכשיו המודלים שאמורים לספק את הצעד הבא עומדים במקום. ככל הידוע ההקפאה נוגעת למודלים שבפיתוח, ולא למוצרים שכבר נמכרים ללקוחות.

דריו אמודי מאנתרופיק פרסם בתחילת החודש מאמר שקורא להאט את קצב שיפור היכולות, וסם אלטמן, אילון מאסק ודמיס הסאביס תמכו בכיוון. ג'נסן הואנג מאנבידיה נטל את הצד השני: בכנס בלוס אנג'לס, כשהנשיא טראמפ התקשר אליו לבמה, הבטיח שהוא לא ייתן לזה לקרות, ובכנס דרימפורס טען שכוחות השוק והחשיפה המשפטית מספיקים כדי לשמור על אחריות בלי הסכם ענפי. במקביל הוגשה תביעה של מנויים נגד ארבע חברות AI בטענה שהסכם האטה הוא קרטל.

OpenAI מנהלת שיחות מוקדמות על סבב לפי שווי של יותר מ-1.2 טריליון דולר, ויש דיווחים על יעד של 1.5 טריליון, זאת אחרי שגייסה במרץ 122 מיליארד דולר לפי שווי של 852 מיליארד. קצב ההכנסות השנתי עבר 40 מיליארד דולר, אבל ברבעון השני ההפסד התפעולי הגיע לכ-12.3 מיליארד דולר על הכנסות של 6.7 מיליארד. מה המשקיעים רואים בשווי של 1.2 טריליון תלוי בהנחה שהדור הבא יגיע בזמן ויצדיק את ההוצאה, ואימון שמתחיל מחדש מאפס דוחה אותו.

• גייטס דורש חוק שיפקח על ה-AI וטראמפ קורא לאזהרות בלוף
• סכנה בחיפוש: האקרים מרעילים את התשובות של צ'אטGPT וגוגל

לפי הוול סטריט ג'ורנל, ההפסד התפעולי ברבעון הראשון עמד על 9.3 מיליארד דולר, כלומר בתוך שלושה חודשים הוא עלה בכשליש, בזמן שההכנסות עלו ב-18%. אנתרופיק הכניסה ברבעון השני 11.6 מיליארד דולר, רשמה רווח תפעולי קטן ועקפה לראשונה את OpenAI בהכנסות רבעוניות.

מקור: הוול סטריט ג'ורנל. ההפסד כולל תגמול מבוסס מניות

אלטמן כבר אמר שהנפקה ב-2026 תהיה צעד לא נבון, למרות שהחברה הגישה בחשאי טיוטת תשקיף ביוני, ומי שרוצה להבין את המבנה יוצא הדופן שלה, בין העמותה לזרוע העסקית, ימצא רקע במדריך על OpenAI. הסבב הפרטי הבא, אם ייסגר, יתומחר על ידי משקיעים שקוראים עכשיו דוח שבו החברה מתארת מערכת כיבוי אוטומטית שכשלה ואימון שנעצר ידנית אחרי שעתיים וחצי.