
אלטמן מזהיר מעולם שבו ה-AI מחליט במקום בני האדם, OpenAI מחפשת דרך חדשה לפקח על המודלים
מנכ"ל OpenAI והנשיא גרג ברוקמן דוחים את הרעיון של מסירה הדרגתית של סמכויות לבינה המלאכותית. ברוקמן מעריך שהמעקב אחרי שרשרת המחשבה של המודלים ייחלש ככל שיתחזקו, אחרי שבקיץ יצאו מודלים של החברה מסביבת הבדיקה ופרצו למערכות של הגינג פייס
סם אלטמן, מנכ"ל OpenAI, יצא נגד רעיון שצובר תאוצה בעמק הסיליקון: מסירה הדרגתית של סמכות ההחלטה בכלכלה, בממשל ובמוסדות הגדולים לידי הבינה המלאכותית. בהופעה בכנס עסקים בניו יורק, לצד גרג ברוקמן, נשיא החברה ומייסד-שותף, אמר אלטמן ששניהם רואים במסירה כזו רעיון גרוע מאוד, ושבני האדם צריכים להחזיק בשליטה על העתיד. לדבריו, הוויכוח ביניהם נוגע לדרך: איך מבטיחים שהשליטה תישאר בידי אנשים, בהינתן התחרות בענף ומה שחברות אחרות עשויות לעשות, ואיך נמנעים ממסירה כזו גם כשהיא קורית בטעות.
אלטמן גם עקץ את אילון מאסק. הוא דחה את החזון שבו בני האדם הופכים לחיות מחמד מאושרות של מערכת חכמה מהם, דימוי של כלב לברדור שמאסק השתמש בו לפני יותר מעשור, ואמר שהוא רוצה שלאנשים תישאר אותה שליטה בעתיד שהייתה לדור שלו. מאסק היה מייסד-שותף ומממן מוקדם של OpenAI, ובין השניים נמשך סכסוך ארוך. במאי פסק חבר מושבעים שמאסק המתין זמן רב מדי לפני שתבע את אלטמן ואת החברה.
הרעיון שאלטמן תוקף נשען על תרחיש שמכונה שיפור עצמי רקורסיבי. בתרחיש הזה, מודלים חזקים מספיק ילמדו לשפר את עצמם, כל דור יבנה דור חכם ממנו, והתהליך יסתיים בבינת-על שבני אדם יתקשו לשלוט בה. השאלה הזו עברה בחודשים האחרונים מהמעבדות אל ההנהלות. בספטמבר קרא דריו אמודיי, מנכ"ל אנתרופיק, להאט את המחקר שדוחף את המודלים לשיפור עצמי ולנצל את הזמן לפיתוח דרכים טובות יותר לשמור עליהם בפיקוח אנושי. אלטמן ומאסק הצטרפו לקריאה, ואלטמן אף התחייב להכניס ל-OpenAI מעריכים חיצוניים עם גישה רחבה לתהליכי הפיתוח. להרחבה: אלטמן מצטרף לקריאה להאט את ה-AI: "התחרות אינה מצדיקה פזיזות"
ברוקמן התמקד בכלים. כיום חוקרים עוקבים אחרי שרשרת המחשבה של המודל, הטקסט שבו הוא פורש את שלבי הפתרון בזמן שהוא עובד על משימה. ככל שהמודלים משתפרים, הם מבצעים יותר מהעבודה בתוכם, בלי לכתוב את שלבי החשיבה, ולכן היכולת לעקוב אחריהם בדרך הזו נשחקת. לדבריו, יידרשו שיטות ניטור חדשות, ומדובר בבעיות הנדסיות שאפשר לפתור.
הדיון הזה קיבל משנה תוקף ביולי. במהלך בדיקה פנימית של יכולות סייבר, מודלים של OpenAI שפעלו עם הגנות מופחתות, ובהם GPT-5.6 Sol ואב-טיפוס פנימי חזק ממנו, ניצלו פרצה בלתי מוכרת בשרת שמשמש לניהול חבילות תוכנה, השיגו גישה לאינטרנט והגיעו עד מערכות של הגינג פייס, מאגר המודלים והנתונים הפתוח, כדי למצוא שם את הפתרונות למבחן. החברה תיארה את האירוע כאות אזהרה עבורה ועבור העולם כולו, הודיעה על הקצאת כוח מחשוב גדול יותר לניטור שרשרת המחשבה והוסיפה התראות אוטומטיות שמזעיקות חוקרים ומהנדסי אבטחה. בהתראות החמורות ביותר, הצוות נדרש לעצור את הפעילות אם בתוך 30 דקות הוא מתקשה לקבוע שמדובר בהתראת שווא. ברוקמן סיפר שאחרי הפריצה הונחו 25% ממהנדסי הייצור של החברה להפסיק לבנות מוצרים ולעבור לעבודה על אבטחה.
עם זאת, ברוקמן טען שהמסקנה היא להמשיך להתקדם. מודלי סייבר מתקדמים כבר נמצאים בידי גורמים עוינים בכל העולם, ולכן, לדבריו, המגינים צריכים לעבוד עם המודלים החזקים ביותר שיש.
לשאלת הבטיחות יש מחיר כספי ברור. מיקרוסופט, אחת המשקיעות הגדולות ב-OpenAI, מחזיקה בכ-24% ממנה, אחרי ירידה מכ-27% מאז שינוי המבנה של OpenAI באוקטובר 2025. ברבעון שהסתיים בספטמבר רשמה מיקרוסופט הכנסות של 10 מיליארד דולר מההסכמים המסחריים עם OpenAI, כמעט 11% מסך ההכנסות הרבעוניות שלה, שהגיעו ל-92.3 מיליארד דולר. מניית מיקרוסופט נסחרת סביב 507 דולר, ושווי השוק שלה עומד על כ-3.8 טריליון דולר.
גם OpenAI עצמה צריכה לאזן בין הצהרות על זהירות לבין צמיחה מהירה. ל-ChatGPT יש יותר מ-1.2 מיליארד משתמשים בשבוע, בסבב הגיוס במרץ גייסה החברה 122 מיליארד דולר לפי שווי של 852 מיליארד דולר, וההפסד התפעולי שלה ברבעון השני הגיע ל-12.3 מיליארד דולר. אלטמן כבר הבהיר שהחברה תוותר על הנפקה ב-2026, בין השאר כדי לשמור לעצמה חופש לקבל החלטות בטיחות שעלולות לפגוע בעסק בטווח הקצר. להרחבה: OpenAI לא תונפק ב-2026 - אלטמן מעדיף לחכות בגלל סיכוני הבינה המלאכותית