OpenAI מיישרת קו עם טראמפ: הממשל יבדוק כל מודל 30 יום לפני השקה

OpenAI מיישרת קו עם הממשל האמריקאי. החברה הודיעה כי תשתף פעולה עם הצו הנשיאותי החדש של דונלד טראמפ, שמבקש מחברות בינה מלאכותית לאפשר לממשל לבדוק מודלים מתקדמים לפני שהם יוצאים לציבור. מדובר בצו וולונטרי - החברות אינן מחויבות פורמלית לקבל אישור מהממשלה לפני השקה - אך בפועל זהו שינוי משמעותי ביחסים בין תעשיית ה-AI לבין המדינה.

ג'ורג' אוסבורן, ראש פעילות המדינות של OpenAI ולשעבר שר האוצר של בריטניה, אמר כי החברה תצטרף למסגרת החדשה. לדבריו, לממשלות דמוקרטיות יש תפקיד חשוב בדרך שבה טכנולוגיה כזו נפרסת ומשמשת את הציבור. זו אמירה לא מקרית. OpenAI מבינה שהמודלים שהיא מפתחת כבר אינם עוד מוצר תוכנה רגיל. מדובר בתשתית שיכולה להשפיע על סייבר, תעסוקה, חינוך, ביטחון, מידע ציבורי ותחרות בין מדינות.

הצו שטראמפ חתם עליו מבקש מחברות AI לתת לממשל גישה למודלים מתקדמים עד 30 יום לפני השקתן. המטרה היא לבצע בדיקות מדידה, בעיקר סביב יכולות סייבר מתקדמות, ולהחליט האם מודל מסוים נכנס להגדרה של מודל חזית - מודל חזק מספיק כדי להצדיק בדיקה ממשלתית מוקדמת.

הפרטים המלאים של הרף לא יהיו גלויים. לפי הצו, הממשל יגבש תהליך מדידה מסווג שיבחן את היכולות של המודלים, בעיקר היכולת לאתר חולשות, לכתוב קוד, לבצע פעולות סייבר מורכבות או לסייע בתקיפות. הממשל רוצה לזהות מראש מתי כלי AI הופך מכלי עבודה למערכת שיכולה לייצר סיכון ביטחוני.

על הנייר, הצו של טראמפ אינו רגולציה קשיחה. אין בו חובת רישוי, אין בו מנגנון אישור מחייב, והממשלה אינה מקבלת סמכות מפורשת לעצור השקה. זה חשוב, כי הממשל האמריקאי עדיין מנסה לשמור על קו עדין: מצד אחד להראות שהוא מטפל בסיכוני AI, מצד שני לא להצטייר כמי שמאט את ארה"ב מול סין.

אך כאשר OpenAI אומרת שהיא תשתף פעולה, וגם חברות אחרות כמו גוגל, מיקרוסופט, xAI ואנתרופיק כבר נמצאות בשיח דומה עם הממשל, קשה לראות חברה גדולה שתסרב. אף חברה לא תרצה להיראות כמי שמסתירה מהממשל מודל עם יכולות סייבר רגישות. המסגרת הוולונטרית יכולה להפוך בפועל לסטנדרט מחייב.

זה קורה בהרבה תחומים רגולטוריים: המדינה לא תמיד צריכה לאסור או לחייב כדי לשנות התנהגות. מספיק שהיא יוצרת מסגרת, והחברות הגדולות נכנסות אליה כדי לא להסתכן במוניטין, ביחסים עם לקוחות ממשלתיים או בביקורת ציבורית.

עבור OpenAI, ההצטרפות למסגרת הזו גם משרתת מטרה עסקית. החברה מנסה לשדר שהיא לא רק מובילת שוק, אלא גם שחקן אחראי. ככל שהיא מתקרבת לשלב של הנפקה או גיוסי ענק נוספים, שאלות של בטיחות, ממשל תאגידי ויחסים עם רגולטורים יהפכו לחשובות יותר. שוק ההון אוהב צמיחה, אך הוא אוהב גם ודאות. אם OpenAI תצליח להראות שהיא עובדת עם הממשל במקום להילחם בו, זה עשוי להקל עליה מול משקיעים, לקוחות ורגולטורים.

הצו החדש מסמן מעבר משלב שבו חברות AI פיתחו, בדקו והשיקו בעצמן, לשלב שבו המדינה רוצה להיות בתוך התהליך לפני הציבור. זה לא אומר שהממשל יכתוב את המודלים או יקבע אילו מוצרים יעלו לאוויר, אך הוא יקבל חלון הצצה מוקדם. במונחי תעשייה, זה שינוי גדול.

• טראמפ דורש לקבל גישה למודלים מתקדמים של AI - לפני שהם יוצאים לשוק
• גל הנפקות הענק שמאיים לייבש את השוק - מהיכן יגיעו 300 מיליארד דולר?

הסיבה היא קפיצת היכולות. מודלים חדשים כבר יכולים לכתוב קוד מורכב, לסייע בניתוח מערכות, לאתר חולשות אבטחה, לתכנן תהליכים ולשלב מידע ממקורות שונים. אלה יכולות יעילות לחברות, חוקרים ומפתחים. הן גם יכולות להיות מסוכנות אם הן מגיעות לידיים של גורמים עוינים.

החשש המרכזי בממשל הוא שמודלי AI מתקדמים ישמשו למתקפות סייבר, ריגול, פגיעה בתשתיות קריטיות או האצה של פיתוח טכנולוגיות רגישות במדינות יריבות. הדגש בצו אינו על כל מודל AI, אלא על מודלים עם יכולות סייבר מתקדמות. הממשל אינו רוצה לבדוק כל צ'אטבוט, אלא את השכבה העליונה של המודלים החזקים.

במקביל, המהלך מתחבר גם לקריאה החריגה של אנתרופיק להאטה עולמית בפיתוח מודלים מתקדמים. אנתרופיק הזהירה לאחרונה ממודלים שעלולים להתקרב ליכולת לשפר את עצמם ללא התערבות אנושית. OpenAI אינה הולכת עד כדי קריאה לעצירה, אך ההסכמה שלה למסגרת של בדיקה מוקדמת מראה שגם היא מבינה שהשיח השתנה. תעשיית ה-AI כבר לא יכולה להגיד לממשלות: תסמכו עלינו.

מי מרוויח ומי עלול להיפגע?

המרוויחות הראשונות מהמסגרת החדשה עשויות להיות דווקא החברות הגדולות. OpenAI, גוגל, מיקרוסופט, מטא ואנתרופיק יכולות להרשות לעצמן צוותי בטיחות, משפטנים, מערכות בדיקה, עבודה מול ממשלות ותהליכי ציות. סטארט אפים קטנים יותר יתקשו יותר, בעיקר אם המסגרת הוולונטרית תהפוך בהדרגה לדרישה בלתי רשמית מצד לקוחות, משקיעים ורגולטורים.

זה בדיוק החשש של מבקרי הרגולציה: בשם הבטיחות, נוצר יתרון לגודל. ככל שהכללים מורכבים יותר, כך החברות הגדולות מתחזקות. מצד שני, אלה גם החברות שמפתחות את המודלים החזקים, ולכן קשה לטעון שהן אינן צריכות פיקוח.

• אנתרופיק קוראת להאט את מרוץ ה-AI - מגיעים לקו הסכנה
• נחשפת לראשונה: Willow יוצאת לאור עם גיוס של 7 מיליון דולר כדי לפקח על סוכני AI

עבור ענקיות הענן והשבבים, המהלך עשוי להוסיף שכבה נוספת של חשיבות. מי שמספק את כוח המחשוב, כולל מיקרוסופט (MSFT), גוגל (GOOG), אמזון (AMZN) ואנבידיה (NVDA), יהפוך לחלק מהתשתית שעליה מבוסס גם הפיקוח. אם הממשל ירצה להבין מי מאמן איזה מודל, איפה, ועל איזה ציוד, ספקיות הענן יהיו חלק מהתמונה.

מבחינת המשקיעים, זו תזכורת לכך ש-AI הוא כבר לא רק סיפור של הכנסות וצמיחה. זה גם סיפור של מדינה, ביטחון, סייבר ורגולציה. ככל שהמודלים חזקים יותר, כך המדינה קרובה יותר. מי שמשקיע בתחום צריך להביא בחשבון שלא כל השקה תהיה חופשית, שלא כל מודל ייצא בקצב שהחברות רוצות, ושחלק מהיתרון התחרותי יעבור דרך יחסים עם ממשלות.

החלק המעשי יהיה המבחן. הצו מבקש לבנות תהליך מדידה למודלים מתקדמים, אך השאלה היא איך בדיוק ייראה התהליך: מי יקבל גישה למודל, איפה ייבדק המודל, מה ייחשב יכולת מסוכנת, מי יראה את תוצאות הבדיקה, והאם הציבור יקבל מידע כלשהו או רק הממשל והחברות.

כאן יש מתח ברור. מצד אחד, חלק מהמידע חייב להיות מסווג, בעיקר כשמדובר ביכולות סייבר. מצד שני, אם הכול יישאר סגור בין הממשל לחברות, הציבור עלול לחשוש שהפיקוח הוא בעיקר הסדר פנימי בין המדינה לענקיות הטכנולוגיה. כדי שהמסגרת הזו תעבוד, היא תצטרך לייצר אמון, לא רק בדיקות.

OpenAI מנסה להקדים את השיח. במקום לחכות שיטילו עליה כללים, היא אומרת שהיא מוכנה להשתתף. זה מהלך חכם מבחינתה. היא שומרת על מעמד מוביל בתעשייה, מציגה אחריות, ומאותתת לממשלות אחרות בעולם שהיא מוכנה לעבוד גם איתן.

מרוץ ה-AI נכנס לשלב חדש. בשלב הראשון התחרו החברות מי ישיק מודל חזק יותר. בשלב השני הן התחרו על משתמשים, מפתחים ולקוחות ארגוניים. עכשיו מתחיל שלב שלישי - שבו הממשלה רוצה לראות את המודלים לפני כולם.