OpenAI רוצה כללי משחק עולמיים ל-AI - ומבקשת מארה"ב להוביל

OpenAI מנסה להעביר את הדיון בבטיחות הבינה המלאכותית מזירת החברות לזירה הבינלאומית. החברה קוראת לממשל האמריקאי להוביל קואליציה של מדינות שתפתח סטנדרטים משותפים לבחינת היכולות והסיכונים של מערכות AI מתקדמות, בניסיון ליצור מסגרת מוסכמת עוד לפני שהדור הבא של המודלים הופך קשה יותר לפיקוח אנושי.

ההצעה מגיעה לקראת הופעתו המתוכננת של מנכ"ל OpenAI, סם אלטמן, בפני מועצת הביטחון של האו"ם ביום רביעי. היא משתלבת בדיון רחב יותר בארה"ב על האופן שבו יש לפקח על מודלים מתקדמים מבלי לפגוע בקצב הפיתוח, בזמן שהתחרות הטכנולוגית עם סין הפכה לחלק מרכזי במדיניות האמריקאית.

לא רגולטור עולמי, אלא שפה משותפת

OpenAI אינה מציעה להקים רשות בינלאומית שתשלוט בפיתוח AI. המודל שהיא מציגה קרוב יותר לרשת של מוסדות לאומיים שיעבדו לפי שיטות בדיקה משותפות, יחלקו מידע ויגדירו מדדים מוסכמים להערכת מודלים. החברה משווה את הכיוון הזה לתחומים כמו תעופה ויציבות פיננסית, שבהם מדינות משתפות פעולה על תקנים טכניים מבלי לוותר על סמכותן הלאומית.

במרכז ההצעה נמצאת היכולת למדוד לא רק מה מודל יודע לעשות היום, אלא גם אילו סיכונים חדשים נוצרים ככל שהיכולות שלו משתפרות. OpenAI עצמה פרסמה החודש מסגרת חדשה לדיווח על מקרי התנהגות בלתי צפויה או בעייתית של מודלים, כחלק מניסיון להפוך את המעקב אחר כשלים לשיטתי יותר.

נקודת המפתח היא תרחיש המכונה recursive self-improvement - מצב שבו מערכות AI משתתפות באופן הולך וגובר במחקר, בתכנון ובאימון של הדורות הבאים של מערכות AI. מבחינת החברה, ככל שחלק גדול יותר מתהליך השיפור עובר מהמפתחים האנושיים למודלים עצמם, גדל הסיכון שהיכולת האנושית להבין את התהליך ולפקח עליו תישחק.

ארה"ב וסין נדרשות לדבר גם כשהן מתחרות

חלק משמעותי מההצעה מוקדש ליחסים בין וושינגטון לבייג'ינג. OpenAI קוראת להקים ערוצי תקשורת מאובטחים בין שתי המדינות, כך שיוכלו לשתף התרעות על סיכונים חריגים או תקריות משמעותיות הקשורות למערכות AI מתקדמות.

הקריאה מגיעה בזמן שהקשר בין AI למדיניות החוץ האמריקאית הופך ישיר יותר. הבית הלבן אישר כי נשיא סין שי ג'ינפינג יגיע לביקור מדיני בוושינגטון השבוע, שיכלול פגישה עם הנשיא דונלד טראמפ וארוחת ערב ממלכתית ביום חמישי.

לפי הטקסט שפרסמה OpenAI, שיתוף פעולה כזה אינו אמור לבטל את התחרות בין המדינות. המטרה היא ליצור מנגנון שבו גם יריבות טכנולוגיות יוכלו להעביר מידע במקרה של איום משותף - בדומה לערוצים שנבנו בעבר סביב תחומים שבהם תקלה במדינה אחת עלולה להשפיע במהירות על אחרות.

התעשייה רוצה פיקוח, אבל לא מסכימה איך

OpenAI אינה לבדה בדרישה למסגרת רחבה יותר. גם אנתרופיק וגוגל דיפמיינד קראו בחודשים האחרונים ליצירת סטנדרטים משותפים לבדיקת מודלים מתקדמים, על רקע החשש שמרוץ הפיתוח יתקדם מהר יותר מהיכולת של ממשלות ומוסדות להבין את הסיכונים. דמיס הסאבי, ממייסדי גוגל דיפמיינד, הציע בעבר גוף ציבורי-פרטי שבו ישבו מומחים טכניים עצמאיים לצד נציגים מהתעשייה ומקהילת הקוד הפתוח. הרעיון הוא לייצר מסגרת שמסוגלת להתעדכן במהירות גדולה יותר מרגולציה מסורתית, בלי להשאיר את קביעת הכללים בידי החברות בלבד.

• תביעה: ענקיות ה-AI תיאמו האטה בפיתוח ופגעו בתחרות
• אנתרופיק מציגה למשקיעים שוק של 30 טריליון דולר, כמעט בגודל התוצר האמריקאי

OpenAI עצמה הקשיחה לאחרונה את המסר שלה. בתחילת ספטמבר קראה החברה לקדם דרישות בטיחות לאומיות מחייבות בארה"ב המבוססות על יכולות המודלים, וטענה כי אין חברה או ממשלה שיכולה להתמודד לבדה עם האתגרים של מערכות מתקדמות יותר.

אלא שבוושינגטון אין הסכמה שהתגובה הנכונה לסיכונים היא האטת הפיתוח. טראמפ הדגיש כי התחרות מול סין מחייבת את ארה"ב לשמור על קצב גבוה, וגישה זו יוצרת מתח מובנה מול מנהלי חברות שמבקשים כללים קשיחים יותר לבדיקת מערכות מתקדמות. גם בתוך המעגל הטכנולוגי המקורב לממשל נשמעת התנגדות לדרישות התעשייה. דיוויד סאקס, שמייעץ לטראמפ בנושאי AI, מתח ביקורת על מצב שבו חברות דורשות מהממשלה לאמץ את מסגרת הרגולציה המועדפת עליהן כתנאי להמשך פיתוח מערכות חזקות יותר.

הוויכוח הזה מקשה במיוחד על יצירת כללים בינלאומיים. אם מדינה אחת תאמץ מגבלות מחמירות בעוד יריבה תמשיך לפתח ללא מגבלות דומות, חברות וממשלות עלולות לראות בבטיחות חיסרון תחרותי. מנגד, היעדר סטנדרטים משותפים עלול להשאיר כל מדינה לבדה מול סיכונים שמערכות דיגיטליות אינן מכירות בהם גבולות.

מרוץ טכנולוגי שהופך לשאלה של מדיניות חוץ

מועצת הביטחון כבר עוסקת בשימושים ביטחוניים של AI ובקשר שבין טכנולוגיה לאיומים בינלאומיים, ובספטמבר קיימה דיון שעסק בין היתר בבינה מלאכותית ובהשלכותיה על תחום הלוחמה והטרור. מבחינת OpenAI, השלב הבא הוא לעבור מדיון כללי למנגנוני בדיקה ושיתוף מידע קבועים.

האתגר מבחינת החברה הוא כפול. מצד אחד היא מנסה לשכנע ממשלות שהסיכונים של מודלים חזקים מספיק כדי להצדיק תיאום בינלאומי. מצד שני, היא צריכה לעשות זאת מבלי ליצור מסגרת שתיתפס בוושינגטון כמגבלה על היתרון האמריקאי בתחום שנמצא בלב התחרות עם סין.

• אמזון נגד מטא: חסמה את סוכן ה-AI של החברה מאתר הקניות שלה
• משבר פוליטי בגרמניה: מפלגתו של הקנצלר מרץ התרסקה בבחירות המקומיות

אם ההצעה תתקדם, המבחן המרכזי לא יהיה עצם ההסכמה שיש צורך בבטיחות, אלא מי יגדיר מהו מודל מסוכן, אילו בדיקות הוא יצטרך לעבור ומתי תידרש חברה לשתף מידע עם ממשלה או עם מדינה אחרת. ככל שמערכות AI מקבלות תפקיד גדול יותר בפיתוח הדור הבא של הטכנולוגיה, השאלות האלה עוברות בהדרגה ממעבדות המחקר אל שולחנותיהם של נשיאים, רגולטורים ומוסדות בינלאומים.