רגולטור AI בנוסח וול סטריט: הממשל האמריקאי מעוניין להגיף גוף פיקוח על חברות ה-AI; מה זה אומר?
הצעה שגיבש שר האוצר סקוט בסנט מבקשת להקים סוכנות פיקוח עצמאית לבינה מלאכותית שתדווח לרשות ניירות הערך, במתכונת FINRA. התעשייה תומכת ברעיון אך חלוקה בשאלה אם לרגולטור תהיה סמכות לעצור מודלים מסוכנים
ממשל טראמפ בוחן הקמת גוף פיקוח עצמאי שיבדוק את בטיחותם של מודלי הבינה המלאכותית המתקדמים ביותר עוד לפני שיגיעו לשוק, במתכונת שמזכירה את הרגולטור העצמי של בתחום ניירות הערך בארה"ב. ההצעה, שאותה סייע לגבש שר האוצר סקוט בסנט, מבקשת ליצור סוכנות רגולטורית עצמאית לתחום ה-AI שתדווח לרשות ניירות הערך האמריקאית (SEC), בדומה לאופן שבו פועל גוף ה-FINRA מול חברות הברוקראז'.
FINRA הוא ארגון פיקוח עצמאי הממומן בידי התעשייה עצמה, ומפקח על אלפי ברוקרים וזירות מסחר תחת מטריית ה-SEC. העתקת המודל הזה לעולם הבינה המלאכותית משמעה גוף שבו המומחיות המקצועית והמימון מגיעים מהחברות המפתחות, בעוד הפיקוח הממשלתי נשמר ברקע כמפקח על. ההצעה מונחת עכשיו על שולחנה של ראשת הצוות בבית הלבן, סוזי ווילס.
המתווה מגיע אחרי חודשים של חיכוך בין הממשל לחברות ה-AI. אנתרופיק נדרשה לחסום גישת אזרחים זרים למודלים החדשים שלה, Fable 5 ו-Mythos 5, ימים ספורים אחרי שהשיקה אותם, וניתקה את הגישה בתוך שעות מרגע קבלת צו הפיקוח על היצוא. הצו בא בעקבות חשש שהעלה מנכ"ל אמזון אנדי ג'סי לגבי אפשרות לעקוף את מנגנוני ההגנה של Fable, ומשרד המסחר האמריקאי הסיר בהמשך את ההגבלות.
גם OpenAI נקלעה לאותה דינמיקה, כשהתבקשה להגביל את הפצת המודל החדש שלה. החברה אפשרה לממשל לאשר רשימת גופים שיקבלו גישה למודל, וציינה כי מתווה כזה מהווה את הדרך המהירה לזמינות רחבה בשבועות הקרובים, אך הבהירה שבדיקה מהסוג הזה ראוי שתישאר חריגה ולא כלל קבוע. מנהלים בעמק הסיליקון הביעו מורת רוח מהאופי המאולתר של הצעדים שנועדו להאט את שחרור המערכות המתקדמות, וההצעה החדשה מבקשת לתת להם מסגרת ברורה וצפויה יותר.
המהלך הנוכחי מגיע גם אחרי שניסיון קודם להסדרה ישירה יותר נתקע. צו נשיאותי שהיה אמור להרחיב את הפיקוח הפדרלי על מודלים מתקדמים נעצר שעות ספורות לפני החתימה, כפי שתואר בכתבה צו הפיקוח על בינה מלאכותית נעצר בקו הסיום. עוד קודם לכן נבחנה מתכונת של צוות בדיקה ממשלתי שיעבור על כל מודל חדש טרם השקתו, נושא שעמד במרכז הכתבה טראמפ בדרך לרגולציה על AI.
בתעשייה עצמה הרעיון של גוף בנוסח FINRA זוכה לתמיכה, אך הדעות חלוקות בשאלת היקף סמכויותיו. מנכ"ל גוגל דיפמיינד, דמיס הסאביס, קורא להקים גוף תקינה אמריקאי בהשראת FINRA שיתמודד עם סיכוני הבינה המלאכותית הכללית (AGI). לפי הצעתו מדובר בשותפות ציבורית-פרטית בפיקוח פדרלי, עם דירקטוריון של מומחים מקצועיים, נציגי קוד פתוח וגורמי ממשל, שתמומן בידי התעשייה ותבצע בדיקות רחבות היקף למודלים.
מנגד, מנכ"ל אנתרופיק דריו אמודיי מציב רף גבוה יותר ומעדיף גוף בנוסח מנהל התעופה הפדרלי (FAA), בעל סמכות לחסום מודלים מסוכנים לחלוטין עוד טרם יגיעו לציבור. ההבדל בין שתי הגישות נוגע לשאלה מרכזית: האם הרגולטור יסתפק בקביעת סטנדרטים ובבדיקות בהובלת התעשייה, או יחזיק בידו סמכות עצירה ממשית שמזכירה אישור בטיחות של מטוס טרם המראה.
הדיון האמריקאי מתנהל על רקע מפה רגולטורית עולמית שהולכת ומתהדקת. באיחוד האירופי כבר נכנס לתוקף חוק הבינה המלאכותית (EU AI Act), המדרג מערכות לפי רמת סיכון ומטיל חובות מחמירות על מודלים בעלי השפעה רחבה. בארה"ב, לעומת זאת, המדיניות נעה בין צווים נשיאותיים משתנים ובין גישה שמעדיפה להותיר לתעשייה מרחב פעולה, מתוך רצון לשמור על יתרון במרוץ הטכנולוגי מול סין. הרעיון של רגולטור עצמי ממוסד מנסה לגשר בין שני הקצוות.
- סיכון האשראי של אורקל עלה לשיא: כך מתמחר השוק את הימור הבינה המלאכותית
- הקול בטלפון נשמע בדיוק כמו הבן, והוא נוצר במחשב: כך נראות ההונאות עכשיו
עבור ענקיות הבינה המלאכותית, בהן OpenAI, אנתרופיק, גוגל ומטא, למתווה כזה השלכות מעשיות. מסגרת פיקוח קבועה עשויה להפחית את אי הוודאות שנלוותה לצווי היצוא הפתאומיים ולבקשות ההשהיה, ולספק לחברות לוח זמנים בהיר יותר לשחרור מוצרים. מנגד, גוף במימון התעשייה מעורר שאלות בדבר עצמאות הפיקוח והיכולת שלו להציב גבולות אמיתיים מול השחקניות שמממנות אותו.
גם עבור המשקיעים, שמזרימים עשרות מיליארדי דולרים לחברות AI פרטיות לקראת הנפקות צפויות, בהירות רגולטורית עשויה להיות משתנה מהותי בתמחור הסיכון. אנתרופיק, למשל, נמצאת במגעים לגיוס שמעמיד אותה בדרך לשווי של טריליון דולר ונערכת להנפקה אפשרית כבר בחודשים הקרובים. מתווה פיקוח שיתקבל עשוי לקבוע עד כמה חלק יהיה המסלול מהמעבדה אל השוק.
