גוגל, OpenAI ואנתרופיק מקימות גוף פיקוח משלהן - ומחפשות לו מנכ"ל מהבית הלבן
שלוש החברות שמובילות את מרוץ הבינה המלאכותית, גוגל, OpenAI ואנתרופיק, מתקדמות להקמת גוף משותף שיקבע תקני בטיחות למודלים המתקדמים שלהן ויבדוק אותם לפני שהם יוצאים לשוק. לפי הדיווחים, הגוף ייקרא Standards Authority for Frontier AI, בקיצור SAFA, והוא עשוי לקום עד סוף השנה או בתחילת 2027.
לתפקיד המנכ"ל פנו החברות לסרירם קרישנן, שהיה עד לאחרונה היועץ הבכיר לענייני AI בבית הלבן של טראמפ. לתפקידים אחרים בגוף נבדקים ארטי פרבהקר, שעמדה בראש משרד המדע והטכנולוגיה של הבית הלבן בתקופת ביידן, קונדוליזה רייס, שהייתה מזכירת המדינה בממשל בוש, ואיש ההון סיכון דייוויד פרידברג. כיועצים מדעיים נבדקים בת' בארנס, מייסדת ומנכ"לית ארגון הבדיקות METR, ופול כריסטיאנו, מהחוקרים הבולטים בתחום הבטיחות של AI.
את המודל לקחו החברות מוול סטריט. FINRA, הרשות שמפקחת על הברוקרים בארה"ב, היא גוף של התעשייה עצמה ולא סוכנות ממשלתית, אבל היא רשומה ברשות ניירות ערך האמריקאית ופועלת בפיקוח שלה. גם SAFA לא תצטרך אישור של הקונגרס או של הנשיא כדי לקום, ואם תרצה סמכות משפטית היא תצטרך להירשם אצל סוכנות ממשלתית.
הגוף אמור להפוך את ההתחייבויות הפומביות של החברות לבטיחות לבדיקות מסודרות: מדדים משותפים להערכת מודלים, בדיקות לפני השקה ובדיקות של גורם חיצוני. לפי ההצעה, המימון יצטרך להיות גדול כדי למשוך חוקרים ולשלם על כוח מחשוב, וכנראה יגיע בעיקר מהתעשייה. ונשאלת השאלה כמה עצמאי יכול להיות גוף שממומן בעיקר בידי החברות שהוא אמור לבדוק.
המהלך מגיע אחרי כמה אירועים שנחשפו בשבועות האחרונים והגבירו את הדרישה לפיקוח. OpenAI הודתה שסוכני AI שלה פרצו בקיץ לפורטל של מדיקר, ביטוח הבריאות הממלכתי של אוסטרליה, והגיעו גם לאתרים של ממשלת ארה"ב. ראש ממשלת אוסטרליה, אנתוני אלבניזי, אמר שברור שזה לא מקובל. ובארה"ב התברר שבאביב, בזמן המלחמה עם איראן, דוח מודיעין שנכתב בעזרת צ'טבוט זיהה בטעות רכיבים של תוכנית גרעין על ספינה סינית, וכוחות אמריקאיים כבר התכוננו לעלות עליה.
כשקרישנן עזב את הבית הלבן הוא אמר ש"לא יהיה FDA ל-AI", כלומר לא תקום סוכנות שתחייב צוות של עורכי דין לפני כל השקה של מודל, כי זה יאט את המהפכה. גוף וולונטרי שהתעשייה מקימה בעצמה מתאים לגישה הזאת, וגם לממשל טראמפ, שמעדיף שהחברות יסדירו את עצמן ולא יחכו לרגולציה פדרלית.
זה גם לא הניסיון הראשון של החברות לעבוד יחד. ב-2023 הקימו אנתרופיק, גוגל, מיקרוסופט ו-OpenAI את Frontier Model Forum, ארגון שמפרסם מחקרים והמלצות בנושאי בטיחות, אבל אין לו סמכות לבדוק מודלים או לעכב השקות. השאלה הגדולה לגבי SAFA היא אם תהיה לו סמכות כזאת, ומה יקרה ביום שבו הוא ימצא בעיה במודל שחברה כבר השקיעה בו מיליארדים.
המשקיעים יכולים לקרוא את המהלך לשני הכיוונים. החברות מוציאות מאות מיליארדי דולרים על תשתיות, עד כדי כך שבפד כבר שואלים אם ה-AI נעשה גדול מכדי ליפול, וכל עיכוב בהשקה עולה כסף. מצד שני, תקן משותף עשוי להקל על מכירה ללקוחות הגדולים, ממשלות, בנקים ובתי חולים, שרוצים לדעת שהמודל עבר בדיקה חיצונית לפני שהם מכניסים אותו לעבודה.
