50 הרוגים או מיליארד דולר נזק: אנתרופיק מנסחת לוושינגטון את הכללים שיחולו עליה ועל המתחרות
אנתרופיק, שמתכוננת להנפקה שעשויה להיות מהגדולות בתולדות וול סטריט, מנסה לעצב גם את הרגולציה שתחול עליה. החברה מפיצה בקרב מחוקקים בוושינגטון טיוטת חוק פדרלית לבטיחות בינה מלאכותית, שמגדירה מתי מותר לעצור הפצה של מודל מתקדם, מי מחליט על כך ואילו חובות יוטלו על המעבדות הגדולות. דובר החברה אישר שהטיוטה משקפת את המסגרת שאנתרופיק מקדמת מול מחוקקים פדרליים ומדינתיים כבר כמה חודשים.
הרף שנקבע בטיוטה גבוה: סכנה צפויה ומיידית למותם או לפציעתם הקשה של יותר מ-50 בני אדם, או לנזק לרכוש של יותר ממיליארד דולר באירוע אחד. הסכנה צריכה לנבוע מאחד מכמה תרחישים מוגדרים, ובהם סיוע ברמת מומחה לפיתוח נשק ביולוגי, מתקפת סייבר שהמודל מנהל בעצמו ומודל שמשתחרר משליטת המפתחת שלו. ירידת ערך של מניות מוחרגת מהגדרת הנזק לרכוש, כלומר מפולת בשוק בעקבות תקלה של AI תישאר מחוץ לחשבון. הספים דומים לאלה של SB 53, חוק השקיפות למודלים מתקדמים שנכנס לתוקף בקליפורניה בתחילת השנה.
בלב ההצעה עומדים בודקים חיצוניים, שיירשמו במשרד המסחר האמריקאי ויבחנו את המודלים החזקים של כל מעבדה גדולה אחת לחצי שנה. המעבדות עצמן יוכלו לשלם להם, בתנאי שהתשלום מנותק מתוצאות הבדיקה. מבקרים כבר תוהים איך מבטיחים עצמאות כשהגוף הנבדק הוא שמממן את הבודק. לפי הטיוטה, בודק שמזהה סכנה מיידית יעביר את הממצאים למשרד המסחר בתוך 72 שעות, והמשרד יוכל לבקש מבית המשפט הפדרלי בוושינגטון להשעות את המודל. ההשעיה הראשונית מוגבלת לכ-45 יום, עם אפשרות להארכה, וגופים פדרליים אחרים יהיו מנועים מלעצור מודל בעצמם.
החובות מוטלות בעיקר על מפתחות גדולות: חברות שאימנו מודל בהיקף חישוב גבוה מסף שנקבע, ושהכנסותיהן מ-AI עברו חצי מיליארד דולר בשנה או שהוציאו יותר ממיליארד דולר על פיתוח. הקריטריונים האלה כוללים כמעט בוודאות את גוגל של אלפאבית, את מיקרוסופט, את אמזון, את מטא ואת OpenAI. כל אחת מהן תידרש לפרסם מסגרת בטיחות, לדווח על תקריות חמורות בתוך שבועיים, ובמקרה של סכנה מיידית לחיי אדם בתוך יממה, ולהגיש דוח סיכונים פעם בחצי שנה. הקנסות בטיוטה עדיין פתוחים, וגם השם הרשמי של החוק טרם נקבע.
הסעיף שעשוי לעורר את הוויכוח החריף ביותר נוגע למדינות. הטיוטה מונעת מהן לחייב מפתחות AI בדיווחי בטיחות, בבדיקות חיצוניות ובדיווח על תקריות, כולל בחוקים שכבר נחקקו. מנגד, נשארים בידי המדינות חוקי הגנת הצרכן, הפרטיות ושמירה על קטינים. כלומר, אנתרופיק מציעה שורה של חובות פדרליות מחייבות, ובתמורה מבקשת תקן אחד במקום טלאים של חקיקה מקומית.
ההצעה נכנסת לזירה צפופה. הבית הלבן דוחף לבטל רגולציה מדינתית ומסתפק בבדיקה מרצון של מודלים לפני השקה. על הרקע הזה, אנתרופיק מזהירה כבר זמן רב מסיכוני ה-AI, בעוד הקונגרס מתקדם לאט, ויש גם יוזמות קיצוניות בהרבה, כמו הצעת החוק שמבקשת עונשי מאסר למפתחי בינה על-אנושית. בצד השני של הקשת עומד מנכ"ל אנבידיה, ג'נסן הואנג, שטען שהתעשייה מסתדרת היטב בלי חוקים חדשים.
לעיתוי יש משמעות כלכלית. אנתרופיק מכוונת להנפקה בנובמבר, וטיוטת התשקיף שנחשפה מפרטת בין השאר את החשש מחבות לנזקים שייגרמו ממודלים, בהיקף שעשוי לעבור את כיסוי הביטוח. מסגרת חוקית ברורה, עם ספים גבוהים ועם שופט כגורם היחיד שמוסמך לעצור מודל, עשויה לצמצם את אי הוודאות הזאת עבור המשקיעים. הכנסות החברה ברבעון השלישי הגיעו לכ-17 מיליארד דולר, צמיחה של כ-45% לעומת הרבעון הקודם, ולכן כל שינוי רגולטורי שיאט השקות של מודלים עלול לפגוע ישירות בקצב הצמיחה.
החברה גם מנסה להראות שהיא מיישמת בעצמה את מה שהיא מציעה. היא פתחה את מערכותיה הפנימיות בפני חוקרים מארגון בדיקה עצמאי, שיכולים לפרסם ממצאים בכפוף להשחרה של מידע רגיש. הטיוטה עדיין רחוקה מהליך חקיקה: היא עדיין ממתינה לחבר קונגרס שיגיש אותה רשמית, וחלק מהסעיפים נשארו ריקים. עם זאת, היא נותנת לשוק אינדיקציה ברורה לגבי סוג הפיקוח שהמעבדות הגדולות מוכנות לקבל, ולגבי הקווים שהן מבקשות לסמן לרגולטורים.
להרחבה:
שווי של 2 טריליון דולר על הכף: אנתרופיק תחשוף את המספרים שמניעים את מניות ה-AI
אחרי חודשים של עימות: מנכ"ל אנתרופיק ייפגש עם טראמפ בבית הלבן
