ניו יורק פתחה את הרישום למפתחות ה-AI הגדולות, אבל החובות יתחילו בינואר
מה צריכה לעשות מעבדת בינה מלאכותית גדולה אם אחד המודלים שלה מעורב בתקרית בטיחות חמורה בניו יורק? עד עכשיו התשובה הייתה כתובה בעיקר בחוק. הפורטל החדש של המדינה הופך אותה לטופס מסודר: תאריך ותיאור קצר של האירוע, הסבר מדוע הוא עומד בהגדרה של תקרית קריטית, שם המודל והגרסה שלו, האם הוא קשור לשימוש פנימי בחברה, והאם נדרשה גם הודעה לגוף אכיפה.
את הפורטל השיק DIGIT, משרד החדשנות הדיגיטלית, הממשל, היושרה והאמון, שהוקם בתוך רשות השירותים הפיננסיים של ניו יורק כדי לפקח על יישום חוק ה-RAISE לבטיחות בינה מלאכותית. אבל פתיחת הרישום עדיין לא מפעילה את החובות עצמן. מפתחות גדולות נדרשות להירשם עד 1 בינואר 2027, ומהמועד הזה יחולו עליהן דרישות הדיווח, השקיפות והבטיחות. בשבועות הקרובים מדובר בעיקר בהיערכות.
החוק משרטט שני מעגלים. מודל חזית הוא מודל בסיס שאומן בכוח מחשוב של יותר מ-10 בחזקת 26 פעולות, כולל כוונון עדין, למידת חיזוק ושינויים מהותיים אחרים שנעשו בו אחר כך. כל מי שאימן מודל כזה נחשב מפתח חזית, ויחויב לפרסם דוח שקיפות לפני השקת מודל חדש או יחד איתה, ולדווח על תקריות קריטיות בתוך 72 שעות. מפתח חזית גדול הוא מי שההכנסות השנתיות שלו, יחד עם החברות הקשורות, עברו 500 מיליון דולר בשנה הקודמת. הסף הכספי נועד להפריד בין סטארט-אפ שאימן מודל יקר לבין המעבדות שמוכרות את המודלים בהיקף רחב, ועליהן מוטל עיקר הנטל.
המפתחות הגדולות יצטרכו להגיש הצהרת גילוי ולחדש אותה כל שנתיים, או מוקדם יותר אם הבעלות על המודל עוברת או שחל שינוי מהותי בפרטים. הן יפרסמו באתר מסגרת בטיחות שמפרטת איך הן מעריכות ומצמצמות סיכונים קטסטרופליים, איך הן מאבטחות משקלות של מודלים שטרם שוחררו, ואיך הן מגיבות לתקריות, ויעדכנו אותה לפחות פעם בשנה. כל שלושה חודשים הן ימסרו ל-DIGIT סיכום של הערכת הסיכון שנובע מהשימוש הפנימי במודלים שלהן, בתוך 30 יום מסוף הרבעון. ההתמקדות בשימוש פנימי משקפת חשש שסיכונים עשויים להופיע עוד לפני שמודל מגיע לציבור. דוח השקיפות שלהן יכלול גם את תוצאות הערכות הסיכון ואת מידת המעורבות של בודקים חיצוניים, כך שהשקה כמו Fable 5.2 של אנתרופיק תגרור מינואר חובת פרסום נוספת.
חלון הדיווח הוא הסעיף שמבדיל את ניו יורק מקליפורניה, שבה עומד חוק SB 53 על 15 יום. תקרית שמציבה סכנה מיידית למוות או לפגיעה גופנית קשה מחייבת הודעה בתוך 24 שעות לרשות מתאימה, כמו גוף אכיפת חוק. גם הציבור יוכל לדווח ל-DIGIT על חשד לתקרית, והמשרד יפרסם דוח שנתי שמרכז את הדיווחים ומציע תיקונים בחוק.
האכיפה בידי התובעת הכללית של המדינה, שרשאית לתבוע קנס של עד מיליון דולר על הפרה ראשונה ועד 3 מיליון דולר על כל הפרה נוספת. מול מעבדות שמכניסות מיליארדי דולרים ברבעון הסכומים נראים צנועים, ולכן המשקל האמיתי כנראה בחובת הגילוי עצמה. ברקע נמשך הוויכוח הפדרלי, שבו ממשל טראמפ דוחף למסגרת אחת שתגבר על חוקי המדינות. להרחבה: רגולציה על AI: איפה היא עומדת ומה משמעות המהלך שטראמפ מנסה לקדם?
המושלת קתי הוקול מציגה את החוק כמענה להיעדר פיקוח פדרלי. ההגדרות מכוונות לקבוצה קטנה של מעבדות, וסביר שאופןאי ואנתרופיק נכללות בה, אבל רשימה רשמית של נרשמות טרם פורסמה. במקביל אנתרופיק מקדמת בוושינגטון טיוטה משלה, ומנסחת את הכללים שיחולו עליה ועל המתחרות, עם ספים גבוהים להתערבות. מרכז מחקר חדש לבטיחות AI באוניברסיטת בינגהמטון, שיכלול יותר מ-80 חוקרים, יתחיל לבחון יחד עם DIGIT את מסגרות הבטיחות שהחברות יפרסמו.
