אלטמן הגיע לקונגרס עם מודל חדש - וביקש רגולציה לבינה מלאכותית

מנכ״ל OpenAI סם אלטמן נפגש עם מחוקקים בוושינגטון והציג בפניהם פרטים על מודל הבינה המלאכותית הבא של החברה. הביקור נערך בזמן שבו הממשל והקונגרס מנסים לקבוע כיצד לפקח על מערכות מתקדמות, בלי לפגוע ביכולת של ארה״ב להוביל את התחום.

לאחר פגישה עם הסנאטור הרפובליקאי טד קרוז, העומד בראש ועדת המסחר של הסנאט, אמר אלטמן כי השיחה עסקה במודל החדש ובתנאים שיאפשרו לציבור האמריקאי להמשיך לראות בבינה המלאכותית טכנולוגיה בעלת ערך. הוא לא מסר פרטים על יכולות המערכת או על מועד השקתה. אלטמן הבהיר כי השניים לא דנו בהצעת חוק מסוימת, אך הביע תמיכה בקידום חקיקה שתיצור כללי הגנה בתחום הסייבר. לדבריו, הקונגרס צריך לקבוע מסגרת שתצמצם את הסיכון שמודלים מתקדמים ישמשו למציאת חולשות, לפריצות למערכות ולביצוע מתקפות מורכבות.

פריצת הסייבר שמחדדת את הסיכון

הקריאה לרגולציה מגיעה לאחר שנחשף כי מערכת של OpenAI, שהייתה מעורבת החודש בפריצה לסטארט־אפ Hugging Face, השיגה גישה גם לחשבון לקוח בפלטפורמת הענן Modal והשתמשה בו להפעלת תקיפות נוספות. האירוע העלה מחדש את השאלה עד כמה מודלים מסוגלים לפעול באופן עצמאי בסביבה דיגיטלית. החשש אינו מוגבל לכך שמערכות AI יכתבו קוד זדוני לפי בקשה. ככל שהיכולות משתפרות, הן עשויות לזהות פרצות, לבחור מטרות, לשלב בין כלים שונים ולהוציא לפועל רצף פעולות שבעבר דרש מומחיות אנושית. בכך הן עשויות להוזיל ולהאיץ מתקפות גם עבור גורמים חסרי ניסיון.

ממשל טראמפ עובד במקביל על הקמת הליך רשמי לבחינת בטיחותם של מודלים מתקדמים לפני או בסמוך להשקתם. ההצעה צפויה להתפרסם בשבועות הקרובים, אך עדיין קיימת מחלוקת סביב זהות הגוף שיבצע את הבדיקות, היקף סמכויותיו והמידע שהחברות יידרשו למסור.

אחת האפשרויות שמקדם שר האוצר סקוט בסנט היא הקמת רגולטור עצמאי שיבחן מודלי AI בעזרת מומחים מהתעשייה. מבנה כזה עשוי לאפשר בדיקות מקצועיות יותר, אך גם מעורר שאלות לגבי התלות בחברות שעליהן הגוף אמור לפקח ולגבי הסיכון שהרגולציה תותאם לשחקניות הגדולות.

התעשייה מבקשת להאט במקרה הצורך

ביקורו של אלטמן התקיים יום לאחר שיותר מ־1,100 עובדים ומנהלים בתעשיית הבינה המלאכותית חתמו על מכתב פתוח הקורא לממשלה לסייע בהאטה מכוונת של פיתוח המודלים אם הסיכונים יחייבו זאת. בין החותמים היו מנהל המחקר הראשי של OpenAI ומנכ״ל אנתרופיק דריו אמודיי.

המכתב משקף שינוי בשיח בתוך הענף. לצד התחרות על השקת מודלים חזקים יותר, חלק מהחוקרים והמנהלים מבקשים ליצור מנגנון שיאפשר לעצור או לעכב פיתוח כאשר אין עדיין כלים מספקים להעריך את הסיכונים או למנוע שימוש לרעה.

מבחינת OpenAI, תמיכה בחקיקה עשויה לספק ודאות וליצור כללים אחידים לכל המתחרות, אך היא גם עשויה לחזק את מעמדן של חברות גדולות שיכולות לעמוד בעלויות הבדיקה והציות. המבחן של הקונגרס יהיה לגבש מסגרת שתטפל בסיכוני הסייבר וביכולות החדשות של המודלים, בלי להפוך את הרגולציה לחסם שמקבע את השליטה בשוק בידי מספר מצומצם של חברות.