ביל גייטס נגד הקו של טראמפ: בלי כללי בטיחות ל-AI הסיכון גדול מדי

ביל גייטס רוצה שהממשלות ייכנסו עמוק יותר לפיקוח על הבינה המלאכותית, והוא מכוון ישירות לאחת הטענות המרכזיות בוושינגטון נגד הידוק הרגולציה: החשש שכל מגבלה על החברות האמריקאיות תיתן לסין יתרון. מבחינתו, גם בייג'ינג תרצה בסופו של דבר מנגנוני בטיחות כשמערכות AI יהפכו חזקות מספיק כדי לסכן תשתיות, מערכות פיננסיות ומערכות נשק.

גייטס אמר בראיון ל-NBC כי הסתמכות על החברות עצמן כבר רחוקה מלהספיק וכי פוליטיקאים ורשויות אכיפה צריכים להיות חלק מקביעת כללי הבטיחות והניטור. הוא אף הזהיר כי שימוש זדוני בכלים מתקדמים יכול, בתרחישים קיצוניים, להוביל לאסון בקנה מידה עצום. זו הערכה שלו לגבי פוטנציאל הסיכון, ולא תחזית שאפשר למדוד כיום.

העמדה הזאת מגיעה מול קו שונה של ממשל טראמפ. הצו הנשיאותי שנחתם ביוני שם דגש על שמירת ההובלה האמריקאית, שימוש ב-AI להגנת סייבר והקמת מסגרת וולונטרית לבדיקת מודלים מתקדמים, ובמקביל קובע במפורש שהממשלה הפדרלית לא יוצרת משטר חובה של רישוי, אישור מוקדם או היתר להשקת מודלים. כלומר, מדובר בגישה שמנסה להכניס אבטחה בלי לבנות מחסום רגולטורי רחב לפני כל השקה.

להרחבה: טראמפ דורש לקבל גישה למודלים מתקדמים לפני שהם יוצאים לשוק

הוויכוח הזה כבר פחות תיאורטי. בחודשים האחרונים נחשפו כמה אירועים שבהם סוכני AI יצאו מהמסלול שתכננו להם החוקרים. סוכנים של OpenAI הגיעו לאתרים ממשלתיים בארה"ב, ובמקרים אחרים מודלים הצליחו לצאת מסביבות ניסוי ולגעת במערכות אמיתיות. במקרים המאומתים בארה"ב החברה מסרה שהמידע שנחשף היה ציבורי ושהמערכות הממשלתיות עצמן לא שונו, אבל האירועים המחישו בעיה חדשה: סוכן שמקבל מטרה וכלים יכול למצוא דרך פעולה שהמפתח לא תכנן.

להרחבה: סוכני OpenAI יצאו מהבדיקות והגיעו לאתרי ממשל בארה"ב

גם בתוך התעשייה נשמעת כיום יותר תמיכה בפיקוח. OpenAI קראה לאחרונה למסגרת בינלאומית לבדיקת מודלים, וסם אלטמן ודריו אמודיי מאנתרופיק דיברו על האטה במצבים שבהם יכולות הבטיחות מפגרות אחרי יכולות המודל. שלוש מהחברות הגדולות, גוגל, OpenAI ואנתרופיק, כבר מקדמות גוף משותף שאמור לבדוק מודלים לפני השקה.

להרחבה: גוגל, OpenAI ואנתרופיק מקימות גוף פיקוח משלהן

גייטס הולך צעד נוסף. מבחינתו גוף שהחברות מקימות בעצמן יכול להיות חלק מהפתרון, אבל כללים מהותיים צריכים לקבל מעמד מחייב. הוא מדבר בעיקר על סייבר, שימוש ב-AI לפיתוח נשק ביולוגי, הונאות רחבות והגנה על ילדים ועובדים. בחודש שעבר הוא כבר כתב שה-AI מתקדם מהר יותר מכפי שהעריך ושנדרשת מסגרת ציבורית ולאומית שתטפל בסיכונים, לצד המשך פיתוח והשקעה בטכנולוגיה.

• ביל גייטס רוצה למסות את מה שעלול להחליף את העובדים – אבל מי ישלם את המחיר?
• ביל גייטס מזהיר: ה-AI ישנה את שוק העבודה - ואין תוכנית להתמודד עם זה

גם הקו של טראמפ מורכב יותר מהגדרה של "בלי רגולציה". הממשל כבר דורש הגנות במערכות ממשלתיות וביטחוניות, מקדם בדיקות סייבר למודלים חזקים ומאפשר גישה מוקדמת של גופי ממשל למערכות מסוימות. במסמך לביטחון לאומי הודגש שהמערכות שמגיעות לצבא ולמודיעין צריכות להיות ניתנות לשליטה, יציבות וכפופות לאחריות אנושית ברורה.

הפער נמצא בשאלה כמה רחוק ללכת. גייטס רוצה חובות ברורות גם על החברות עצמן. הממשל מעדיף כרגע פיקוח ממוקד יותר, בעיקר בתחומי סייבר וביטחון לאומי, תוך שמירה על חופש פעולה רחב למפתחים.

מאחורי המחלוקת נמצאת גם סין. ארה"ב ובייג'ינג משקיעות מאות מיליארדי דולרים בשבבים, מרכזי נתונים, מודלים ורובוטיקה, ואף אחת מהן לא רוצה לראות את הצד השני מתקדם מהר יותר. גייטס טוען שהנחת היסוד שלפיה סין תמיד תעדיף מרוץ בלי כללי בטיחות שגויה, וכי הסיכון ממערכות חזקות מספיק יכול ליצור אינטרס משותף. ממשל טראמפ ממשיך לתת משקל גדול יותר לכך שהובלה טכנולוגית בפני עצמה היא נכס כלכלי וביטחוני.