גייטס דורש חוק שיפקח על ה-AI וטראמפ קורא לאזהרות בלוף
מייסד מיקרוסופט אומר שהחברות כבר לא יכולות לפקח על עצמן וקורא לקונגרס לחוקק. לצדו מתייצבים הינטון, בנג'יו, אמודיי ואלטמן, ומולם הבית הלבן, דייוויד סאקס, מארק צוקרברג ויאן לקון.
ביל גייטס קורא לקונגרס לחוקק כללי בטיחות מחייבים לבינה המלאכותית. בראיון טלוויזיוני ששודר בסוף השבוע אמר מייסד מיקרוסופט שאף אחד כבר לא מאמין שהחברות יכולות לפקח על עצמן, ושרשויות האכיפה והפוליטיקאים צריכים להיכנס לדיון ולקבוע איך ייראו אמצעי ההגנה והמעקב. כשנשאל אם וושינגטון צריכה חוק, ענה שכן בלי היסוס. לדבריו חובת פיקוח כזו תוסיף לתעשייה מעט תקורה, אבל לא תאט אותה באופן דרמטי.
הסכנה הדחופה בעיניו היא אנשים עם כוונות רעות שמשיגים כלים חזקים. קבוצה קטנה עם AI יכולה היום לעשות מה שבעבר היה בהישג ידן של המעצמות, מהונאות ענק ומתקפות סייבר ועד שיבוש תשתיות וטרור ביולוגי. גייטס העריך שהטכנולוגיה חזקה מספיק כדי להוביל לאירועים שיגבו מיליארד חיים, תרחיש קיצון שאי אפשר לאמוד את הסיכוי שלו. מתג כיבוי למערכת אינו מספיק לדבריו, וצריך גם מעקב בתוך המעבדות ותיעוד מסודר של מה שהמודלים עושים, כדי שהרשויות יוכלו לבדוק מה קרה כשמשהו משתבש.
את מה שמחכה לעולם גייטס מחלק לשני שלבים. השלב הראשון כבר התחיל, והוא צפוי להימשך כ-20 שנה. בתקופה הזאת ה-AI עוד לא מצליח להוריד את יוקר המחיה או את מחירי הבריאות, אבל כבר משנה את שוק העבודה ועלול לתת כוח לעבריינים אם לא יהיו אמצעי הגנה. אחרי תקופת ההסתגלות מגיע השלב השני, שבו AI ורובוטים דמויי אדם יבנו בתים, יגדלו מזון ויעשו חלק גדול מהעבודה, מה שגייטס מכנה עידן של שפע. את השאלה מה יעשו בני האדם עם הזמן הפנוי ואיך ימצאו תכלית הוא משאיר לדור הצעיר. אותו מעסיקה השאלה איך עוברים את שנות המעבר בלי נזק גדול מדי.
גייטס דוחה את הטענה שפיקוח יחליש את ארה"ב במרוץ מול סין. לדעתו וושינגטון צריכה לתת את הדוגמה, כמו שעשתה בבטיחות הטיסות ובהגנה על שכבת האוזון. הוא גם מודה שיהיה קשה יותר להגיע להסכם עולמי על AI מאשר להסכמים להגבלת נשק גרעיני בימי המלחמה הקרה. משרד החוץ בבייג'ינג תקף בינתיים את הקריאה של מנכ"ל אנתרופיק להאט את הפיתוח, וכינה אותה זריעת פחד שמובילה לעימות.
כבר בסוף אוגוסט פרסם גייטס באתר שלו מסה של כמעט 6,000 מילים על עידן ה-AI. הוא כתב שם שהמעבר יהיה מהתקופות הסוערות בהיסטוריה, ושאין כרגע תוכנית להתמודד עם הטלטלה בשוק העבודה. הפתרון שלו כולל מוסדות לאומיים חדשים שיתאמו מדיניות בביטחון, בתעסוקה, בחינוך ובמיסוי, וגוף בינלאומי שיאמץ רעיונות מהפיקוח על הגרעין ועל התעופה. באותה מסה הוא גם הציע להטיל מס על שימוש ב-AI ועל רובוטים כדי לממן הסבה מקצועית לעובדים שיאבדו את עבודתם.
הצו הנשיאותי שטראמפ חתם עליו ביוני מבקש מהחברות להעביר מודלים מתקדמים לבדיקה של סוכנויות פדרליות 30 יום לפני ההשקה, בעיקר כדי לאתר חולשות סייבר. ההשתתפות וולונטרית, והצו אוסר במפורש על משטר של רישוי או אישור מוקדם.
להרחבה: טראמפ דורש לקבל גישה למודלים מתקדמים של AI לפני שהם יוצאים לשוק
באמצע ספטמבר כתב טראמפ ברשת החברתית שלו שהאזהרות על AI שיחריב את העולם הן בלוף, והשווה אותן לאזהרות על משבר האקלים. כמה ימים אחר כך הבטיח שלא יעכב את צמיחת התעשייה והכריז שיקים כוח AI בדומה לכוח החלל. בנאום בעצרת הכללית של האו"ם הוא הבהיר שארה"ב דוחה כל ניסיון לבנות מנגנון בינלאומי שישלוט ב-AI. גם יו"ר בית הנבחרים מייק ג'ונסון לא ממהר לקדם חוק פדרלי. גייטס מצדו מעריך שהנשיא עוד ישנה את דעתו, כשישמע מאנשי התעשייה שפיקוח אינו מאיים על ההובלה האמריקאית.
ביולי חשפה OpenAI שנחיל של עד 1,200 סוכנים שלה יצא מסביבת ניסוי ותקף את חברת הסטארט-אפ האגינג פייס, והחברה עצרה את אימון המודלים. ביום שישי האחרון היא דיווחה על מקרים מהקיץ שבהם סוכנים שלה הגיעו לאתרי ממשל. הם שלפו נתונים מלשכת המפקד האמריקאית בעזרת פרטי התחברות שמצאו ברשת והעבירו לאתר אחר נתונים מרשות ניירות הערך. לאתר של משרד החינוך הם ניסו להיכנס ונכשלו. לפי החברה המידע היה פתוח לציבור והמערכות הממשלתיות לא שונו. כמה שעות אחר כך עצרה OpenAI שוב את האימון, בפעם השנייה בתוך שלושה חודשים.
- ביל גייטס רוצה למסות את מה שעלול להחליף את העובדים – אבל מי ישלם את המחיר?
- ביל גייטס מזהיר: ה-AI ישנה את שוק העבודה - ואין תוכנית להתמודד עם זה
OpenAI אינה המקרה היחיד. ראש ממשלת אוסטרליה, אנתוני אלבניזי, סיפר השבוע שסוכן של החברה נכנס בקיץ לאתר ממשלתי באוסטרליה בלי הרשאה. צוות חוקרים בסטארט-אפ אמריקאי דיווח החודש שהשתמש ב-Claude של אנתרופיק כדי לחדור לקוד של OpenAI, ובארה"ב נחשף שג'מיני של גוגל פרץ באביב לשלוש חברות.
להרחבה: סוכני OpenAI יצאו מהבדיקות והגיעו לאתרי ממשל בארה"ב
מי חושב כמו גייטס ומי בצד השני
דריו אמודיי, מנכ"ל אנתרופיק, פרסם החודש מסה שקוראת להאט את קצב השיפור ביכולות המודלים. הוא מציע להכניס למעבדות בודקים עצמאיים עם גישה קבועה ולגבש סטנדרטים משותפים לדמוקרטיות. בשלב מאוחר יותר הוא רוצה הסכם בינלאומי שיגביל יכולות מסוכנות, כמו מודלים שמשפרים את עצמם. סם אלטמן מ-OpenAI הצטרף מיד, ותמיכה הגיעה גם מאילון מאסק ומדמיס הסביס, מנכ"ל גוגל דיפמיינד. בהמשך החודש הופיעו אמודיי ואלטמן במועצת הביטחון של האו"ם וביקשו פיקוח עולמי על התחום.
ג'פרי הינטון, זוכה פרס נובל שעזב את גוגל ב-2023, אמר לחברי קונגרס בתדריך סגור שכינס הסנטור ברני סנדרס שנותרה להם אולי שנה לקבוע כללים ובלמים. יהושע בנג'יו, חתן פרס טיורינג מאוניברסיטת מונטריאול, הזהיר באו"ם שהסכנות ממשיות ומיידיות ושהעולם צריך בקרה בסגנון הפיקוח על נשק גרעיני. סטיוארט ראסל, פרופסור בברקלי שעומד בראש איגוד בינלאומי לבטיחות AI, בירך על קריאה של 20 מנהיגי עולם לפקח על המודלים המתקדמים, והוא טוען שהטכנולוגיה בצורתה הנוכחית אינה בטוחה מיסודה.
דייוויד סאקס, ממונה ה-AI של טראמפ עד מרץ וכיום יו"ר משותף של מועצת היועצים של הנשיא למדע, ענה לאמודיי ולאלטמן שאם הם באמת חוששים, שיאטו בעצמם בלי לחכות לאישור מהממשלה. לדבריו החברות מבקשות בעצם פטור מדיני ההגבלים העסקיים כדי לתאם ביניהן, ואת הנזקים הוא מעדיף לפתור בתביעות אחריות מוצר בדיעבד, במקום מנגנון אישור מראש. סגן הנשיא ג'יי די ואנס תיאר את הקריאות של החברות לרגולציה כסוס טרויאני שיעזור לענקיות על חשבון סטארט-אפים קטנים, ודרש מהמעבדות לבחון בעצמן מה הן בונות. מייקל קרציוס, מנהל המשרד למדיניות מדע וטכנולוגיה בבית הלבן, אמר החודש שאם החברות באמת מאמינות שהן מפתחות טכנולוגיה לא בטוחה, הן יכולות פשוט לעצור אותה.
- 97% מבעלי המניות בעד: איזיג'ט מתקרבת למחיקה מהבורסה בעסקת 7.6 מיליארד דולר
- אנבידיה נופלת ב-8%, קורוויב ב-10%; מה קורה בנאסד"ק?
מארק אנדריסן, מייסד קרן ההון סיכון אנדריסן הורוביץ, הוא מהתורמים הגדולים של Leading the Future, ארגון מימון פוליטי שמגבה מועמדים שמתנגדים להגבלות על AI. יאן לקון, חתן פרס טיורינג שעזב את מטא כדי להקים סטארט-אפ, רואה בהערכות על סיכון להכחדת האנושות מספרים שנשלפו מהאוויר. מארק צוקרברג אמר לפני ימים ספורים שהתעשייה לא צריכה תיאום כללי להאטה ושכל מעבדה תיקח את הזמן שהיא צריכה. מטא עצמה, לדבריו, דחתה בכמה חודשים את השקת סוכן ה-AI שלה Muse מטעמי בטיחות.
גוגל, OpenAI ואנתרופיק מנהלות בינתיים שיחות על גוף תקינה משותף, בהשראת הרשות שמפקחת על הברוקרים בוול סטריט. הגוף אמור לקבוע סטנדרטים לבטיחות ולדיווח על תקלות, ולתמוך בבודקים חיצוניים שיבחנו מודלים לפני ההשקה. על התוכן עוד אין הסכמה, וההקמה צפויה בסוף 2026 או בתחילת 2027.
