ראשי אופן-איי ואנתרופיק לאו״ם: פיקוח עולמי או סכנה קיומית

אלטמן ואמודי מזהירים מפני אובדן שליטה

הדיון על עתיד הבינה המלאכותית הגיע היום לזירה הדיפלומטית הבכירה ביותר, כאשר מנכ"ל אופן-איי סם אלטמן ומנכ"ל אנתרופיק דאריו אמודי הופיעו בפני מועצת הביטחון של האו"ם בדיון שעסק בבינה מלאכותית ובביטחון בינלאומי. את הדיון כינסה צרפת, שמחזיקה בנשיאות מועצת הביטחון בחודש ספטמבר. אלטמן השתתף בדיון בניו יורק, בעוד אמודי הופיע באמצעות שיחת וידאו.

אלטמן אמר למועצת הביטחון כי האנושות עומדת בפני בחירה בין עתיד שבו הבינה המלאכותית תהפוך למנוע של יצירתיות וגילויים לבין תרחיש של טלטלה ואי-סדר. הוא הדגיש כי ככל שהמערכות הופכות ליכולות ואוטונומיות יותר, הן עלולות להתקדם מהר יותר מהמוסדות שאמורים לפקח עליהן, וכן להוביל לריכוז כוח בידי מספר קטן מדי של חברות או מדינות.

אלטמן לא קרא לעצירה כוללת של הפיתוח. לדבריו, בני אדם צריכים להישאר במרכז קבלת ההחלטות גם ככל שהמערכות משתכללות. אופן-איי הביעה בימים האחרונים תמיכה ביצירת תקנים בינלאומיים משותפים למערכות בינה מלאכותית מתקדמות, כולל מנגנונים להערכת יכולות, אמצעי הגנה ודיווח על אירועים חריגים.

אמודי: יש תחומים שבהם צריך לעצור

אמודי הציג עמדה זהירה יותר ביחס לסיכונים האפשריים של מערכות מתקדמות. מנכ"ל אנתרופיק אמר כי אם הבינה המלאכותית תנוהל בצורה לקויה, היא עלולה להפוך לסיכון לאנושות כולה. הוא קרא למדינות להתמקד בשלב הראשון בהסכמים בינלאומיים ממוקדים, ובין היתר לקדם איסור על שימוש בבינה מלאכותית לייצור נשק ביולוגי.

הדיון באו"ם אינו מתרחש בחלל ריק. בשנים האחרונות הפכה הבינה המלאכותית לנושא הנוגע לא רק לכלכלה ולתעשיית הטכנולוגיה, אלא גם לסייבר, למערכות צבאיות, להפצת מידע ולביטחון בינלאומי. מועצת הביטחון כבר קיימה ב-2025 דיון פומבי בנושא בינה מלאכותית וביטחון בינלאומי, אך המפגש הנוכחי התמקד באופן ישיר יותר בסיכונים הכרוכים בהתפתחותן של מערכות מתקדמות ובאפשרות לאובדן שליטה עליהן.

הצעת החוק: איסור קבוע על "על-בינה"

במקביל לדיון באו"ם, הסוגיה זוכה לטיפול חריג גם בוושינגטון. הסנאטור ברני סנדרס וחבר בית הנבחרים גרג קאסר הציגו היום רשמית את "חוק איסור העל-בינה", שנועד לאסור לצמיתות פיתוח והפעלה של מערכות בינה מלאכותית בעלות יכולות העולות על היכולת הקוגניטיבית האנושית, או מערכות בעלות יכולות העלולות לאפשר את השמדת האנושות או שלילת כוחה.

החוק אינו מסתפק באיסור על "על-בינה". הוא מבקש להקפיא זמנית את פיתוח מערכות הבינה המלאכותית המתקדמות ביותר, עד להקמת גוף פדרלי חדש שיקבע כללי בטיחות ותהליך לבחינת מודלים. לפי ההצעה, הגוף החדש - מחלקת הבינה המלאכותית - יהיה ברמת קבינט ויוכל לפקח על מערכות מתקדמות לאורך מחזור חייהן, כולל איתור יכולות מסוכנות ופיקוח על הסרתן.

הצעת החוק כוללת גם ענישה חריגה. חברה שתנסה להפר את האיסורים או לעקוף אותם עלולה להיות כפופה ל"עונש מוות תאגידי", כלומר שלילת האפשרות להמשיך לפעול, ואנשים שיפרו את הוראות החוק עלולים להיענש בעד 20 שנות מאסר. בנוסף, החוק מבקש מארצות הברית לפעול להשגת הסכמים בינלאומיים שימנעו פיתוח של על-בינה גם במדינות אחרות, בין היתר באמצעות שיתוף פעולה עם בעלות ברית ובקרות יצוא.

אחד ההיבטים החריגים ביוזמה הוא התמיכה שקיבלה מעובדים בתעשייה עצמה. לפי סוכנות הידיעות אי-פי, מספר עובדים וחוקרים בחברות בינה מלאכותית מובילות חתמו על הצהרה התומכת בהצעה. בין היתר, חוקר במערכות הבטיחות של אופן-איי, חואן פליפה סרון אוריבה, הביע תמיכה במהלך. גם עובד בגוגל דיפמיינד, סוונטה שולץ, התייחס להצעה בחיוב והבהיר כי הוא אינו מדבר בשם החברה.

• OpenAI ו-Anthropic הוזילו מודלים באותו יום - עד 50%
• דיברו על האטה - ועשרה ימים אחר כך השיקו דור חדש: הקרב ב-AI עובר למחיר

התמיכה אינה משקפת עמדה רשמית של אופן-איי או גוגל דיפמיינד. היא משקפת את עמדתם האישית של עובדים וחוקרים, ומגיעה על רקע חששות גוברים בתעשייה בנוגע ליכולות של מערכות אוטונומיות ולשאלה כיצד ניתן לוודא שהן יישארו בשליטה אנושית.

בין תחרות טכנולוגית לפיקוח בינלאומי

האירועים של היום ממחישים עד כמה הדיון בבינה מלאכותית מתרחב מעבר לשאלת קצב החדשנות. מצד אחד, חברות הטכנולוגיה ממשיכות לפתח מערכות בעלות יכולות הולכות וגדלות; מצד שני, גם חלק מהמנהלים והחוקרים בתעשייה קוראים לממשלות לקבוע כללים שיבטיחו שהפיתוח לא יתקדם מעבר ליכולת של החברה והמדינות לפקח עליו.

הוויכוח אינו מתנהל רק בשאלה אם נדרשת אסדרה, אלא גם בשאלה מה צריך להיות היקפה. אופן-איי תומכת בתקנים בינלאומיים משותפים, אך אלטמן הזהיר מפני גישה רגולטורית מופרזת. אמודי קורא להתקדמות זהירה ולהסכמים ממוקדים, בעוד שהצעת החוק של סנדרס וקאסר הולכת צעד רחוק יותר ומבקשת לאסור לחלוטין את פיתוחה של על-בינה ולהקפיא זמנית חלק נרחב מהפיתוח המתקדם.