עד 20 שנות מאסר למפתחי AI: הצעת החוק שמבקשת לעצור בינה על-אנושית

הוויכוח בארה"ב על עתיד ה-AI עולה מדרגה. אחרי שנים שבהן השאלה המרכזית הייתה איך להסדיר את הענף, אילו מגבלות להטיל על חברות הטכנולוגיה וכיצד להתמודד עם הסיכונים שמביאים איתם המודלים החדשים, הסנאטור ברני סנדרס וחבר הקונגרס גרג קאסר מעלים כעת אפשרות הרבה יותר קיצונית - לעצור את המרוץ בנקודה מסוימת לחלוטין.

השניים הודיעו בסוף השבוע על ה-Ban Artificial Superintelligence Act, הצעת חקיקה שאמורה לאסור באופן קבוע פיתוח והפעלה של מערכות בינה מלאכותית סופר-אינטליגנטיות, ובמקביל לעצור זמנית פיתוח של מערכות AI מתקדמות עד שהממשל הפדרלי יקים גוף פיקוח ויקבע כללי בטיחות ברורים. בשלב זה מדובר בחקיקה שטרם הוגשה בנוסחה הסופי לקונגרס, כאשר לשכת סנדרס מגדירה אותה כ-"forthcoming legislation".

לפי העקרונות שפרסמו סנדרס וקאסר, מערכות שיוגדרו כסופר-אינטליגנטיות - כלומר מערכות שמסוגלות לעבור את היכולות הקוגניטיביות של בני אדם במגוון רחב של תחומים - יהיו אסורות לפיתוח ולהפעלה. חברות שיפרו את האיסור עשויות לעמוד בפני מה שסנדרס מכנה "corporate death penalty", כלומר שלילת האפשרות שלהן להמשיך לפעול, בעוד שמפתחים וגורמים פרטיים עשויים לעמוד בפני עונש של עד 20 שנות מאסר.

סנדרס מציג את העניין לא כשאלה של רגולציה כלכלית רגילה אלא כסיכון אפשרי בקנה מידה רחב בהרבה. "כמעט בכל יום מופיע סיפור חדש ומפחיד על כך שחברות הביג טק מאבדות שליטה על הטכנולוגיה שהן מפתחות", אמר. לדבריו, העתיד של האנושות לא יכול להישאר "בידי קומץ אוליגרכים של ביג טק".

המהלך מגיע על רקע התקדמות מהירה מאוד ביכולות של מודלי AI. OpenAI השיקה בשבוע שעבר את GPT-6 Astra, אותו היא מגדירה כמודל החזק ביותר שלה עד כה, עם יכולות משופרות בתכנות, מחקר, שימוש במחשב ועבודה מורכבת ורב-שלבית. החברה אף דיווחה כי Astra הוא המודל הראשון שלה שהגיע לרמת "Critical" בתחום הסייבר לפי מסגרת הסיכונים הפנימית שלה - כלומר יכולת לאתר חולשות לא מוכרות ולפתח דרכי ניצול שלהן במערכות מוגנות, תחת תנאים מסוימים.

עבור סנדרס, ההתפתחויות האלה הן בדיוק הסיבה שלא כדאי לחכות. בוושינגטון פוסט הוא הגדיר אירוע שבו סוכני AI של OpenAI עקפו מנגנוני בקרה במהלך ניסוי כ-"קריאת השכמה", ואמר כי הוא מעדיף שיכנו אותו "alarmist" מאשר להיות מי ש"נרדם בשמירה".

אבל ההתנגדות להצעה החלה כמעט מיד - והטיעון המרכזי נגדה הוא בכלל גיאופוליטי.

המיליארדר ומנהל קרן הגידור ביל אקמן הגיב ב-X לדיווח על הצעת החוק וכתב: "האם ברני מעדיף שהאויבים שלנו יגיעו לסופר-אינטליגנציה לפנינו? מי מצביע לבחור הזה?".

התגובה של אקמן נוגעת כנראה לנקודה הבעייתית ביותר בהצעה של סנדרס: גם אם ארה"ב תחליט לעצור את פיתוח הדור הבא של ה-AI, אין לה דרך פשוטה להבטיח שסין, רוסיה או מדינות אחרות יעשו את אותו הדבר.

• אנתרופיק בדרך לשווי של יותר מטריליון דולר - אבל הפוליטיקה עשויה לקבוע את המחיר
• ברני סנדרס רוצה לתת לציבור נתח מענקיות ה-AI

אפילו מבקרי תעשיית ה-AI מתנגדים

מה שמעניין הוא שהביקורת על סנדרס לא מגיעה רק ממשקיעים, חברות טכנולוגיה או מי שמבקשים להשאיר את הענף ללא מגבלות.

גם גארי מרקוס, מחוקרי ה-AI הבולטים שמזהירים כבר שנים מפני הסיכונים של המודלים המתקדמים, יצא נגד ההצעה. מרקוס דווקא תומך ברגולציה משמעותית, הקמת סוכנות פדרלית ל-AI ואף העלה בעבר אפשרות של הפסקה זמנית בפיתוח מודלים מתקדמים. אבל לדבריו, סנדרס הולך רחוק מדי.

"ייתכן שאנחנו צריכים הפסקה זמנית, אולי אפילו כזו שתימשך מספר שנים", כתב מרקוס, אך הוסיף כי "איסור קבוע וחד-צדדי על כל מחקר בתחום AI על-אנושי הוא רחב מדי, מבטיח להשאיר את ארה"ב מאחור ואינו הגישה הנכונה". הוא גם טוען שיהיה קשה מאוד לקבוע באמצעות מדדים ומבחנים את הנקודה המדויקת שבה מערכת AI הופכת ל"סופר-אינטליגנטית".

זו למעשה אותה בעיה שאקמן מעלה, אם כי מזווית אחרת. אקמן מסתכל על המרוץ כעל תחרות אסטרטגית בין ארה"ב ליריבותיה. מרקוס מסתכל עליו בעיקר מנקודת מבט של בטיחות ורגולציה. שניהם מגיעים לאותה מסקנה: עצירה אמריקאית בלבד יכולה להיות מסוכנת לא פחות מהמשך הפיתוח.

בין AGI לסופר-אינטליגנציה

הוויכוח מסתבך עוד יותר משום שגם בתוך התעשייה אין הגדרה מוסכמת לחלוטין למונחים AGI וסופר-אינטליגנציה. AGI מתייחס בדרך כלל למערכת שמסוגלת לבצע מגוון רחב של משימות קוגניטיביות ברמה אנושית או גבוהה ממנה. סופר-אינטליגנציה אמורה ללכת שלב נוסף - מערכת שעולה באופן משמעותי על בני אדם במרבית התחומים.

• סין מזרימה 38 מיליארד דולר לבנקים הגדולים - מה היא מנסה למנוע?
• טורקיה דוחה בשנתיים את היעד לאינפלציה חד ספרתית - וחותכת את תחזית הצמיחה

OpenAI השיקה את Astra כמודל בעל יכולות מתקדמות במיוחד בתחומי קוד, מחקר, סייבר ושימוש במחשב. נשיא החברה גרג ברוקמן אף תיאר את ההשקה כ"קפיצה דורית", והעלה את האפשרות שהמודל מסמן כניסה לעידן ה-AGI.

וזה בדיוק המקום שבו השאלה התיאורטית שמעלה סנדרס מתחילה להפוך לבעיה מעשית: מי מחליט שמודל מסוים כבר חצה את הגבול? לפי איזה מבחן? ומה קורה אם ארה"ב אוסרת מודל כזה בזמן שחברה סינית ממשיכה לפתח אותו?

נכון לעכשיו, קשה לראות את ההצעה של סנדרס וקאסר עוברת במהירות בקונגרס. הנוסח המלא עדיין לא פורסם, ובוושינגטון קיימת מחלוקת עמוקה בשאלה האם ארה"ב צריכה להאט את קצב הפיתוח או דווקא להאיץ אותו כדי לשמור על היתרון מול סין. Axios מציינת כי סנדרס הוא אחד הפוליטיקאים האמריקאים הבכירים הראשונים שקוראים לאיסור קבוע על סופר-אינטליגנציה, ולא רק לרגולציה או הפסקה זמנית.