להסדיר את ה-AI כמו את הנשק להשמדה המונית

מהפכת הבינה המלאכותית דוהרת קדימה בקצב חסר תקדים, ותועלותיה למדע, לרפואה ולמגזר העסקי ברורות מתמיד. אך מתחת לכותרות על יעילות עסקית ואוטומציה, מסתתרת מציאות מטרידה שנחשפת לציבור: מודלי בינת-על הנמצאים בחזית הטכנולוגיה (Frontier AI)  והסוכנים האוטונומיים הופכים לעצמאיים יותר ויותר וככל שהיכולות שלהם גדלות, כך גובר הסיכון שהם יצאו משליטה ויסבו נזק בלתי הפיך.

במבדקים שנערכו בקיץ האחרון לקלוד, ג'מיני ו-OpenAI תועדו מקרים שבהם סוכנים חרגו מסביבת הבדיקה המבודדת, ניחשו סיסמאות, פרצו רשתות וניסו לחדור לשרתים מסחריים ללא כל הנחיה אנושית מפורשת לכך. אירועים אלה מצביעים על מה שעתיד להתרחש אם לא יינקטו הצעדים הדרושים לכך.

אובדן שליטה במודלי חזית עלול להתממש לכדי אסון קטסטרופאלי בשלושה צירים קריטיים. האחד - נזק פיזי ותשתיתי ישיר: ככל שיותר ויותר תשתית לאומיות קריטיות כמו רשתות אנרגיה, מערכות תקשורת, בקרות טיסה וכיו"ב, יהיו תלויות בבינה מלאכותית שעשויה לצאת משליטה או להיפגע ממתקפת סייבר, כך גובר הסיכוי לנזק תשתיתי כבד.

השני - מניפולציה והנדסת תודעה המונית: מודלים מתקדמים מעצימים באופן אקספוננציאלי את היכולת לנתח פרופילים פסיכולוגיים ברשתות החברתיות, לייצר קמפיינים ממוכנים, להפיץ דיפ-פייק, להפעיל בוטים מתחזים ועוד. בידיים הלא-נכונות או במקרה של אובדן שליטה, עלולים המודלים לנקוט באמצעים בכדי לערער את אמון הציבור, להטות בחירות או לגרום לפאניקה בשווקים הפיננסיים ולמוטט באופן זה את המרקם החברתי.  

השלישי - עליונות המכונה ואובדן השליטה האנושית: תרחיש שבו מודלי בינת-על, בעלי אינטליגנציה הגבוהה עשרות מונים מזו של בני האדם, הפועלים להשגת יעדיהם באופן אוטונומי אף מחוץ למרחב הקיברנטי, באמצעות רובוטים למשל, עלול לדחוק את האנושות לעמדת נחיתות בלתי הפיכה אל מול הטכנולוגיה.

כשלים מבניים עמוקים ברגולציה הקיימת

נוכח הסיכון המתהווה, על דור ההווה מוטלת חובה חוקתית ומוסרית כלפי דור העתיד להתגונן מפני אובדן שליטה אנושי בטכנולוגיות חזית. הרגולציה הקיימת במוקדי הכוח המרכזיים – אירופה, ארה"ב וסין - כמו גם הניסיונות הגלובליים לקביעת אמות מידה בינלאומיות, מתאפיינים בכשלים מבניים עמוקים.

האיחוד האירופי יצר חקיקה קשיחה שאינה מותאמת לקצב ההתקדמות האלגוריתמית והאכיפה סובלת מבירוקרטיה "חסרת שיניים". ארה"ב מחילה כללים ברמה נורמטיבית נמוכה, המושתתים על צווים נשיאותיים שאינם מבטיחים קיומו של מנגנון יציב בשל שיקולים פוליטיים.

בריטניה בחרה בגישת "פרו-חדשנות" ונוקטת ברגולציה רכה הנסמכת על ציות וולונטרי של תאגידי הענק. סין מפעילה אסדרה אגרסיבית המכוונת בעיקר לשמירה על יציבות משטרית וצנזורת תוכן אידיאולוגית, לצד עידוד פיתוח מודלים פתוחים שאינם ניתנים לשליטה גלובלית.המהלכים המקודמים על ידי האו"ם ומדינות G7 נושאים אופי הצהרתי בלבד ואינם מהווים מנגנון רגולטורי של ממש.

לאור כשלי הרגולציה הקיימת יש לאמץ פרדיגמה חדשה, המבוססת על הלקחים שהופקו ממשטרי בקרת נשק להשמדה המונית (בתחום הגרעין ובתחום הכימי).  האנלוגיה בין נשק להשמדה המונית לבין מודלי החזית, נסמכת על עקרון השימוש הכפול ((dual-use: כפי שתעשיות הגרעין, הכימיה והביולוגיה משמשות לצרכים אזרחיים (אנרגיה, מניעת מחלות, השבחת זנים וכו') הן יכולות לשמש גם כנשק להשמדה המונית; כך גם ביחס למודלי חזית – הם יכולים לשמש לרווחת האנושות, ובידיים הלא-נכונות או כאשר ייצאו משליטה להפוך לאיום קטסטרופאלי. תפקידה של הרגולציה הוא לשמר את הטכנולוגיה בגבולות החיוביים שלה ולצורך זה נדרשים, לצד המחויבות הבינלאומית גם סמכויות, כלים ומשאבים.   

• ריביאן רוכשת סטארט-אפ סימולציה בריטי
• גם מי שהצטרפו מאוחר עשויים לגרוף מיליארדים בהנפקת אנתרופיק

עמודי התווך של הארכיטקטורה הרגולטורית

הארכיטקטורה הרגולטורית המוצעת נשענת על שלושה עמודי תווך:

עיגון אמנה בינלאומית מחייבת. בדומה לאמנות למניעת הפצת נשק להשמדה המונית, נדרש מעבר מהצהרות חסרות תוקף לקביעת נורמת-על אשר תגדיר באופן רשמי את ממדי הסיכון ותחייב את המדינות בהירתמות קולקטיבית למניעתו. האמנה תיקבע שלושה עקרונות בסיסיים. הראשון: התחייבות המדינות לפעול למניעת פיתוח והפצה של מודלים בסיכון בלתי קביל. השני: הבטחת גישה שוויונית לטכנולוגיות AI לצורכי רפואה, אקלים, חינוך, מדע וכיו"ב. השלישי: קביעת מגבלות על שילוב מודלי חזית במערכות לחימה ואיסור על הפעלת כוח קטלני ללא שליטה אנושית מהותית.

הגדרה נורמטיבית של קווים אדומים וכינון מנגנון רישוי. הצבת גבולות ברורים באשר לאימון מודלים בעלי יכולות מסוכנות מוגדרות (למשל: אוטונומיה מלאה ברשתות תשתית קריטית, תכנון וייצור של מערכות נשק, יכולות מתקפת סייבר, פיתוח יכולות שכפול והפצה עצמית בלתי מבוקרת, רכישת משאבים פיננסיים ואנרגטיים עצמאיים ועוד) ולשלב מנגנוני רישוי וסטנדרטיזציה מחמירים בטרם הפצה.

הקמת סוכנות פיקוח בינלאומית עצמאית, בעלת סמכויות פיקוח על התאגידים המפתחים ועל שרשרת האספקה כולה (החל מייצור ואספקה של השבבים ועד לניצול האנרגטי בחוות השרתים) והפעלת משטר סנקציות תלת-שכבתי (טכנולוגי, כלכלי ומשפטי-פלילי). יוקם מרשם שבבים עולמי מאובטח עם מזהה דיגיטלי מוצפן לכל שבב מתקדם, ניטור ניצול אנרגטי של חוות שרתים מעל סף חישוב מוגדר ועוד.

כמו כן יוענקו למפקחי הסוכנות (בדומה למפקחי הסוכנות הבינלאומית לאנרגיה אטומית) סמכות להיכנס לכל מתקן מחשוב ומעבדת פיתוח, להתחבר לסביבות האימון, לבדוק יומני רישום ולוודא עמידה במנגנוני בידוד ובטיחות. הסוכנות היא זו שתבצע הסמכה מוקדמת ורישוי לאימון והשקה של מודלי חזית, ותבצע את הבדיקות הנדרשות באמצעות מעבדות הערכה בינלאומיות מוסמכת שיוקמו ברחבי העולם.

• העירייה עיקלה לו את החשבון - בגלל דירת הגרושה
• "השקעה במתמחים אינה נוסטלגיה, אלא אסטרטגיה"

ההיסטוריה תשפוט את דורנו לא לפי ההישגים הטכנולוגיים שנצברו, אלא לפי היכולת לבלום את הסיכונים הכרוכים בהם. המעבר ממשטר הצהרתי רך לאסדרה בינלאומית מחייבת, מהווה תנאי קיומי הכרחי להבטחת עתיד הציביליזציה.

לקריאת המאמר המלא המנתח לעומק את המודל המשפטי, החובות הבין-דוריות כלפי הדורות הבאים ומנגנוני האכיפה הנדרשים: ttps://lnkd.in/p/dnbK53M7

עו"ד ברק לייזר, היועץ המשפטי של הנהלת בתי המשפט (עיבוד AI). העמדות המובאות במאמר זה הן עמדותיו האישיות ואינן מהוות עמדה או גילוי דעת של הנהלת בתי המשפט, הרשות השופטת או כל גורם ממלכתי אחר.