הרגולטורים מזהירים: מודלי AI חדשים עלולים לחשוף חולשות במערכת הבנקאית

גורמים בכירים במערכת הפיננסית העולמית מזהירים כי הדור החדש של מודלי בינה מלאכותית עלול לחשוף חולשות עמוקות במערכות הבנקאיות ולהציב סיכון חדש ליציבות הפיננסית. הנושא עלה בעוצמה בדיוני קרן המטבע הבינלאומית והבנק העולמי בוושינגטון, שם הוסט המוקד מסוגיות מאקרו מסורתיות לאיומי סייבר מבוססי AI.

עד ימים ספורים לפני פתיחת הכינוס, ההערכה הייתה כי הדיונים יתמקדו במתיחות במזרח התיכון, במצב שוק האשראי הפרטי וברמות החוב הממשלתי הגבוהות. בפועל, המשתתפים מצאו עצמם עוסקים כמעט באופן בלעדי בהשלכות של מודלי בינה מלאכותית מתקדמים. במרכז הדיון עומד מודל חדש של אנתרופיק, Claude Mythos Preview, שנמצא בשלב בדיקות מוגבל. היכולות שהציג המודל, במיוחד בתחום אבטחת המידע, הפתיעו גם גורמים מנוסים והעלו שאלות לגבי מוכנות המערכת הפיננסית.

״אתגר רציני מאוד״

נגיד הבנק המרכזי של אנגליה, אנדרו ביילי, הגדיר את ההתפתחות כ"אתגר רציני מאוד", והדגיש כי מדובר בדוגמה נוספת למהירות שבה תחום הבינה המלאכותית מתקדם. לדבריו, הרגולטורים נדרשים להגיב בזמן אמת להתפתחויות. ביילי, המשמש גם כיו"ר מועצת היציבות הפיננסית, ציין כי יש צורך בהערכה מיידית של הסיכונים הסייבריים שמציב המודל, במיוחד לאור יכולתו לזהות ולנתח חולשות במערכות מורכבות.

גם בקרן המטבע מזהים את הנושא כקריטי. בכירים בארגון ציינו כי ההתפתחות הטכנולוגית יוצרת סיכונים חדשים בקנה מידה רחב, והזהירו כי הנושא צפוי לעמוד במרכז סדר היום הבינלאומי בחודשים הקרובים.

• עידן הפיטורים הגדול: חברות חותכות עד 40% מכוח האדם והמניה דווקא עולה
• אפסייד של 26% לאוקטה: ריימונד ג'יימס מעלים המלצה בעקבות צמיחת סוכני ה-AI
• המלצת המערכת: כל הכותרות 24/7

החשש המרכזי נובע מהיכולת של מודלים כאלה לאתר פגיעויות בהיקף ובמהירות שמעבר ליכולת האנושית. לפי גורמים המעורבים בדיונים, מדובר בשינוי מהותי במאזן הכוחות בין תוקפים למגנים במרחב הסייבר. גורמים בוושינגטון ציינו כי הטכנולוגיה מאפשרת חיבור אוטונומי של מספר חולשות שונות ליצירת תרחישי תקיפה מורכבים, ללא צורך בהתערבות אנושית ישירה - יכולת שמגבירה את רמת הסיכון.

אנתרופיק עצמה ציינה כי המודל הצליח לזהות אלפי פגיעויות ברמות חומרה גבוהות, כולל כאלה הקיימות במערכות הפעלה ודפדפנים מרכזיים. בחברה אף הזהירו כי יכולות כאלה עלולות להתפשט במהירות לגורמים שאינם מחויבים לשימוש אחראי. על רקע זה, החברה הגבילה את הגישה למודל והעמידה אותו לרשות קבוצה מצומצמת של כ-40 ארגונים בלבד, בהם חברות טכנולוגיה ובנקים גדולים כמו אמזון, אפל ו-JPMorgan, לצורך בדיקות מבוקרות.

החששות והפוטנציאל החיובי

שר האוצר האמריקאי סקוט בסנט כינס דיון עם מנהלי בנקים מובילים ויו"ר הפדרל ריזרב ג'רום פאוול, במטרה לבחון את ההשלכות של הפגיעויות שנחשפו באמצעות המודל. מנהלים במערכת הבנקאית האמריקאית אישרו כי הם כבר עובדים עם גרסאות ניסוי של המודל. מנכ"ל JPMorgan, ג'יימי דיימון, ציין כי הכלי חושף חולשות רבות שדורשות טיפול מיידי.

• חברת הסאי מציגה ליידר עם זיהוי צבע לרכב אוטונומי
• דיפסיק במגעים לגיוס לפי שווי של 10 מיליארד דולר
• תוכן שיווקי גידור בנאמנות: הראל Multi-Strategy (4D) מובילה את הטבלה
• בנק אוף אמריקה על אלביט: אפסייד נוסף למרות זינוק חד במניה

לצד החששות, יש גם התייחסות לפוטנציאל החיובי. בכירים בבנקים מציינים כי אותם כלים יכולים לשפר את יכולות ההגנה, לייעל תהליכים פנימיים ולהוביל לשיפורים מתמשכים בתשתיות.

עם זאת, רגולטורים באירופה מביעים תסכול מכך שרבים מהם טרם קיבלו גישה למודל, ולכן מתקשים להעריך באופן עצמאי את רמת האיום. חלקם ציינו כי הם נמצאים בתחילת תהליך הבדיקה בלבד. גורמים במערכת הבנקאית האירופית הודו כי "אם הטענות נכונות, מדובר בנושא רציני", אך הדגישו כי מוקדם מדי לקבוע מסקנות ללא בדיקות ישירות של המודל.

במקביל, הרגולטורים באירופה מציינים כי תחום הסייבר נמצא כבר שנים על סדר היום, במיוחד מאז החרפת המתיחות הגיאופוליטית בעקבות המלחמה באוקראינה. במסגרת זו הוגברו מאמצי הפיקוח והגיוס של מומחי סייבר. עם זאת, הופעת טכנולוגיות כמו AI מתקדם ואף מחשוב קוונטי מחייבת התאמות נוספות. חלק מהרגולטורים ציינו כי אינם מתחילים מאפס, אך נדרשת היערכות מחודשת.