"מודל כזה יכול לערער את המערכת הפיננסית"; "נותנים לאנשים גישה לשיגור טילים בליסטיים": הבכירים שמזהירים מהדור החדש של הבינה המלאכותית

ג'יימי דיימון מקדם את השימוש בבינה מלאכותית בתוך ג'יי.פי מורגן בקצב מהיר. הבנק משקיע בתחום מיליארדי דולרים, מפעיל מאות יישומים ומשלב מודלים בניהול סיכונים, שירות, מסחר, תוכנה ואיתור הונאות. דווקא משום כך, האזהרה שלו בנוגע למיתוס של אנתרופיק קיבלה משקל חריג. "מיתוס היה סוגיה אמיתית, שהממשל טיפל בה מההתחלה", אמר מנכ"ל הבנק הגדול בארצות הברית בכנס ביטחון וחדשנות בפנסילבניה. לדבריו, גישה רחבה למודל דומה למצב שבו "נותנים טילים בליסטיים לאנשים מן השורה".

ההשוואה נשמעת קיצונית, אך היא מתייחסת ליכולת מעשית מאוד. מיתוס מסוגל לסרוק מאגרי קוד גדולים, לאתר חולשות אבטחה מורכבות, להציע דרך לנצל אותן ולסייע בבניית תיקון. אותה מערכת יכולה לשרת בנק שמבקש להגן על תשתיות התשלומים שלו, ובה בעת להעניק לתוקף קיצור דרך אל תוך מערכות פיננסיות, בתי חולים, חברות חשמל, רשתות תקשורת וענן. אנתרופיק חשפה את מיתוס באפריל 2026 והעניקה גישה מוקדמת לקבוצה מצומצמת של ארגונים. ג'יי.פי מורגן היה בין הגופים שקיבלו את הכלי לצורך בדיקת מערכות וזיהוי חולשות. לצדו השתתפו חברות טכנולוגיה, ספקיות ענן, גופי ממשל וארגוני תשתית.

החברה הציגה את המודל כרגע מפנה בעולם הסייבר. מיתוס הצליח למצוא חולשות ותיקות בפרויקטים גדולים, לרבות כשלים ששרדו בדיקות אנושיות במשך שנים. בחלק מהמשימות הוא הציג יכולת שמתקרבת לצוותי המחקר הטובים בענף, תוך עבודה בקצב ובקנה מידה שקשה להשיג באמצעות כוח אדם.

להרחבה: מאחורי המודל החדש של אנתרופיק ואיך הוא משנה את עולם הסייבר

ביוני השיקה אנתרופיק את פייבל 5, גרסה שמבוססת על אותה משפחת יכולות ומותאמת להפצה רחבה יותר. החברה הוסיפה שכבות הגנה, הגבלות על משימות רגישות ומנגנונים שנועדו לזהות ניסיונות שימוש בתחומי סייבר וביולוגיה. מיתוס 5 נשאר זמין לקבוצה של שותפים שעברו בדיקה מוקדמת.

ההפרדה הזאת נשמעת פשוטה על הנייר: הציבור מקבל את פייבל, וגופים מאושרים מקבלים את מיתוס. בפועל, כל מנגנון הגנה עומד מול משתמשים שמנסים לעקוף אותו. פרצה שהתגלתה סביב המודלים הובילה את הממשל האמריקאי לחסום זמנית את הגישה, לרבות ללקוחות מחוץ לארה"ב. החסימה הוסרה אחרי שאנתרופיק הציגה אמצעי הגנה חדשים והסכימה לשיתוף פעולה עמוק יותר עם הרשויות.

האירוע המחיש עד כמה קשה לנהל מוצר שמצוי בין תוכנה מסחרית לבין יכולת בעלת משמעות ביטחונית. ענקיות טכנולוגיה רגילות להשיק שירותים בכל העולם בתוך שעות. מיתוס מחייב בחירת לקוחות, בדיקת זהות, פיקוח על אופי השימוש, ניטור מתמשך ואפשרות לניתוק מהיר.

פרצת האבטחה שהעניקה למשתמשים גישה למודל מיתוס הראתה שגם חברה שבונה את המודל סביב עקרונות של זהירות מתקשה לשלוט בכל נתיב גישה.

דיימון רחוק מלהיות היחיד

נגיד הבנק המרכזי של אנגליה, אנדרו ביילי, הזהיר שהסיכון חוצה גבולות ומערכות פיננסיות. לדבריו, מדינה אחת מתקשה להתמודד לבדה עם כלי שמסוגל לזהות חולשות בתשתיות שפועלות בכמה יבשות. בנק בריטי יכול להשתמש בתוכנה אמריקאית, לאחסן מידע בענן אירופי ולהעביר תשלומים דרך רשתות גלובליות. חולשה במקום אחד מתפשטת במהירות אל יתר המערכת.

• אנתרופיק פותחת במרתון פגישות משקיעים לקראת הנפקת ענק כבר באוקטובר
• כשה-AI הפך לשוכר הכי מבוקש באירופה: חברות הבינה המלאכותית שכרו בלונדון בחצי שנה יותר שטח משרדים מכל

ביילי קרא לשיתוף פעולה בינלאומי בבדיקת מודלים חזקים, שיתוף מידע בין רשויות והקמת מנגנון שמאפשר למדינות להבין אילו יכולות מגיעות לשוק. העמדה שלו משקפת חשש רחב בקרב בנקים מרכזיים: מודל שמאיץ תקיפות סייבר עלול להפוך אירוע מקומי למשבר נזילות או אמון.

המערכת הפיננסית בנויה על רציפות. לקוחות צריכים לגשת לחשבון, בנקים צריכים להעביר כסף וסוחרים צריכים לסמוך על נתוני השוק. תקלה רחבה שנמשכת כמה שעות יכולה ליצור עומס, ניסיונות משיכה ותנועה חדה בין נכסים. כלי שמקצר את הדרך לגילוי חולשות מגדיל את מספר הגורמים שמסוגלים לנסות מהלך כזה.

גם דמיס הסאביס, מנכ"ל גוגל דיפמיינד, קרא להקמת גוף אמריקאי שיוביל פיקוח בינלאומי על מודלים מהשורה הראשונה. ההצעה שלו כוללת גוף מקצועי שיבדוק מערכות לפני הפצה, יבצע מבחני עמידות ויוכל לדרוש שינויים כאשר מתגלות יכולות חריגות בתחומי סייבר, ביולוגיה או ביטחון.

הסאביס הציע מבנה שמזכיר רגולטור פיננסי מקצועי, עם כללים שמתעדכנים בקצב התפתחות הטכנולוגיה. מבחינתו, רגולציה שנכתבת פעם אחת ומתבססת על גודל המודל או מספר הפרמטרים תתיישן במהירות. הפיקוח צריך להתמקד ביכולת בפועל: מה המערכת מסוגלת לעשות, באיזו עצמאות ובאיזה קצב.

יו"ר הפדרל ריזרב ג'רום פאוול ושר האוצר האמריקאי סקוט בסנט כבר כינסו באפריל את ראשי הבנקים הגדולים לדיון דחוף סביב מיתוס. עצם הכינוס הצביע על שינוי ביחס של הרשויות. מודל חדש נתפס בעבר כמוצר טכנולוגי שמעניין מפתחים ומשקיעים. מיתוס הוכנס לדיון של יציבות פיננסית וביטחון לאומי.

• רילוקיישן: איך נשמרות הזכויות מול המדינה ואיזה הוצאות מוכרות למס?
• יצרנית השבבים הגדולה בעולם היכתה את התחזיות, והרווח הרבעוני זינק ל-22 מיליארד דולר

גם נשיאי בנקים באירופה ביקשו גישה מוקדמת לכלי, מתוך רצון להגן על המערכות לפני שיכולות דומות יתפשטו. האיחוד האירופי ניהל שיחות עם אנתרופיק על הצטרפות לפרויקט גלסווינג, שבמסגרתו כ-150 ארגונים ביותר מ-15 מדינות בוחנים חולשות ומתקנים תשתיות.

להרחבה: אנתרופיק מרחיבה את הגישה למיתוס ל-150 ארגונים בעולם

עבור אנתרופיק, הפרויקט משרת שתי מטרות. הראשונה היא הגנתית: לתת לחברות ולממשלות זמן לתקן חולשות לפני שכלים דומים מגיעים לתוקפים. השנייה היא עסקית: להוכיח שמודל חזק מסוגל לייצר ערך בהיקפים שמצדיקים מחיר גבוה ומערכת יחסים עמוקה עם הלקוח.

כאן מתחיל המתח המרכזי. ככל שהמודל יעיל יותר, כך הביקוש אליו עולה. ככל שהגישה מתרחבת, כך גדל הסיכון לזליגה, עקיפה או שימוש שחורג מהמטרה המקורית. אנתרופיק נדרשת לשווק את עוצמת המוצר ובאותו זמן להסביר מדוע הציבור הרחב יקבל גרסה מצומצמת.

הדיון גם חושף פער בין החברות הגדולות ליתר השוק. בנק כמו ג'יי.פי מורגן מחזיק צוותי אבטחה, מערכות ניטור, יועצים משפטיים ויכולת לבנות סביבה מבודדת. חברה בינונית עשויה לקבל כלי דומה בלי אותה מעטפת. מבחינת הרגולטורים, זהו הבדל מהותי בין גישה מבוקרת להפצה מסחרית רגילה.

מהטילים הבליסטיים אל חשבון הטוקנים

דיימון קשר את האזהרה הביטחונית לשאלה עסקית יומיומית יותר: כמה עולה להפעיל את המודלים האלה. לדבריו, חברות כבר רואות את ההוצאות מטפסות במהירות ומתחילות לנהל את השימוש כפי שהן מנהלות מחשוב ענן, אנרגיה, כוח אדם וכל משאב אחר.

טוקן הוא יחידת המידע שהמודל קורא או מייצר. מסמך, שיחה, קובץ קוד ותשובה מפורקים ליחידות כאלה. ספקיות גובות תשלום לפי נפח הקלט והפלט, כאשר המודלים החזקים ביותר עולים יותר בכל קריאה.

החשבון גדל במיוחד עם כניסת סוכנים. צ'אט רגיל מקבל הוראה ומחזיר תשובה. סוכן יכול לקרוא אלפי קבצים, להפעיל כלים, להריץ בדיקות, לזהות שגיאה, לתקן אותה ולחזור על התהליך. מבחינת העובד מדובר במשימה אחת. מאחורי הקלעים מתבצעות מאות או אלפי פעולות.

זו הסיבה שחברות מגלות כי ירידה במחיר הטוקן אינה מבטיחה ירידה בחשבון. המחיר ליחידה יורד, אך מספר היחידות מזנק. עובדים מוסיפים מודלים לכל תהליך, מוצרים שולחים שאילתות באופן אוטומטי וסוכנים צורכים נפח גדול בהרבה מכלי הצ'אט של הדור הקודם.

דיימון העריך שארגונים יעבירו כל פעולה אל "הטוקן הזול ביותר" שמספק תוצאה מתאימה. המשמעות היא מעבר ממודל אחד שמשרת את כל החברה למערכת ניתוב. סיכום הודעה יישלח לדגם קטן וזול, ניתוח חוזה יגיע למערכת חזקה יותר, ובדיקת אבטחה קריטית תוכל לעבור למיתוס בסביבה סגורה.

המעבר כבר קורה. חברות בונות שכבה שמסתירה מהעובד את זהות המודל ובוחרת ספק לפי מחיר, מהירות, איכות, מיקום המידע ורמת הסיכון. המשתמש מבקש משימה, והמערכת מחליטה אם לשלוח אותה לאנתרופיק, OpenAI, גוגל, דיפסיק או ספק אחר.

הקרב החדש בבינה המלאכותית מתמקד ביותר ביצועים בפחות כסף, משום שבקנה מידה ארגוני גם הבדל קטן במחיר למיליון טוקנים מצטבר למיליוני דולרים.

ניקש ארורה, מנכ"ל פאלו אלטו נטוורקס, העריך שמחירי השימוש צריכים לרדת בכ-80% בתוך שנה ובכ-90% בתוך שנתיים כדי שההטמעה תתרחב בקצב שהחברות מצפות לו. הארגונים מזהים ערך, אך הוצאה של מאות דולרים לעובד הופכת במהירות לחשבון של עשרות מיליונים בחברה גדולה.

מנכ"ל פאלו אלטו: מחירי הבינה המלאכותית חייבים לרדת

גם שיטת המדידה משתנה. מנהלים התלהבו בתחילת הדרך ממספר המשתמשים, היקף השאילתות וכמות הטוקנים. שימוש גבוה נתפס כהוכחה לחדשנות. כעת מחלקות הכספים מבקשות נתון אחר: כמה עולה לפתור פנייה, לבדוק חוזה, לכתוב רכיב תוכנה או לאתר פרצה.

הפער בין שימוש לתוצאה יכול להיות גדול. עובד שמפעיל מודל יקר במשך שעה עשוי לחסוך יום עבודה. במקרה כזה ההוצאה משתלמת. סוכן שנכנס ללולאה, קורא שוב את אותם קבצים ומחזיר תשובה חלשה מייצר חשבון בלי ערך.

מכאן מגיעה גם ההתנגשות בין בטיחות לעלות. מודל קטן וזול עשוי להספיק לרוב העבודה, אך משימה מורכבת תדרוש מערכת חזקה. מצד שני, גישה למודל כמו מיתוס כרוכה בעלויות אבטחה, בקרה ותיעוד שחורגות ממחיר הטוקנים. ארגון צריך לחשב גם את הסיכון, את זמן הבדיקה האנושית ואת הנזק האפשרי מטעות.

השלב הבא צפוי לכלול סל מודלים, תקרות תקציב לכל צוות, הגבלת צעדים לסוכנים ומעקב אחר עלות לכל תוצאה. המודלים החזקים יישמרו לפעולות שבהן הערך מצדיק את המחיר והסיכון, בעוד העבודה השגרתית תעבור לספקים זולים. במקביל, מרכזי נתונים ינתבו משימות לפי מחיר חשמל, זמינות שבבים ומיקום גיאוגרפי. מיתוס ממחיש את קצה היכולת: כלי שיכול להגן על תשתית פיננסית או לסייע בפגיעה בה. חשבון הטוקנים ממחיש את קצה הכלכלה: גם טכנולוגיה חזקה מתקשה להפוך לתשתית רחבה כשהעלות גדלה מהר מהתפוקה. הארגונים שיצליחו יהיו אלה שיחברו בין שתי ההחלטות - למי מעניקים גישה, ואיזו משימה באמת שווה את המחיר.