מודל חזק מדי לשוק החופשי? ארה"ב חוסמת את Claude Fable 5

אנתרופיק, נאלצה להשבית את הגישה לשני מודלים מתקדמים שלה, Claude Fable 5 ו-Claude Mythos 5, אחרי שקיבלה הוראה ממשרד המסחר האמריקאי לחסום אותם בפני אזרחים זרים. ההוראה חלה גם על אזרחים זרים שנמצאים בתוך ארה"ב, ובפועל יצרה מצב שבו החברה לא יכלה להמשיך להפעיל את המודלים באופן סלקטיבי בלי להסתכן בהפרת ההנחיה.

בשלב הזה אנתרופיק בחרה בפתרון הרחב ביותר, חסימה מלאה של שני המודלים לכלל המשתמשים. החברה טענה כי מדובר באי הבנה וכי היא פועלת מול הממשל כדי להחזיר את הגישה בהקדם, אבל עצם ההחלטה כבר מייצרת תקדים משמעותי. מודל AI מסחרי, כזה שאמור היה להיות מוצר פרימיום ללקוחות משלמים, הפך בתוך זמן קצר לנכס שמוגדר רגיש מבחינה ביטחונית. זו נקודה חשובה, כי עד עכשיו עיקר המאבק הגיאופוליטי סביב AI התמקד בשאלה מי יכול לרכוש את השבבים המתקדמים של אנבידיה, מי מקבל גישה לכוח חישוב, ומי מצליח להקים מרכזי נתונים בקנה מידה גדול. כעת המוקד עובר גם לשאלה מי רשאי להשתמש במודל עצמו.

החשש: פריצת מנגנוני ההגנה של המודל

הסיבה הרשמית למהלך קשורה לחשש מפריצת מנגנוני ההגנה של Fable 5. לפי אנתרופיק, הממשל האמריקאי סבור כי נחשף לדרך לעקוף את שכבות הבטיחות של המודל, מה שמכונה jailbreak. החברה מצידה טוענת כי בחנה את ההדגמה שהוצגה לה, וכי מדובר היה בזיהוי של מספר חולשות פשוטות יחסית, כאלה שהיו ידועות קודם לכן ושגם מודלים זמינים אחרים מסוגלים לזהות ללא עקיפה מיוחדת של מנגנוני הגנה. במילים אחרות, אנתרופיק מנסה לצמצם את משמעות האירוע ולהציג אותו כתגובה ממשלתית מוגזמת. אבל כאן בדיוק נמצא המתח הגדול בסיפור.

במשך חודשים אנתרופיק עצמה בנתה סביב משפחת Mythos תדמית של טכנולוגיה חריגה בעוצמתה. המודל המקורי לא שוחרר לציבור הרחב, בין היתר בשל חששות מיכולות מתקדמות בתחומי סייבר, עקיפת מגבלות ושימושים רגישים נוספים. החברה אף השיקה את Project Glasswing, תוכנית מצומצמת שבה גופים נבחרים קיבלו גישה למודל כדי לבחון אילו סיכונים חדשים הוא עלול לייצר בעולם הסייבר. כלומר, אנתרופיק ביקשה מהשוק ומהממשלות להתייחס למודלים האלה כאל טכנולוגיה שדורשת זהירות מיוחדת. עכשיו, כשהממשל האמריקאי אכן מתייחס אליהם כך, החברה טוענת שהתגובה רחבה מדי.

Fable 5 היה אמור להיות הגרסה המסחרית והמרוסנת יותר של אותה משפחת מודלים. אנתרופיק הציגה אותו כמודל "Mythos-class", כלומר כזה שנמצא באותה סביבת יכולות, אבל הותאם לשימוש כללי ובטוח יותר. הוא נועד לאפשר ללקוחות ליהנות מהקפיצה הטכנולוגית בלי לקבל גישה מלאה למודל שנחשב מסוכן יותר. אלא שההבחנה הזו, בין מודל שנשמר במעגלים סגורים לבין מוצר שנמכר ללקוחות, היא בדיוק המקום שבו הרגולטור נכנס. מבחינת הממשל, אם המודל מספיק חזק כדי לייצר יכולות דו-שימושיות רגישות, גם גרסה מסחרית ומוגנת שלו עלולה להפוך לבעיה.

האירוע הזה ממחיש את אחת הדילמות המרכזיות של שוק ה-AI. אותן יכולות שהופכות מודל לכלי יעיל עבור חברות, מפתחים ואנשי אבטחה, הן גם היכולות שעלולות להפוך אותו לכלי בעייתי בידיים אחרות. מודל שיודע לקרוא קוד, לאתר חולשות ולהציע תיקונים, יכול לעזור לצוותי אבטחה לצמצם סיכונים. אבל אותה יכולת בדיוק יכולה לשמש גם תוקפים שמחפשים נקודות תורפה.

הזווית הישראלית: כש-AI פוגש אבטחת קוד

האירוע הזה רלוונטי במיוחד גם לשוק הישראלי, לאו דווקא בגלל שימוש ישיר ב-Fable 5 או ב-Mythos 5, אלא בגלל המקום שבו ישראל נמצאת בשרשרת הערך של ה-AI והסייבר. חלק גדול מחברות הטכנולוגיה המקומיות, מסטארטאפים צעירים ועד מרכזי פיתוח של חברות גלובליות, משלבות היום מודלים מתקדמים בתהליכי כתיבת קוד, בדיקות אבטחה, איתור חולשות וניהול סיכונים. מבחינתן, היכולת של מודל לקרוא קוד, להבין מבנה מערכות ולהציע תיקונים היא לא איום תיאורטי, אלא כלי עבודה יומיומי. אבל אותה יכולת בדיוק הופכת את המודלים האלה לרגישים יותר מבחינת רגולטורים וממשלות.

בישראל, שבה תעשיית הסייבר היא גם מנוע כלכלי וגם שכבת הגנה לאומית, הדילמה הזו מורגשת אפילו יותר. חברות רוצות לאמץ כלי AI כדי לקצר זמני פיתוח, לשפר הגנות ולהתמודד עם מחסור בכוח אדם טכנולוגי, אבל הן גם מבינות שהסתמכות מלאה על מודל חיצוני, בעיקר כזה שנשלט על ידי חברה אמריקאית וכפוף להחלטות ממשל בארה"ב, יוצרת תלות חדשה. זו כבר לא רק שאלה של פרטיות מידע או עלות שימוש, אלא גם של רציפות עסקית, בקרה על הקוד, והיכולת להגן על מערכות בזמן אמת גם אם הגישה למודל משתנה או נחסמת.

מאור דודזון, VP R&D בחברת הסייבר Cycode, מסביר כי "האירוע סביב Fable 5 ו-Mythos 5 מחדד אמת פשוטה. אבטחת AI כבר אינה סוגיה תיאורטית. גם אם לפי אנתרופיק מדובר בתרחיש צר יחסית, בקשה מהמודל לקרוא קוד ולתקן בו חולשות, זו בדיוק הדילמה. איתור חולשות בקוד הוא יכולת דו שימושית. היא משרתת מגינים מדי יום, אבל יכולה לשרת גם תוקפים. בעולם שבו סוכני AI מאתרים פרצות בקצב שקשה להדביק ידנית, ארגונים לא יכולים להסתמך רק על מנגנוני ההגנה של ספק המודל. גם ספק שמיישם הגנה רב שכבתית רצינית אינו תחליף לשכבת אבטחה עצמאית, מקומית ורציפה, שמגינה על הקוד בזמן אמת ומצמצמת את הפער בין קצב הגילוי לקצב התיקון".

• ה-AI לקראת האיום הגדול ביותר עליו - הרגולציה
• Fable 5 עולה כפול מהמודל הקודם: מי מרוויח מהתמחור החדש של אנתרופיק?

מעבר להיבט האבטחתי, האירוע מחדד גם שאלה עסקית רחבה יותר עבור סטארטאפים ישראליים: עד כמה נכון לבנות מוצר שלם על גבי מודל או API שנמצאים מחוץ לשליטת החברה. במשך שנים ההנחה בענף הייתה ששירותי ענן ומודלים אמריקאיים הם תשתית גלובלית זמינה, כמעט כמו חשמל או אינטרנט. אבל אם ממשל יכול להגביל גישה למודל מסוים משיקולי ביטחון לאומי, גם חברה שלא עוסקת בסייבר התקפי עלולה לגלות שהתשתית שעליה היא נשענת אינה מובטחת.

יניב גולן, שותף מנהל בקרן lool ventures, המשקיעה בסטארטאפים בשלבים ראשונים, אומר כי "ההייטק הישראלי והעולמי חי עד היום תחת אשליית הענן הגלובלי, ההנחה המובלעת שתשתיות ה-AI תמיד יהיו זמינות, פתוחות ונטולות גבולות לכל מפתח בכל מקום בעולם. המציאות הגיאופוליטית החדשה מנפצת את האשליה הזו. אנחנו צועדים במהירות לעידן של הלאמת ה-AI, שבו מודלי השפה הגדולים הופכים לנכס לאומי ובטחוני סגור של המדינות שבהן הם פותחו".

לדבריו, עבור יזמים, חברה שמסתמכת באופן בלעדי על API אמריקאי של צד שלישי מחזיקה כיום נקודת כשל קריטית. גולן מסביר כי הערך העסקי העמיד עובר מהמודל עצמו אל שכבות שהארגון באמת שולט בהן: תזמור מערכות אייג'נטים בתוך סביבת הארגון, ממשל ובקרה שמאפשרים להעלות אייג'נט לאוויר בביטחון, וריבונות בגבול הארגון, כלומר אבטחה וגישה שאינן תלויות רק בספק חיצוני. "אלו השכבות שאף ממשלה לא יכולה לכבות מרחוק", הוא אומר, "וזה בדיוק מה שהופך אותן לחפיר העסקי האמיתי של העשור הקרוב".

הקרב מול סין עובר מהשבבים למודלים

ברקע עומד גם המרוץ הגלובלי בין ארה"ב לסין. מדדי הביצועים של מודלי השפה מצביעים על יתרון אמריקאי ברור לאורך השנה האחרונה. המודלים האמריקאיים ממשיכים להוביל את הטבלאות, כאשר Claude Fable 5 נמצא בקצה העליון של המדדים, מעל מודלים של OpenAI וגוגל. במקביל, המודלים הסיניים, בהם Kimi ו-GLM, ממשיכים להשתפר ומצמצמים פערים, אבל עדיין אינם מובילים את המדד. במובן הזה, ארה"ב נמצאת במצב מורכב: היא מצליחה לשמור על יתרון טכנולוגי, אבל ככל שהיתרון הזה גדל, כך הוא נתפס יותר כנכס אסטרטגי שצריך לשלוט בגישה אליו.

זו נקודת המפנה הרחבה יותר. במשך שנים חברות הטכנולוגיה האמריקאיות נהנו מהיכולת להפיץ מוצרים גלובלית כמעט בלי מגבלות מהותיות. מודל עסקי של תוכנה, ענן ו-AI נשען על הנחה פשוטה: מפתחים מוצר בארה"ב, מוכרים אותו לכל העולם, ומגדילים את היתרון דרך קנה מידה. אבל כאשר המוצר הוא מודל בינה מלאכותית מתקדם, שמסוגל לנתח קוד, לבצע משימות מורכבות, לסייע במחקר ולהאיץ יכולות סייבר, הממשל כבר לא מתייחס אליו כאל עוד שירות ענן רגיל. הוא מתחיל לראות בו טכנולוגיה דו-שימושית.

• רגע לפני הנפקת הטריליון: החקירה שמסבכת את OpenAI
• תקלה נרחבת במטא: משתמשים בפייסבוק, אינסטגרם ו-WhatsApp מדווחים על שיבושים

ההשלכות עשויות להיות רחבות יותר מאנתרופיק עצמה. אם מדינות, חברות ומפתחים מחוץ לארה"ב יבינו שמודלים אמריקאיים יכולים להיחסם ללא התראה מוקדמת, התמריץ לפתח חלופות מקומיות יגדל. באירופה, בקנדה ובאזורים נוספים כבר קיימת מגמה של ריבונות טכנולוגית, כלומר ניסיון להפחית תלות בתשתיות ובמודלים זרים. ההחלטה נגד אנתרופיק עשויה להאיץ את המגמה הזו. גם אם לא כל מדינה תוכל לפתח מודלים ברמה של החברות האמריקאיות, עצם הסיכון שבחסימה עתידית עשוי לגרום לארגונים לחפש פתרונות מקומיים, פתוחים או היברידיים.

עבור אנתרופיק, מדובר באירוע רגיש במיוחד מבחינה תדמיתית. החברה מנסה למצב את עצמה כשחקנית אחראית יותר, כזו שמדברת על בטיחות, שקיפות ובקרה לפני שהיא רצה לשוק. אבל האירוע הנוכחי מציב אותה במלכוד. אם היא מדגישה את עוצמת המודלים ואת הסיכונים שלהם, היא מחזקת את ההצדקה להתערבות רגולטורית. אם היא מצמצמת את הסיכון וטוענת שהחשש מוגזם, היא עלולה להיראות כמי שמנסה למסחר טכנולוגיה שהיא עצמה הזהירה מפניה.