פעם שלישית ברצף: ה-AI של מטא יצא משליטה, אז למה אף אחד לא לוקח אחריות?

כשמנכ"ל מטא, מארק צוקרברג, מציג למשקיעים בוול סטריט את חזון ה-"Agentic AI" - סוכני בינה מלאכותית עצמאיים שינהלו עבורנו משימות מורכבות - הוא שוכח לציין אותיות קטנות וקריטיות: מה קורה כשהסוכנים האלו מחליטים לפעול עצמאית נגד חברות אחרות? 

התשובה המביכה שקיבלנו ביממה האחרונה עם "בריחתו" של מודל הקוד Muse Spark 1.1 מסביבת הבדיקות, מוכיחה שהמרדף המטורף אחרי באזז טכנולוגי יצר הפקרות ניהולית חסרת תקדים. בפעם השלישית בתוך ימים ספורים, מודל AI מתקדם פורץ את ארגז החול המבודד שלו, יוצא לאינטרנט הפתוח ומתחיל לבצע שינויים במערכות של חברה מסחרית חיצונית. 

במקום הפקת לקחים, השוק קיבל מופע מביך של גלגול אחריות בין ענקית הטק האמריקאית לבין חברת הסייבר הישראלית אירגיולר. המשקיעים צריכים להתחיל לשאול: מי כאן הריבון ומתי החברות האלו יפסיקו להתחבא מאחורי ספקי משנה וייקחו אחריות על המוצרים שלהן?

תרבות ה"יהיה בסדר" מגיעה לוול סטריט

הטיעון הרשמי שהוציאה מטא לציבור הוא ציני להחריד: המודל שלנו מושלם, הפיתוח מבריק, אבל חברת הסייבר החיצונית שאחראית על הבדיקות סבלה מ"הגדרת תצורה שגויה" בשרתים שלה. במילים פשוטות: ה-AI עשה בדיוק מה שביקשו ממנו, הוא פשוט מצא דלת פתוחה אצל הקבלן הישראלי ויצא לטייל.

מנגד, גם התגובה של הסטארט-אפ אירגיולר, שגייס עד כה כ-80 מיליון דולר ממיטב הקרנות כדי לשמש כמבוגר האחראי של ענף ה-AI, צריכה להטריד כל מנהל סיכונים מנוסה. הניסיון של החברה לפטור את האירוע בטיעון ש"מדובר באותה חולשה בדיוק" שנחשפה אצלם רק בשבוע שעבר עם מודל של אנתרופיק, הוא כשל תפיסתי ומבני מדרגה ראשונה.

אם הבאג הזה כבר זוהה, תועד וגרם לנזקים אצל לקוח ענק אחר בשבוע שעבר - כיצד הוא לא ננעל הרמטית? איך ייתכן שחברה שאמורה לספק הגנת סייבר מתקדמת מנרמלת תקריות חוזרות ונשנות של פריצת מודלים לחברות צד-שלישי? התרבות הזו, שמזכירה התנהלות של חובבנים, מתנגשת חזיתית עם הציפיות של המשקיעים שמחפשים יציבות, רובוסטיות והגנה על נכסים דיגיטליים.

הבועה במספרים: שורפים מיליארדים על הנייר, חוסכים בבטיחות

כדי להבין את גודל האבסורד, צריך להסתכל על הנתונים הפיננסיים של מטא. בדוחות הכספיים האחרונים שלה, החברה העלתה פעם נוספת את תחזית ההוצאות ההוניות שלה, שנעות סביב עשרות מיליארדי דולרים בשנה, כאשר הרוב המוחלט של הכסף הזה מופנה למטרה אחת: רכישת שבבים של אנבידיה, הקמת חוות שרתי ענק ופיתוח מודלי AI.

החברות הגדולות נמצאות בלחץ אטומי מצד האנליסטים להראות תוצרים. מודל שלא מציג יכולות אוטונומיות מתקדמות נתפס ככישלון, ושווי השוק של החברה עלול להיחתך במיליארדים בתוך יום מסחר אחד. התוצאה של הלחץ הזה היא קיצור דרך קריטי בתהליכי הבטחת האיכות (QA) וניהול הסיכונים. מוציאים לשוק מודלים חצי-אפויים, בעלי יכולות הרסניות, ומקווים שחברות סייבר קטנות יצליחו להחזיק אותם בתוך הכלוב. המקרה של אירגיולר מוכיח שהכלוב הזה עשוי מנייר.

המודל הכלכלי בסכנה: שלושה סיכונים קריטיים למשקיעים

האירוע הסדרתי הזה מפוצץ באופן סופי שלוש אשליות מרכזיות שמניעות את מניות הטכנולוגיה והסייבר בתקופה האחרונה:

• הקול בראש: למה הבינה המלאכותית נשמעת כמו אישה אבל חושבת כמו גבר?
• ה-AI לא חייב לפטר אתכם כדי לפגוע בכם: תובנות ממחקר על 321 מקצועות בעשור האחרון

סוכני ה-AI הם חרב פיפיות תפעולית - וול סטריט מתמחרת חברות לפי היכולת שלהן להחליף עובדים יקרים בסוכני תוכנה אוטונומיים. אלא שהמקרה הנוכחי מראה שכאשר המודלים האלו מקבלים את היכולת לכתוב קוד ולפעול באופן עצמאי ברשת, הגבול בינם לבין כלי תקיפה של האקרים נמחק לחלוטין. חברה שתטמיע סוכן כזה בארגון שלה מסתכנת בכך שהמודל יתקוף לקוחות או ספקים שלה עקב באג פשוט.

הוואקום הביטוחי והמשפטי חסר התקדים - אם מודל AI של מטא פורץ לחברה מסחרית, משבש את פעילותה או מוחק לה נתונים - מי חוטף את תביעת הענק ומשלם את הנזקים הפיננסיים? מטא, שמתנערת ומאשימה את הקבלן? הסטארט-אפ, שטוען שמדובר ב"אי הבנה בתצורה"? חברות הביטוח הגדולות בעולם (כמו לוידס) כבר הצהירו בעבר כי לא ימהרו לכסות נזקי סייבר מערכתיים או נזקים שנובעים ממוצרים פגומים ולא בשלים. החברות הנפגעות נותרות ללא כתובת, והחשיפה המשפטית של ענקיות הטק עלתה פלאים.

מכה אנושה למוניטין של הסייבר הישראלי: עבור תעשיית ההייטק המקומית, ובמיוחד עבור קרנות הון-סיכון שמממנות סטארט-אפים בתחום הגנת ה-AI, האירוע הזה הוא פיגוע תדמיתי. ברגע שענקיות אמריקאיות יתחילו להבין שסביבות העבודה והמבדקים של חברות ישראליות פרוצות, הן יפסיקו לעבוד איתן ויחפשו פתרונות אבטחה בתוך ארצות הברית.

עד שהרגולציה הבינלאומית או תביעות נזיקין תקדימיות בבתי המשפט לא יאלצו את חברות הטכנולוגיה לשלם מיליארדים מכיסן על הנזקים האוטונומיים של המוצרים שלהן - המשקיעים צריכים לקחת צעד אחורה. הצמיחה המהירה והבאזז הנוכחי מגיעים עם סיכון תפעולי עצום ומערכתי. מישהו הרי יצטרך לשלם את החשבון כשה-AI יחליט לפרוץ לתוך המערכת הפיננסית האמיתית, ומטא שוב תסביר שזה בכלל אשמת הקבלן החיצוני.