מאחורי המודל החדש של אנתרופיק ואיך זה ישנה את עולם הסייבר?

אנתרופיק (Anthropic), אחת החברות הבולטות בתחום ה-AI, הטילה השבוע פצצה כאשר הכריזה על הקמת יוזמת סייבר משותפת עם ענקיות הטכנולוגיה והתשתיות: מיקרוסופט, גוגל, AWS, אפל, אנבידיה וקרן לינוקס. היוזמה מבוססת על מודל בינה מלאכותית ייעודי בשם Claude Mythos, שהוא פשוט "טוב מדי" באיתור באגים וחולשות בתוכנה. המודל כל כך חזק, שאנתרופיק החליטה כרגע לא לשחרר אותו לציבור הרחב כדי שלא ייפול לידיים הלא נכונות. מטרת היוזמה: לתת ל"חבר'ה הטובים" יתרון אסטרטגי במרוץ החימוש - למצוא ולתקן את החורים הללו לפני שהאקרים יבנו גרסאות זדוניות משלהם.

קריאה קשורה: וושינגטון מקפיצה את מנכלי הבנקים הגדולים לדיון חירום על מודל הבינה של אנתרופיק

החדשות הגדולות: "מוח" עוצמתי ועיניים חדשות על באגים ישנים

Claude Mythos לא רק מוצא תקלות "חדשות"; הוא חופר ומוצא "רוחות רפאים" שהסתתרו בקוד במשך עשרות שנים ועברו אינסוף בדיקות אבטחה ידניות ואוטומטיות. בין היתר, המודל מצא פרצת אבטחה ב-OpenBSD (מהמערכות שנחשבות למאובטחות בעולם) שהייתה קיימת שם 27 שנים, לצד אלפי חולשות נוספות שכלים מסורתיים פספסו פעם אחר פעם.

במשך שנים, יצרניות פתרונות הסייבר ואבטחת המידע הוסיפו עוד ועוד כלים לצוותי אבטחת מידע. בפועל, הכלים מעולם לא היו הבעיה, לא מעט פעים, לצד ההגנה הם היו גם מקור לעומס מידע. הארגון הממוצע מפעיל עשרות מערכות הגנה שמייצרות הררי מידע, התראות ודיווחים. הבעיה היא שצוותי אבטחת המידע טובעים במידע גולמי. רוב הכלים הקיימים הם כמו כלבי גישוש שאומנו להריח ריח ספציפי; אם החולשה לא נראית בדיוק כמו משהו שהם מכירים, הם עוברים לידה. אבל אחד הפערים הגדולים ביותר עם הכלים הקיימים וכמויות המידע - הוא חוסר ההקשר (Context). הכלים יודעים לצעוק שמשהו קרה, אבל לרוב הם לא יודעים להסביר איך האירוע קרה, מהן הסיבות לכך, ואיך נכס אחד קשור לנכס אחר בצורה נוחה להבנה. 

• בית משפט פדרלי הקפיא את סיווג אנתרופיק כסיכון ביטחוני
• רוצים עוד Claude? תתחילו לעבוד בלילות ובסופי שבוע
• המלצת המערכת: כל הכותרות 24/7

המהפכה של Mythos: מהבנת שורות להבנת "כוונה"

כאן נכנס השינוי הדרמטי. Mythos לא בודק רק שורות קוד בודדות; הוא מבין "כוונה" ומערכות יחסים בין נכסים. הוא מסוגל לראות איך חמישה באגים קטנים וזניחים לכאורה, שכל אחד מהם בנפרד לא היה מקפיץ התראה קריטית, משתלבים יחד לשרשרת תקיפה (Attack Chain) שמשתלטת על המערכת כולה. היכולת הזו מחברת את הנקודות שבין תשתיות, קוד והרשאות, משימה שעד היום דרשה מהאנליסטים המיומנים ביותר שעות של עבודה ידנית סיזיפית.

עבודה בשינוי צורה: איך ייראו צוותי האבטחה מחר?

אנחנו ניצבים בפני שינוי מרחיק לכת ב"תפיסת ההפעלה" של צוותי אבטחת המידע. 

• הביקוש לשבבי AI לא נבלם: TSMC מפתיעה למרות המלחמה
• אינטל וגוגל מרחיבות שיתוף פעולה: מפתחות יחד תשתיות AI לדור הבא
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• ענקיות ה AI מתאחדות נגד סין: חוששים מהתקדמות ה-AI בסין

• מ״כיבוי שריפות״ לאדריכלי סייבר והגנה: במקום לרדוף אחרי התראות, אינדיקציות וסימנים שחלקם הגדול לא מדויק - צוותי אבטחת המידע יעברו לניהול תהליכים מבוססי סדרי עדיפויות, כאשר מודלי בינה מלאכותית כבר ניתחו, תעדפו ובדוקו לעומק. 
• צמצום הרעש: הבינה המלאכותית לא רק מוסיפה מידע, היא "מנקה" אותו. יש לה יכולת לחבר התראות ומאפיינים המפוזרים במספר מקומות לתמונה אחת ברורה, וכך גם צוותים קטנים יכולים להשתלט על אופרציות ענק.
• שיפור דרמטי במהירות התגובה (MTTR): היכולת של מודלים כמו Mythos להציע גם את קוד התיקון (Remediation) יכול להפוך את תהליך התיקון משבועות לשעות ואולי גם לדקות. ייתכן ובעתיד אף למנוע חלק גדול מהבעיות מלכתחילה. 

מה צפוי לנו בהמשך?

אנחנו צפויים לכמות גדולה יחסית של דיווחים על עדכוני אבטחה ותיקונים. בשבועות הקרובים, יצרנים רבים יפרסמו גרסאות עדכון לבאגים היסטוריים שנחשפו בפרויקט. צוותי תשתיות ואבטחה צריכים להיערך לגל של Patching אינטנסיבי. בשורה התחתונה: הפערים של הכלים הישנים, שייצרו פעמים רבות מדי רעש מבלי לעזור במתן ההקשר המלא, הופכים את רעידת האדמה של אנתרופיק לחיונית. אנחנו עוברים מעולם שבו הצלחת ההגנה תלויה בכמות הכלים שקנית, לעולם שבו היא תלויה ביכולת של המודל שלך להבין את התמונה המלאה. האינטרנט עומד (אולי) להיות בטוח יותר, אבל גם הקרב מול התוקפים שעוברים ל-AI הופך למתוח ומתוחכם מאי פעם. משעמם לא יהיה פה - זה בטוח. 

רון פלד, מייסד-שותף,  Sola Security