האם האקר AI טוב יותר מהאקר אנושי? על הסטארט אפ שגייס 75 מיליון דולר
חשבתם שה-AI יחליף מתכנתים אבל לא אנשי סייבר - טעיתם. העידן הבא של תוקפי סייבר נגד מגני סייבר - מכונות נגד מכונות
רובוט בשם Xbow, שפותח על ידי סטארט-אפ הנושא את אותו השם, הפך לאחת הדמויות הבולטות בתחום הסייבר בשבועות האחרונים. זהו למעשה בוט בינה מלאכותית, שהצליח לזהות ולדווח על כמות הפרצות הגדולה ביותר במערכות של חברות גדולות.
הוא משמש לבדיקת מערכות הגנת סייבר כשהוא מנסה לפרוץ אליהם. הבוט הזה מצליח יותר מהאקרים אנושיים.
מדובר בפריצת דרך טכנולוגית שמערערת על כל מה שחשבנו על יחסי הכוחות בין תוקפים למגנים. הבוט של Xbow מדמה תהליך חדירה למערכות (Penetration Testing), פעולה שבדרך כלל מצריכה צוותים מקצועיים של "האקרים לבנים" ותשלום של עשרות אלפי דולרים בכל פעם. אבל כאן, כל התהליך ממוכן, מהיר וחסכוני יותר. הממשעות היא שהאקר AI טוב יותר בהתקפה ולכן גם במציאת פירצות מהאקר אנושי.
data-end="1268">מייסד החברה, אואה דה מור, לשעבר מדען מחשב באוקספורד ובכיר בגיטהאב, טוען שהמערכת מסוגלת לא רק לאתר פרצות, אלא גם לשנות את כל התפיסה של עולם ההגנה הדיגיטלית. לדבריו, המשימה הגדולה הבאה היא לא רק לאתר את הבאגים, אלא גם להציע קוד מתוקן שיוכל להחליף את הקוד הבעייתי, מבלי שמפתח יידרש לגעת בו.
אלו חדשות מעניינות, אך כמו תמיד יש גם חששות. זאת הפעם הראשונה שבינה מלאכותית עוקפת בני אדם בליגה העליונה של זיהוי חולשות וזאת כשברקע מתרבים גם הכלים ההתקפיים שמבוססים
על אותה
טכנולוגיה. כלומר, לא רק ההגנה נעזרת ב-AI, גם ההתקפה. למעשה, מדובר בעידן חדש של "מכונות נגד מכונות".
הדעה הרווחת בקרב המומחים היא שהכף צפויה לנטות בסופו של דבר לטובת המגנים, שכן בינה מלאכותית מסוגלת לסרוק מערכות בהיקפים שאדם לא מסוגל לעמוד בהם, ולהציע פתרונות מראש, עוד לפני שמערכת יוצאת לדרך.
הסטארט-אפ, שקם בינואר 2024, כבר הספיק לזהות באגים במערכות של חברות כמו אמזון, דיסני, סוני ופייפאל, והחברה מדווחת על שימוש גם בקרב בנקים וחברות טכנולוגיה מהגדולות בעולם. בין בכירי הצוות נמצא ניקו וייסמן, לשעבר מנהל האבטחה של ליפט, ואלברט ציגלר, שהיה בין מקימי Semmle, חברה קודמת של דה מור, שנרכשה על ידי גיטהאב ב-2019.
המכשול הגדול כנראה אינו טכנולוגי, אלא תרבותי. מנהלי אבטחה מתמודדים עם שטף הולך וגדל של התראות, ולעיתים קרובות מתקשים להבדיל בין חשוב לשולי. השימוש ב-Xbow עשוי להפחית את הרעש ולהדגיש רק את האיומים האמיתיים. בינתיים, המערכת אינה מושלמת. היא מצטיינת בזיהוי כשלים בקוד, אך מתקשה להבין בעיות שנובעות מתכנון לוגי של המוצר. למשל, היא יודעת שצריך לשמור על פרטיות מרשמים רפואיים, אבל תתקשה להבין לבד מה המשמעות של זה במבנה מערכתי מורכב.
