ההאקרים משתמשים ב-AI, ועכשיו החברות שפיתחו אותו רוצות להרוויח מההגנה
תעשיית הבינה המלאכותית מתחילה להיכנס לעומק אחד השווקים הרווחיים בעולם התוכנה: אבטחת מידע. OpenAI ואנתרופיק, שהתפרסמו בזכות הצ׳אטבוטים שלהן, מפתחות יכולות שמאפשרות למצוא חולשות במערכות מחשוב, לבדוק תוכנות ולסייע לצוותי אבטחה להתמודד עם ניסיונות פריצה. מבחינתן מדובר בהזדמנות עסקית משמעותית, במיוחד כשהן מחפשות מקורות הכנסה נוספים שיצדיקו את ההשקעות העצומות בפיתוח מודלים ובמרכזי נתונים.
תוקפים משתמשים יותר ויותר בכלי AI. הם יכולים לכתוב הודעות התחזות אמינות, לחפש חולשות בקוד, לעבד מידע שנגנב ולהפעיל מערכות שמבצעות פעולות רבות במקביל. משימות שדרשו בעבר מומחיות גבוהה ושעות עבודה רבות מתבצעות היום מהר הרבה יותר בעזרת מודלים מתקדמים.
גניבת 6.3 מיליארד דולר מבורסת הקריפטו בייננס בסוף אוקטובר ממחישה את ממדי הסיכון. התוקפים פעלו במשך חודשים והשתמשו בהתחזות ובתוכנות זדוניות כדי להגיע למערכות רגישות. להרחבה: כך נפרצה בייננס: ראיון עבודה מזויף פתח את הדרך לגניבת 6.3 מיליארד דולר. השאלה הרחבה היא מה יקרה כשכלים אוטומטיים יאפשרו לבצע חלק גדול מהפעולות האלה בקנה מידה רחב בהרבה.
אנתרופיק כבר מתקדמת בכיוון העסקי החדש. החברה פיתחה את משפחת המודלים מיתוס, שמתמקדת בין היתר במחקר סייבר, בגילוי חולשות ובניתוח קוד. הגישה לגרסאות החזקות ביותר מוגבלת לארגונים שעברו הליך אישור, בגלל החשש שהיכולות ישמשו גם למטרות תקיפה.
בתחילת הקיץ הרחיבה אנתרופיק את תוכנית שיתופי הפעולה שלה לכ-150 ארגונים נוספים, עם דגש על תשתיות קריטיות. באוקטובר היא פתחה מסלולי גישה חדשים לאנשי אבטחת מידע, גם בארגונים קטנים יותר כמו בתי חולים אזוריים ותאגידי מים עירוניים, ובמקביל השיקה תוכנית להגנה על תשתיות חיוניות.
בגרסאות החדשות של מיתוס המחיר עומד על כ-10 דולר למיליון יחידות קלט וכ-50 דולר למיליון יחידות פלט. היחידות האלה, שמכונות טוקנים, מודדות את היקף המידע שהמודל מקבל ומייצר. בארגון גדול שמבצע סריקות קוד ובדיקות אבטחה ברציפות, היקף השימוש עשוי להגיע למאות מיליוני יחידות בחודש ואף יותר.
ללקוחות העסקיים השאלה היא אם הוצאה כזו חוסכת שעות עבודה של מומחי אבטחה, מקצרת את הזמן לגילוי חולשות ומפחיתה את הסיכון לפריצה יקרה. אפילו שיפור קטן בזיהוי מוקדם של בעיות עשוי להצדיק השקעה גדולה, במיוחד בבנקים, בחברות ביטוח, בבתי חולים ובספקיות תשתיות.
הידעת?לתוכנית הסייבר של OpenAI יש שני מסלולים, אחד מהם לצוותי תקיפה
OpenAI פועלת בכיוון דומה. באוגוסט הרחיבה החברה את תוכנית דייברייק, שמעניקה גישה ליכולות AI מתקדמות לאנשי אבטחה מאושרים, והשיקה במסגרתה מודל סייבר ייעודי. התוכנית כוללת כלים לבדיקת קוד, חיפוש חולשות, ניתוח תוכנות זדוניות וסיוע בטיפול באירועים. המהלך משתלב בהתרחבות של OpenAI בשוק הארגוני, שבו עסקים מוכנים לשלם על שירותים שמקצרים תהליכי עבודה, חוסכים כוח אדם ומשפרים את רמת ההגנה.
לחברות הסייבר הוותיקות זה גם איום. פאלו אלטו נטוורקס, קראודסטרייק, פורטינט וצ׳ק פוינט מוכרות פתרונות שמגינים על מערכות ארגוניות, רשתות ומחשבים, ואם מודלי AI יוכלו לבצע יותר משימות אבטחה בעצמם, חלק מהשירותים הקיימים עשוי להפוך לזול ונגיש יותר.
- מייקל ברי מתרחק מהנפקת אנתרופיק: חשבון מחשוב של 895 מיליארד דולר
- מה הפיל את אינטל ומארוול, והמניה שנמצאת בשיא כל הזמנים
מנגד, לחברות הסייבר המסורתיות יש יתרון משמעותי: הן כבר מחוברות למערכות של לקוחות גדולים, אוספות מידע על איומים ומנהלות תהליכי הגנה בזמן אמת. גם כשמודל AI מזהה חולשה, עדיין צריך להחליט איך לטפל בה, ליישם את התיקון ולוודא שהפעילות העסקית ממשיכה כרגיל. המשקיעים מנסים להעריך אם ה-AI יגדיל את הביקוש למוצרי אבטחה או יצמצם חלק מההכנסות של הספקיות הקיימות. להרחבה: קראודסטרייק קופצת 9%: ה-AI מייצר עוד איומים - וגם עוד מיליארדים לחברות הסייבר.
הידעת?עד הפריצה לבייננס, השוד הגדול בתולדות הקריפטו היה בבייביט
הסיכון החדש נוגע גם למודלים עצמם. סוכן AI שמחובר למידע פנימי של חברה ומסוגל להפעיל כלים ארגוניים יכול להפוך למטרה לתוקפים. כבר נחשפו ניסיונות להחדיר מידע מטעה לתשובות של צ׳אטבוטים, כדי לגרום למשתמשים לפנות לגורמים מתחזים, וככל שהסוכנים מקבלים יותר הרשאות, מתרחב גם הנזק האפשרי מהפעלתם באופן עוין.
לקוח שמאפשר לכלי AI לסרוק את כל בסיס הקוד שלו מעניק לספק השירות גישה לנכס עסקי רגיש במיוחד. לכן בחירת ספק תהיה תלויה גם בשאלות של פרטיות, הרשאות, אחריות וניהול נתונים. ה-FBI כבר מעורב בחקירת הפריצה לבייננס, שיוחסה לצפון קוריאה. להרחבה: עדכון: ה-FBI קובע - צפון קוריאה עומדת מאחורי גניבת 6 מיליארד הדולר מבייננס.
בחודשים הקרובים צפויות חברות הבינה המלאכותית להרחיב את מספר הארגונים שמשתמשים במודלים שלהן להגנה, ובמקביל ימשיכו חברות הסייבר לשלב יכולות דומות במוצרים שלהן. על התקציב יתחרו ספקי המודלים, שגובים לפי היקף השימוש, וחברות האבטחה, שמוכרות שירות ארגוני מלא עם מערכות ניטור, הגנה ותפעול.
