אם השתמשתם בוויז לאחרונה, או שיש לכם מתתקן שגיאות כתיב אוטומטי במחשב או בסלולר, או אם יצא לכם להשתמש בצ׳אט בוט דוגמת ChatGPT או קלוד, אז השתמשתם ב-AI. הטכנולוגעה הזו נמצאת בכל מקום והיא פופולארית מתמיד. אלא שמי שלא שכחו להצטרף למסיבה בזמן הם ההאקרים, שלמדו לנצל ולמנף את הכח המחשובי החדש לצורכי פשיעה בסייבר. 

איך עובד AI, וכיצד הוא משרת האקרים? 

 מה זה AI?

AI הוא מונח רחב המתייחס למדע של הדמיית אינטליגנציה אנושית במכונות במטרה לאפשר להן לחשוב כמונו ולחקות את הפעולות שלנו. הדבר מאפשר למכונות AI לבצע משימות שבעבר רק בני אדם יכלו להתמודד. עבור מספר מסויים של  משימות, AI עשוי אפילו לעלות על בני אדם. משימות כגון מחשוב כמות אדירה של פרמטרים, הרחבת הסקייל של תקיפות סייבר הן טיפה הןרק דוגמאות לתחומים בהם AI מתעלה על בני אדם. מחשבי AI רבים מנסים לחשב את הדרך הטובה ביותר להשיג תוצאה או לפתור בעיה כלשהי. הם בדרך כלל עושים זאת על ידי ניתוח כמויות אדירות של נתוני אימון ולאחר מכן מציאת דפוסים בנתונים השאילתה שדומים לדפוסי עבר עליהם אומנו.

 כיצד AI מועיל לאבטחת סייבר בינה מלאכותית 

ה-AI מעצב מחדש כמעט כל תעשייה - ואבטחת סייבר אינה יוצאת דופן במובן הזה, שלא לומר שהיא מהתעשיות שיותר מושפעות מבינה מלאכותית. דוח מחקר של מורגן סטנלי העריך כי השוק העולמי למוצרי אבטחת סייבר מבוססי בינה מלאכותית עמד על כ-15 מיליארד דולר בשנת 2021, והוא יזנק לכ-135 מיליארד דולר עד 2030. ארגוני אבטחת סייבר מסתמכים יותר ויותר על AI בשילוב עם כלים מסורתיים יותר כמו הגנת אנטי-וירוס, מניעת אובדן נתונים, זיהוי הונאה, ניהול זהויות וגישה, זיהוי פריצות, ניהול סיכונים ותחומי אבטחה מרכזיים אחרים.

 בגלל האופי של בינה מלאכותית, שיכולה לנתח כמויות עצומות של נתונים בו זמנית ולמצוא דפוסים, בינה מלאכותית מתאימה באופן ייחודי למשימות כגון: זיהוי התקפות בפועל בצורה מדויקת יותר מבני אדם, יצירת פחות תוצאות חיוביות שגויות ותעדוף תגובות על סמך הסיכונים בעולם האמיתי שלהם; זיהוי וסימון של סוג הודעות דוא"ל והודעות חשודות המשרתות לעתים קרובות במבצעי פישינג; הדמיית התקפות ׳הנדסה חברתית׳, המסייעות לצוותי אבטחה לזהות נקודות תורפה פוטנציאליות לפני שפושעי סייבר מנצלים אותן. הנדסה חברתית היא פרקטיקה בה פושעי סייבר משתמשים כדי לשכנע את הקורבן שלהם כי התהליך כולו, שבמהלכו הם מווסרים מידע רגיש שעשוי לשמש את הפושעים - לגיטימי לחלוטין; ניתוח כמויות עצומות של נתונים הקשורים לאירועי סייבר במהירות, כך שצוותי אבטחת מידע יכולים לפעול במהירות כדי להכיל את האיום.

• האקרים מצפון קוריאה השתמשו ב-ChatGPT לייצור תעודת זהות מזויפת
• דרך ה-SharePoint: האקרים סינים חדרו כמעט עד לתכנית הגרעין האמריקאית
• המלצת המערכת: כל הכותרות 24/7

 בנוסף, ל-AI יש פוטנציאל להיות כלי שמשבש את כללי המשחק בבדיקות חדירה. בדיקת חדירה היא בדיקה במהלכה צוותי אבטחת סייבר מנסים למצוא חולשות בתוכנה באופן שבו פושעי סייבר היו עושים זאת כדי לזהות את החולשה לפני שהיא מנוצלת. על ידי פיתוח כלי בינה מלאכותית למיקוד הטכנולוגיה שלהם, ארגונים יוכלו לזהות טוב יותר את החולשות שלהם לפני שהאקרים יוכלו לנצל אותן בזדון. קיום המודיעין הזה יספק לארגוני אבטחת סייבר יתרון משמעותי במניעת התקפות עתידיות. עצירת פשעי סייבר לפני שהם מתרחשים לא רק תעזור להגן על הנתונים של אנשים וחברות, אלא גם תפחית את עלויות ה-IT לעסקים.

 איך האקרים מנצלים לרעה AI 

למרבה הצער, פושעי סייבר הם חסרי רחמים ובעלי תושייה - ׳טרוריסטים׳ אם תרצו. בואו נסתכל על כמה דרכים שבהן הם משתמשים ב-AI לטובתם ביצוע מזימתם:

 תוכניות הנדסה חברתית: אלה הן כאמור תוכניות שמסתמכות על מניפולציה פסיכולוגית של הקורבן כדי לגרום לו לחשוף מידע רגיש או לעשות טעויות אבטחה אחרות. הם כוללים מגוון רחב של קטגוריות של פעילויות הונאה, לרבות הונאות פישינג, והונאות דוא"ל שונות. בינה מלאכותית מאפשרת לפושעי סייבר לבצע אוטומציה של רבים מהתהליכים המשמשים בהתקפות הנדסיות חברתיות, כגון ניסוח של מסרים אישיים במייל או בווצאפ, באופן מתוחכם ויעיל יותר כדי לשטות בקורבנות. המשמעות היא שפושעי סייבר יכולים לייצר נפח גדול יותר של התקפות בפחות זמן - ולחוות אחוזי הצלחה גבוהים יותר.

 פריצת סיסמאות: פושעי סייבר מנצלים AI כדי לשפר את האלגוריתמים המשמשים אותם לפענוח סיסמאות. האלגוריתמים המשופרים מספקים ניחושי סיסמה מהירים ומדויקים יותר, מה שמאפשר להאקרים להיות יעילים ומהירים יותר. זה עשוי להוביל לדגש גדול עוד יותר מצד חברות אבטחת הסייבר על פריצת סיסמאות על ידי פושעי סייבר. 

• בהשקעה של 5 מיליארד שקל: קבוצת Awz תקים באשקלון מפעל שבבים חדש
• הגנת ענן בגרסה הישראלית: Sweet Security משלימה גיוס של 75 מיליון דולר
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• איך לקבל תשובות טובות יותר מה-ChatGPT?

 דיפ פייק: סוג זה של הונאה ממנף את היכולת של AI לתפעל בקלות תוכן חזותי או אודיו ולגרום לו להיראות לגיטימי. זה כולל שימוש באודיו ווידאו מזויפים כדי להתחזות לאדם אחר. לאחר מכן ניתן להפיץ את התוכן המזוייף באופן נרחב באינטרנט תוך שניות - כולל בפלטפורמות מדיה חברתית משפיעות - כדי ליצור לחץ, פחד או בלבול בקרב אלו שצורכים אותו.

 הרעלת נתונים: האקרים "מרעילים" או משנים את נתוני האימון המשמשים אלגוריתם AI לשם למידה, כדי להשפיע על ההחלטות שהוא מקבל בסופו של דבר. האלגוריתם מוזן במידע מטעה, וקלט גרוע מוביל לפלט גרוע. בנוסף, הרעלת נתונים יכולה להיות קשה ולוקח זמן לזהות אותה. עד שיתגלה, הנזק עלול להיות חמור.