מודלי הבינה המלאכותית ממשיכים להשתפר ולחדור לאוכלוסיה, כשהיום כבר אין כמעט מי שלא התנסה בשימוש עם אחד המודלים הפופולאריים כמו ChatGPT, ג'מיני או קלוד, כשלא מעט מאיתנו כבר משתמשים במודלים הללו באופן יומיומי ולמשימות רבות. למעשה, לפי נתוני פאלו אלטו Palo Alto Networks 0.88%   , ב-2024 חל זינוק של כ-890% - כמעט פי 10 -  בתנועת המשתמשים ב-GenAI. 

עם זאת, לצד הגידול המרשים בשימוש, הדוח גם מצביע על עלייה משמעותית בסיכוני אבטחת המידע, כשבשנה האחרונה נרשמה עלייה של פי 2.5 באירועים הקשורים למניעת אובדן מידע (DLP) הקשורים ל-GenAI, המהווים כיום 14% מכלל אירועי אבטחת המידע בארגונים. יישומי GenAI עשויים להוות סיכון לאובדן מידע רגיש, כאשר שימוש לא מאושר או רשלני עלול להוביל לדליפות של קניין רוחני, לחששות לגבי עמידה בתקנות ולפגיעות בפרצות מידע.

הדוח מצביע גם על השימוש הנרחב באפליקציות GenAI לא מאושרות - במהלך המחקר, זיהו צוותי המחקר בממוצע שימוש ב-66 אפליקציות GenAI בכל ארגון, וכ-10% מהן סווגו כבעלות סיכון גבוה. נוסף על כך, הדוח מציין גם את תופעת ה-Shadow AI בה עובדים עושים שימוש בלתי מאושר בטכנולוגיות בינה מלאכותית, מבלי שצוות ה-IT של הארגון מודע לכך. מצב זה מקשה על המעקב והשליטה ומגביר את הסיכון לחשיפת מידע רגיש ואיומים לא מאובטחים. אחד הגורמים לכך הוא השימוש בתוספים, סוכני AI ובוטים לא מאושרים, שפותחים "דלתות צדדיות" שאינן תמיד מוגנות כראוי.

"ארגונים רבים אימצו במהירות את הבינה המלאכותית היוצרת, מבלי להבין עד הסוף את הסיכונים הטמונים בה", מסר יוני אלון, סמנכ"ל מחקר ופיתוח בפאלו אלטו נטוורקס. "מטרת הדוח שלנו היא לבחון את היתרונות, האתגרים, ואת הדרך לאזן בין AI לאבטחה - כדי לאפשר עבודה יעילה לצד שימוש ביתרונות החדשנות בצורה בטוחה".

• נוקיה מקימה מחלקת בינה מלאכותית ומגייסת מאינטל
• וישראל מובילה עולמית בשימוש ב-AI
• המלצת המערכת: כל הכותרות 24/7

למרות הסיכונים, הדוח של פאלו אלטו נטוורקס מצביע על הפוטנציאל העצום של GenAI להאיץ את פרודוקטיביות הארגונים. כ-84% מהפעולות שנבדקו היו קשורות לשימוש ב-GenAI לכתיבה, ניהול שיחות, תכנות וחיפוש פנים ארגוני, באופן שמדגיש את הפוטנציאל של טכנולוגיה זו לשדרג את יכולת העבודה בארגון. עם זאת, לקחת בחשבון את הסיכונים הגדלים של חשיפת מידע רגיש והפרת רגולציות, דבר שמחייב ארגונים לפתח מדיניות אבטחה ונהלים ברורים על מנת לנהל את הסיכון בצורה חכמה וממוקדת.

איך הבינה המלאכותית מסכנת ארגונים?

אחת החזיתות בהן בינה מלאכותית עלולה להוות גורם סיכון לארגונים היא תחום הזהויות - כלומר סוכני בינה מלאכותית שמקבלים הרשאות מסוימות בארגון, אך יכולים גם לעשות נזק במידה ותוקפים מקבלים אליהם גישה. סייברארק CyberArk Software  הישראלית מתמחה בתחום אבטחת הזהויות בארגונים, ובשיחה עם ביזפורטל בחודש שעבר, התייחס היו"ר והמייסד אודי מוקדי לנושא.

• בין אקזיטים ענקיים לקיפאון: תמונת המצב של ההייטק הישראלי
• איב סקיוריטי הישראלית מגייסת 3 מיליון דולר
• תוכן שיווקי צברתם הון? מה נכון לעשות איתו?
• אייפון 17 - מצלמה ברמה גבוהה, טעינה משופרת; ומה המחיר

"מצד אחד יש את הזהויות האנושיות, ומהצד השני יש את זהויות המכונה, שתחת הקטגוריה הזו נכנסים גם סוכני AI, ויש הרבה יותר זהויות מכונה מאשר זהויות אנושיות - ביצענו מחקר ופרסמנו דוח שממנו עולה כי בממוצע על כל זהות אנושית בארגון יש כ-82 זהויות מכונה", אמר מוקדי. "זה איום גדול מכיוון שלכל מכונה יש הרשאות. התוקף הוא יכול להגיע לסוכנים האלה, אבל כמו שזה נראה עכשיו זה איום עתידי שפחות נמצא בשטח, ואנחנו נערכים אליו".

בכלל אפשר לדעת שאחד מסוכני ה-AI שלך מותקף?

"בדיוק, אז היום יותר מתמקדים בצד של הזיהוי, לדעת לזהות אנומליות, שהסוכן הזה לדוגמא לא אמור לגשת לקוד של המפתחים. מנסים לזהות בעיקר אנומליות בגישה של הסוכן שחורגת מההרשאות שלו, זה יוצר משטח תקיפה חדש לגמרי לתוקפים".

הדוחות האחרונים של פאלו אלטו

חברת הסייבר פאלו אלטו דיווחה על תוצאות חזקות ברבעון השלישי, עם רווח מתואם של 80 סנט למניה על הכנסות של 2.29 מיליארד דולר. התוצאות עלו על הציפיות של האנליסטים שחזו רווח של 77 סנט למניה והכנסות של 2.28 מיליארד דולר. 

החברה צופה הכנסות ברבעון הרביעי של בין 2.49 ל-2.51 מיליארד דולר, בהשוואה לציפיות של וול סטריט של 2.5 מיליארד דולר. בנוסף, פאלו אלטו צופה רווח של בין 87 ל-89 סנט למניה, בהתאמה לאומדן האנליסטים של 87 סנט למניה. ההנחיות היו בקו עם הציפיות אך לא עלו עליהן משמעותית.

פאלו אלטו דיווחה על 13.5 מיליארד דולר בהתחייבויות תחייבויות ביצוע עתידיות, שמייצג עסקים חתומים שהחברה צפויה להכיר כהכנסות בעתיד, מתחת לציפיות של 13.54 מיליארד דולר. המדד הזה נחשב לאינדיקטור חשוב לצמיחה עתידית.

רוב האנליסטים ממשיכים להמליץ על המניה. מתוך 58 אנליסטים, 42 נותנים המלצת קנייה, 14 ממליצים להחזיק ורק שניים ממליצים למכור. האנליסטים רואים בפאלו אלטו חברה מובילה בתחום הסייבר עם פוטנציאל צמיחה חזק.