בינה מלאכותית
צילום: טוויטר

זינוק של פי 10 בשימוש ב-GenAI ב-2024, מה ההשפעה על הסייבר?

שימוש בטכנולוגיות GenAI זינק ב-890% בשנה האחרונה, ולפי פאלו אלטו 14% מאירועי האבטחה כבר קשורים בבינה מלאכותית; סוכני AI, אפליקציות לא מאושרות ו"שערים צדדיים" פותחים חזית חדשה למתקפות ומחייבים שינוי תפיסתי בניהול הסיכוני האבטחה

רוי שיינמן |

מודלי הבינה המלאכותית ממשיכים להשתפר ולחדור לאוכלוסיה, כשהיום כבר אין כמעט מי שלא התנסה בשימוש עם אחד המודלים הפופולאריים כמו ChatGPT, ג'מיני או קלוד, כשלא מעט מאיתנו כבר משתמשים במודלים הללו באופן יומיומי ולמשימות רבות. למעשה, לפי נתוני פאלו אלטו Palo Alto Networks 0%   , ב-2024 חל זינוק של כ-890% - כמעט פי 10 -  בתנועת המשתמשים ב-GenAI. 


עם זאת, לצד הגידול המרשים בשימוש, הדוח גם מצביע על עלייה משמעותית בסיכוני אבטחת המידע, כשבשנה האחרונה נרשמה עלייה של פי 2.5 באירועים הקשורים למניעת אובדן מידע (DLP) הקשורים ל-GenAI, המהווים כיום 14% מכלל אירועי אבטחת המידע בארגונים. יישומי GenAI עשויים להוות סיכון לאובדן מידע רגיש, כאשר שימוש לא מאושר או רשלני עלול להוביל לדליפות של קניין רוחני, לחששות לגבי עמידה בתקנות ולפגיעות בפרצות מידע.


הדוח מצביע גם על השימוש הנרחב באפליקציות GenAI לא מאושרות - במהלך המחקר, זיהו צוותי המחקר בממוצע שימוש ב-66 אפליקציות GenAI בכל ארגון, וכ-10% מהן סווגו כבעלות סיכון גבוה. נוסף על כך, הדוח מציין גם את תופעת ה-Shadow AI בה עובדים עושים שימוש בלתי מאושר בטכנולוגיות בינה מלאכותית, מבלי שצוות ה-IT של הארגון מודע לכך. מצב זה מקשה על המעקב והשליטה ומגביר את הסיכון לחשיפת מידע רגיש ואיומים לא מאובטחים. אחד הגורמים לכך הוא השימוש בתוספים, סוכני AI ובוטים לא מאושרים, שפותחים "דלתות צדדיות" שאינן תמיד מוגנות כראוי.


"ארגונים רבים אימצו במהירות את הבינה המלאכותית היוצרת, מבלי להבין עד הסוף את הסיכונים הטמונים בה", מסר יוני אלון, סמנכ"ל מחקר ופיתוח בפאלו אלטו נטוורקס. "מטרת הדוח שלנו היא לבחון את היתרונות, האתגרים, ואת הדרך לאזן בין AI לאבטחה - כדי לאפשר עבודה יעילה לצד שימוש ביתרונות החדשנות בצורה בטוחה".

יוני אלון, סמנכ"ל מחקר ופיתוח בפאלו אלטו נטוורקס; קרדיט: פאלו אלטו נטוורקס


למרות הסיכונים, הדוח של פאלו אלטו נטוורקס מצביע על הפוטנציאל העצום של GenAI להאיץ את פרודוקטיביות הארגונים. כ-84% מהפעולות שנבדקו היו קשורות לשימוש ב-GenAI לכתיבה, ניהול שיחות, תכנות וחיפוש פנים ארגוני, באופן שמדגיש את הפוטנציאל של טכנולוגיה זו לשדרג את יכולת העבודה בארגון. עם זאת, לקחת בחשבון את הסיכונים הגדלים של חשיפת מידע רגיש והפרת רגולציות, דבר שמחייב ארגונים לפתח מדיניות אבטחה ונהלים ברורים על מנת לנהל את הסיכון בצורה חכמה וממוקדת.


איך הבינה המלאכותית מסכנת ארגונים?

אחת החזיתות בהן בינה מלאכותית עלולה להוות גורם סיכון לארגונים היא תחום הזהויות - כלומר סוכני בינה מלאכותית שמקבלים הרשאות מסוימות בארגון, אך יכולים גם לעשות נזק במידה ותוקפים מקבלים אליהם גישה. סייברארק CyberArk Software  הישראלית מתמחה בתחום אבטחת הזהויות בארגונים, ובשיחה עם ביזפורטל בחודש שעבר, התייחס היו"ר והמייסד אודי מוקדי לנושא.

קיראו עוד ב"BizTech"


"מצד אחד יש את הזהויות האנושיות, ומהצד השני יש את זהויות המכונה, שתחת הקטגוריה הזו נכנסים גם סוכני AI, ויש הרבה יותר זהויות מכונה מאשר זהויות אנושיות - ביצענו מחקר ופרסמנו דוח שממנו עולה כי בממוצע על כל זהות אנושית בארגון יש כ-82 זהויות מכונה", אמר מוקדי. "זה איום גדול מכיוון שלכל מכונה יש הרשאות. התוקף הוא יכול להגיע לסוכנים האלה, אבל כמו שזה נראה עכשיו זה איום עתידי שפחות נמצא בשטח, ואנחנו נערכים אליו".


בכלל אפשר לדעת שאחד מסוכני ה-AI שלך מותקף?

"בדיוק, אז היום יותר מתמקדים בצד של הזיהוי, לדעת לזהות אנומליות, שהסוכן הזה לדוגמא לא אמור לגשת לקוד של המפתחים. מנסים לזהות בעיקר אנומליות בגישה של הסוכן שחורגת מההרשאות שלו, זה יוצר משטח תקיפה חדש לגמרי לתוקפים".


הדוחות האחרונים של פאלו אלטו

חברת הסייבר פאלו אלטו דיווחה על תוצאות חזקות ברבעון השלישי, עם רווח מתואם של 80 סנט למניה על הכנסות של 2.29 מיליארד דולר. התוצאות עלו על הציפיות של האנליסטים שחזו רווח של 77 סנט למניה והכנסות של 2.28 מיליארד דולר. 

החברה צופה הכנסות ברבעון הרביעי של בין 2.49 ל-2.51 מיליארד דולר, בהשוואה לציפיות של וול סטריט של 2.5 מיליארד דולר. בנוסף, פאלו אלטו צופה רווח של בין 87 ל-89 סנט למניה, בהתאמה לאומדן האנליסטים של 87 סנט למניה. ההנחיות היו בקו עם הציפיות אך לא עלו עליהן משמעותית.


פאלו אלטו דיווחה על 13.5 מיליארד דולר בהתחייבויות תחייבויות ביצוע עתידיות, שמייצג עסקים חתומים שהחברה צפויה להכיר כהכנסות בעתיד, מתחת לציפיות של 13.54 מיליארד דולר. המדד הזה נחשב לאינדיקטור חשוב לצמיחה עתידית.


רוב האנליסטים ממשיכים להמליץ על המניה. מתוך 58 אנליסטים, 42 נותנים המלצת קנייה, 14 ממליצים להחזיק ורק שניים ממליצים למכור. האנליסטים רואים בפאלו אלטו חברה מובילה בתחום הסייבר עם פוטנציאל צמיחה חזק.

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה
מייסדי AI21 - משמאל לימין: אורי גושן, פרופ' אמנון שעשוע, פרופ' יואב שוהם, צילום: רועי שורמייסדי AI21 - משמאל לימין: אורי גושן, פרופ' אמנון שעשוע, פרופ' יואב שוהם, צילום: רועי שור

פרופ' שעשוע (שוב) מוכר חלום; בחזרה לאקזיט של מובילאיי ועל האקזיט הצפוי ב-AI21

אנבידיה קני אותי - ענקית השבבים מלאה במזומנים ומניה חזקה - שווי של 5 טריליון, והיא מחפשת צמיחה; במו"מ לרכישת AI21 במעל 2 מיליארד דולר
רן קידר |
נושאים בכתבה AI21 אמנון שעשוע

AI21 של פרופ' אמנון שעשוע היא עוד חברת חלום. החברה ובשמה המלא - AI21 Labs מפתחת פלטפורמות ומודלים בתחום הבינה המלאכותית, עם דגש על עיבוד שפה טבעית (NLP) ברמת עומק שמאפשרת קריאה, כתיבה, סיכום והבנה של טקסטים מורכבים. היא מתהדרת ביכולת ניתוח טקסט לעומק, וכפי שאמרו מייסדיה היא יכולה לעשות זאת בפחות שגיאות מהמודלים הגדולים. בפועל, היא נחשבת לאחת מהמתחרות של OpenAI, גרוק, ג'ימיני ו־Anthropic. (להרחבה -  מה הבשורה בסטארטאפ החדש של פרופ' שעשוע והאם הוא יכול להיות גדול ממובילאיי?)

החברה מנהלת מו"מ למכירתה לאנבידיה לפי שווי העולה על 2 מיליארד דולר. השווי בגיוס האחרון היה 1.4 מיליארד דולר כשעד היום גייסה החברה קרוב ל-700 מיליון דולר. בהינתן החלום ששעשוע והמייסדים דיברו עליו, עולה השאלה - למה לא להתקדם לבד? האם זה עוד חלום של שעשוע שבסוף נשאר בגדר חלום - את מובילאיי הוא הצליח למכור לאינטל ב-16 מיליארד דולר, כשמאז, כמעט  עשור אחרי, היא עברה שינויים וטלטלות וחזרה לוול סטריט  ואיכזבה כשהשווי כעת הוט 8.6 מיליארד דולר. שעשוע סיפר חלום, מכר חלום, הפך למיליארדר, אבל בפועל, מובילאיי לא סיפקה את הסחורה, ושעשוע לא קונה מניות באופן משמעותי. לדבר זה קל להוציא כסף מהכיס זה קשה. ובכלל, בזמן שהוא המוביל של מובילאיי הוא עוסק בהקמת סטארטאפים, זו לדעתנו הסיבה או לפחות אחת הסיבות המרכזיות למצבה של מובילאיי - למה נפלה מובילאיי? התשובה במנהלים 

אקזיט של 2-3 מיליארד דולר ל-AI21 הוא מרשים, הצלחה גדולה, למרות שהציפיות היו בשמיים. המרוויחים הגדולים נוסף לשעשוע יהיו יואב שוהם ואורי גושן.  ל-AI21 כ-200 עובדים, רובם בעלי תארים אקדמיים מתקדמים וניסיון בתחום הבינה המלאכותית, אך הכנסותיה נמוכות יחסית ונעות סביב 50 מיליון דולר. מבחינת אנבידיה, העסקה מהווה הזדמנות להגדיל במהירות את כוח האדם בישראל לצד רכישת טכנולוגיה, אם כי לא ברור מה אנביידה מחפשת בצ'אט-מחולל של החברה, היא הרי לא רוצה להתחרות בלקוחות שלה.  

לאחרונה רכשה אנבידיה גם את Deci ו-Run:ai בישראל בסכום כולל של מעל מיליארד דולר כשבמקביל היא נערכת להרחבת הפעילות שלה בארץ שמעסיקה כיום כ-5,500 עובדים. הקמפוס החדש בקריית טבעון אמור להעסיק אלפי עובדים ולפי ההערכות תוך שלוש-ארבע שנים יעסיק לפחות 5,000 עובדים נוספים ובעתיד רחוק יותר כ-10,000 עובדים.   


שעשוע מתמקד כעת בפרויקט הבא שלו עם הסטארט-אפ החדש דאבל AI, שהוקם לפני כשנתיים ושואף לפתח טכנולוגיות AI מתקדמות בתחום הסופר-אינטיליגנציה. דאבל AI מתמקדת במחקר ופיתוח ברמה גבוהה, במטרה לבנות כלים שיביאו תגליות מדעיות משמעותיות. במייסדיה נמנים חוקרים מובילים מתחומי מדעי המחשב, מתמטיקה, פיזיקה וביולוגיה, חלקם עבדו עם שעשוע בעבר במיזמים שונים, כולל מובילאיי. אל תתפלאו אם גם החלום הזה יימכר, וזה לא משנה מה יהיה בעוד 10 שנים. שעשוע הוא פרופסור למדעי המחשב, אבל הוא מצטיין בלמכור חלומות ובשוק הטק זה עובד. 

יואב שפרינגר וגלעד עזרא, מייסדים Apptor.ai צילום פרטייואב שפרינגר וגלעד עזרא, מייסדים Apptor.ai צילום פרטי
סטארטאפ להכיר

"המטרה שלנו לזהות מה הלקוח רוצה, החזון להיות מנוע ה-Predictive AI הגדול בתעשייה"

שיחה עם יואב  שפרינגר- המנכ"ל ושותף מייסד של  Apptor.ai



הדס ברטל |

ספר בקצרה על עצמך:

אני במקור מבית חנניה בצפון. בצבא שירתי ב-8200, שם גם פגשתי את השותף שלי, גלעד עזרא, ובזמן השירות, עבדנו על פיתוח מודלים של פרדיקציה לצבא כדי לזהות התנהגויות, אבל הרעיון זה להתעסק ב-predictable AI. אחרי הצבא הייתי בפלייטיקה בעולמות ה-AI retention. את הסטארטאפ הקמנו במהלך המלחמה, והתחלנו לרוץ איתו ממש תוך כדי המילואים.

ספר על החברה ומניין בא הרעיון?

אלו דברים דומים שעשינו בצבא. חיפשנו איפה אפשר למקסם את מה שעשינו בצבא ולהשליך על שוק, שהוא ממש בלו אושן עבורנו ואין חברה שעושה משהו דומה. תעשיית ה- direct sales, שהיא מאוד אמריקאית ואנחנו בנינו כמה מודלים של פרדיקציה שעוזרים לחברות direct sales לייצר תקשורת טובה יותר עם הלקוחות שלהן. המודלים מזהים טוב יותר מה הלקוח רוצה לקנות, מה המוצר שכדאי להציע לו ומתי יספיק לקנות, כאשר המטרה היא לטרגט בצורה טובה יותר את הלקוחות דרך המודלים שאנחנו מריצים. זה דומה לאי קומרס אבל יש הבדלים כי דרך המכירה בחברות direct sales היא שונה מעט, ואותן חברות רואות את עצמן כתעשייה נפרדת. למשל הרבהלייף היא לקוחה שלנו, ואם ספורה מבחינים שאני עובד איתם, הם יחשבו "מעולה, חברה דומה לנו." לעומת זאת, אם הרבהלייף היו רואים שאני עובד עם ספורה הם היו חושבים שזה אי קומרס. בשנה אחת הגענו ללקוחות וחברות כמו הרבהלייף, שופ דוט קום, It works! Global ו-Immunotec.

אופן המכירה ב-direct sales זה דרך מפיצים שהם המשווקים את המוצרים של החברה. עד שאנחנו הופענו, כל החברות הללו היו בונות על המפיצים לעשות את עבודת השיווק והמכירות והכל היה קורה דרכם בלי ערוצים נוספים. המפיצים מביאים לקוחות והם מדברים עם לקוחות וכדומה. מה שקורה בפועל זה שמאחר וכיום יש עוד הרבה אלטרנטיבות לעשות הכנסה מ-gig economy ובגלל התחרות הרבה בשוק, אז המודל לפיו הם בונים רק על המפיצים כבר לא עובד. מה שאנחנו מביאים לשולחן זה שאנחנו מייצרים מודלים של פרדיקציה שעושים את הכל באופן אוטומטי, את ה-retention, ההמלצות על מוצרים כאשר אנחנו יודעים לזהות מה כל לקוח יקנה ומתי והחברות כבר לא צריכות לבנות על המפיצים אלא אנחנו עושים את זה בשבילם, הכל כבר הופך לאוטומטי.

מתי הוקמה וכמה עובדים?

קמנו ביולי 2024, אנחנו 10 עובדים, הרוב בישראל ואחת ביוטה.

מי המשקיעים?

זוהר גילון, יובל בר-גיל, ניר גרינברג, רן שריג, אפי כהן ועוד