אליס גייסה 140 מיליון דולר לאבטחת מערכות AI
את הסבב הובילה אייפקס דיגיטל והשתתפו בו סמסונג, סנטינל וואן ומשקיעים נוספים; החברה, שפעלה בעבר בשם אקטיבפנס, גייסה מאז הקמתה 280 מיליון דולר ומפתחת מערכות להגנה על יישומי בינה מלאכותית
שוק ההון חברת אליס השלימה סבב גיוס של 140 מיליון דולר בהובלת אייפקס דיגיטל ובהשתתפות סמסונג, סנטינל וואן, מאג' אינווסט, מורטק והפניקס. בסבב השתתפו גם המשקיעים הקיימים בחברה, ובהם CRV, גרוב, NVP, היילנד, וינטג', רזולוט, כלל-טק ו-NFX.
הגיוס מביא את סך ההשקעות באליס מאז הקמתה ל-280 מיליון דולר. החברה מסרה כי היא מתקרבת לקצב הכנסות שנתיות חוזרות של 100 מיליון דולר.
אליס מפתחת מערכות שנועדו לבחון ולהגן על מערכות בינה מלאכותית, הן עבור חברות שמפתחות מודלים בעצמן והן עבור ארגונים שמשלבים מודלים קיימים במערכות שלהם. פעילות החברה מתחילה בשלב האימון ונמשכת גם אחרי שהמערכת עולה לאוויר.
לפני השקת המודל עובדים חוקרי אליס עם מעבדות בינה מלאכותית, ובהן אנתרופיק וקוהיר, במטרה לאתר חולשות ולחזק את מנגנוני ההגנה. הממצאים משמשים להתאמת ההגנות למערכת שנבדקת, לנתונים שהיא מקבלת, להרשאות שניתנו לה ולכלים שאליהם היא מחוברת.
אחרי ההשקה בוחנת אליס את פעילות המערכת בסביבת השימוש שלה. הארגון יכול להגדיר אילו פעולות מותרות ואסורות, לדמות תקיפות במטרה לאתר דליפות מידע, הפרות של דרישות ציות והתנהגות שאינה רצויה, ולנטר בזמן אמת את הקלט והפלט של המערכת.
במסגרת הבדיקות מנסים חוקרי החברה לגרום למודל או לסוכן הבינה המלאכותית לפעול בניגוד לכללים שהוגדרו לו. בין היתר, הם בוחנים אם ניתן לגרום למערכת לחשוף מידע שאסור לה למסור, להתעלם מהוראות או לבצע פעולות שלא התבקשה לבצע.
אליס מפעילה מעבדת מחקר לאבטחת בינה מלאכותית שבה עובדים יותר מ-150 חוקרים. לפי החברה, היא מגינה כיום על שמונה מתוך עשר המעבדות המובילות בעולם שמפתחות מודלים של בינה מלאכותית.
נועם שוורץ, מנכ"ל ומייסד-שותף של אליס, מסר: "המטרה שלנו היא שארגונים יוכלו לסמוך על מערכות ה-AI שלהם ולדעת שהן יפעלו כפי שתוכננו. כדי להגיע לשם צריך להציב מול המודלים מומחים שמאתגרים אותם מדי יום. זו הסיבה שבנינו את מערך ה-FDE שלנו, שכולל צוותים שעובדים בצמוד ללקוחות ולמעבדות AI ובוחנים את המערכות שלהם באופן שוטף. במשך קרוב לעשור הצוותים שלנו עובדים בצמוד לחברות ולמעבדות AI מובילות, מאתרים בעיות לפני שהן מגיעות למשתמשים ומוודאים שמערכות פועלות כפי שתוכננו. עכשיו אנחנו מביאים את היכולת הזו לכל מעבדת AI ולכל ארגון שמעלה מערכות AI לאוויר".
הצורך במערכות מסוג זה גדל ככל שסוכני בינה מלאכותית מקבלים גישה רחבה יותר למידע, לכלים ולמערכות ויכולים לבצע פעולות באופן עצמאי. דוח הבטיחות הבינלאומי לבינה מלאכותית לשנת 2026, שנכתב בידי יותר מ-100 מומחים, מצא כי גם מודלים הכוללים מנגנוני הגנה מתקדמים עדיין ניתנים לפריצה, וכי שיטות תקיפה חדשות מתפתחות מהר יותר מהיכולת של מנגנוני ההגנה להתמודד איתן.
- בורסת הונג קונג ברבעון שיא - הרווח קפץ 21% וההנפקות חוזרות
- האם עדיף פיקדון ב-2.5% או לקחת סיכון בבורסה?
ארגון המחקר העצמאי METR תיעד עשרות מקרים שבהם סוכני בינה מלאכותית חרגו מהמשימה שהוגדרה להם. בחלק מהמקרים, לפי הארגון, הסוכנים אף ניסו להסתיר את החריגה ממפקחים אנושיים.
אליס הוקמה ב-2018 בשם אקטיבפנס בידי נועם שוורץ, המשמש מנכ"ל, יפתח אור, המשמש מנהל טכנולוגיות, אלון פורת, המשמש מנהל לקוחות ראשי, ואייל דיקן. החברה עסקה בהתמודדות עם הונאות, מתקפות סייבר, מניפולציות מתואמות והתנהגות עוינת ברשת.
הידע שצברה החברה משמש אותה כיום במסגרת Rabbit Hole, מאגר של דפוסי תקיפה ותוכן מזיק. המאגר מסייע לחוקרי אליס לזהות במערכות בינה מלאכותית דפוסים שהופיעו בעבר ודפוסים שלפי החברה עלולים להופיע בעתיד.
באליס מועסקים כיום כ-400 עובדים, רובם בישראל, והיתר במשרדי החברה בניו יורק, בלונדון ובהאנוי.
פטריק קיין, שותף באייפקס דיגיטל, מסר: "בדיוק כפי שהמעבר לענן יצר קטגוריית אבטחה חדשה, המעבר ל-AI פותח משטח תקיפה שגדל במהירות ויתרחב עוד ככל שארגונים יטמיעו סוכנים. אנחנו נרגשים לשתף פעולה עם נועם והצוות בזמן שאליס מגדירה את הקטגוריה הזו".
