חברת הסטארטאפ הישראלית Irregular (לשעבר Pattern Labs) הודיעה על גיוס של 80 מיליון דולר בשני סבבים בהובלת סיקוויה ורדפוינט, ובהשתתפות אסף רפפורט (מנכ"ל Wiz), אופיר ארליך (מנכ"ל Eon) ו-Swish Ventures של עמרי כספי. החברה עוסקת ב-AI אבל אינה מנסה לאמן מודלים חזקים יותר ולחדור לשוק רווי, אלא מתמחה בהגנת המודלים מפני עצמם ומפני מודלים אחרים. 

החברה נוסדה לפני כשנתיים על ידי דן להב ועומר נבו, והיא מעסיקה כ-25 עובדים (רובם בישראל). במסגרת העסקה שוויה הוערך בכ-450 מיליון דולר. רשימת לקוחות החברה עד כה כוללת את השמות הגדולים בעולם וכוללת את OpenAI, אנת'רופיק, דיפמיינד של גוגל ואף ממשלת בריטניה. המודל שלה בודק את הגבולות של מודלים מתקדמים באמצעות סימולציות תקיפה מתקדמות, בהן מודלי AI תוקפים ומגינים זה על זה. לדברי להב, העולם נכנס לעידן של "אינטראקציה בין בני אדם למודלים ובין מודלים לבין עצמם", והמטרה של אירגולר היא לאתר מראש התנהגויות מסוכנות, עוד לפני שהן יוצאות מהמעבדה. 

כשמודל תוקף מודל 

החברה לא רק מחפשת חולשות קיימות, אלא בוחנת כיצד מודלים עשויים לייצר אסטרטגיות עקיפה, לחקות זה את זה, לנצל תשתיות תוכנה או לעקוף מערכות הגנה. לדבריו של נבו, מודלים מסוגלים כיום לבצע "העתקה יצירתית" של ידע, כולל מתקפות דיסטילציה מתוחכמות (במקום לפרוץ ישירות לשרת או לתשתית, התוקף מנצל את המודל עצמו כמקור לידע. כלומר, הוא "מתשאל" שוב ושוב את המודל הקיים, ובאמצעות סדרה מתוחכמת של שאילתות הוא מצליח לשחזר מודל דומה מאוד או אפילו כמעט זהה, ללא גישה לקוד המקורי או לנתוני האימון. מעבר לגניבה של קניין רוחני, מצב כזה עלול להוביל לבעיות אבטחה, היות ובעזרת המודל המשוחזר, התוקפים יכולים למצוא נקודות תורפה ולנצל אותן נגד המודל המקורי. כך למשל, תרחיש של דליפה ממודל המסייע בניהול שרשראות אספקה או מערכות בקרה רפואיות, עלול להפוך מנזק נקודתי לקריסה מערכתית. אירגולר בונה עבור לקוחותיה סביבות מבוקרות שמאפשרות לבדוק לעומק תרחישים כאלו. 

בין היתר, היא מבצעת הדמיות של מתקפות סייבר, עקיפת תוכנות אנטי־וירוס, ובודקת אם מודלים מייצרים התנהגויות בלתי צפויות. למרות שהחברות הגדולות, למשל גוגל או OpenAI, מפעילות צוותי מחקר ואבטחה מתקדמים, אירגולר מציעה ערך מוסף חיצוני שלא פשוט לשכפל. כפי שמסביר נבו, "המעבדות שבהן אנו עובדים נבנו על ידי מדענים מהשורה הראשונה, אבל כשאתה רואה רק את הניסיון של ארגון אחד, קשה להבין את התמונה המלאה". לדבריו, אירגולר שומרת על קשרים יומיומיים עם צוותים פנימיים במעבדות הללו, ומתפקדת לא רק כספק שירות, אלא גם כשותפה למחקר ופיתוח. 

• חברת הסייבר Echo גייסה 50 מיליון דולר תוך 10 חודשים מאז הקמתה
• Dux נחשפת עם סבב סיד של 9 מיליון דולר
• המלצת המערכת: כל הכותרות 24/7

ברמה הכלכלית, החברה כבר רושמת הכנסות משמעותיות ומציינת שהגיוס הנוכחי נועד להרחיב קווי מחקר, לגייס חוקרים ולבנות תשתיות חישוב חדשות. להב אומר: "אנחנו בונים תשתית מחקרית ברמה של צוותים פנימיים במעבדות AI מהמובילות בעולם, וזה רף לא פשוט לעמוד בו. גם מבחינת משאבי אדם, גם מבחינת דיוק, וגם במהירות שבה צריך להגיב". אם חברות בינה מלאכותית מתחרות זו בזו מי תבנה את המודל החזק ביותר, אירגולר מבקשת להיות החברה שתדע לעצור את הסכנות לפני שהן מתפרצות. 

החברה מציינת שבכוונתה להעמיק פעילות גם עם רגולטורים. ככל שמודלים חדשים מציגים יכולות הולכות וגוברות בזיהוי חולשות תוכנה, יש מי שחוששים שיכולות אלה עלולות לשמש תוקפים לא פחות מאשר מגנים. לדברי נבו, החברה שואפת "להבין את המודלים מבפנים – לא רק איך הם מגיבים, אלא אילו שימושים מזיקים הם עלולים לאפשר בעתיד". להב מוסיף: "המרוץ הזה נע במהירות. אנחנו רואים באבטחה יעד נע, ולכן מדובר בתחילתה של עבודה עצומה שעוד לפנינו". אם המודלים הופכים להיות כלים בעבודת תקיפה והגנה – Irregular מבקשת להיות הגוף שידע לבלום אותם עוד לפני שיופיעו במערכות הייצור

מייסדי החברה מגיעים מרקע עשיר בבינה מלאכותית ואבטחת סייבר: דן להב היה חוקר בינה מלאכותית ב-IBM וזכה בפרס ההישג הטכני הבולט, ועומר נבו הוביל פרויקטים ב-Google Research. השניים הכירו בכלל דרך עולם הדיבייט התחרותי: נבו הוא אלוף העולם בדיבייט ולהב מחזיק בדירוג האישי הגבוה אי פעם באליפות העולמית.

• בזמן שמצמצתם: OpenAI שידרגה את יכולות עיבוד התמונה והמדעים של ChatGPT
• "החזון שלנו הוא להיות בכל קליניקה בעולם ולהציל חיים"
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• אקזיט ענק בסייבר - ארמיס תימכר ב-7 מיליארד דולר