אנבידיה, מיקרוסופט ו-IBM מקימות ברית חדשה לאבטחת AI

המאבק על עתיד הבינה המלאכותית כבר מזמן מלווה בוויכוח על האופן שבו יש לאבטח מערכות AI, ובפרט בשאלה אם ההגנה עליהן צריכה להתבסס על מערכות סגורות או דווקא על קוד פתוח.

על רקע הוויכוח הזה הכריזו אנבידיה, מיקרוסופט, IBM ועשרות חברות נוספות על הקמת Open Secure AI Alliance - ברית שתעסוק בפיתוח ושיתוף של כלים פתוחים להגנה על מערכות בינה מלאכותית. עם החברות השותפות ביוזמה נמנות גם סיסקו, סיילספורס, דל, סאפ, Cloudflare, CrowdStrike, Red Hat, Hugging Face, HPE וקרן לינוקס.

לפי הודעת הברית, המטרה היא לבנות תשתית של כלים פתוחים שתאפשר לארגונים לזהות חולשות אבטחה, לבדוק מערכות AI, לשתף מידע על איומים ולפתח מנגנוני הגנה מבלי להיות תלויים בפתרון של ספק יחיד.

הוויכוח על קוד פתוח מגיע גם ל-AI

מאחורי הקמת הברית עומדת מחלוקת שמפלגת את תעשיית הבינה המלאכותית בשנים האחרונות. מצד אחד נמצאות חברות כמו OpenAI, גוגל ואנתרופיק, שמחזיקות את המודלים המתקדמים שלהן במתכונת סגורה ואינן חושפות את משקלי המודל או את רוב מרכיבי הפיתוח. לטענתן, הגבלת הגישה מקטינה את הסיכון לשימוש זדוני בטכנולוגיה.

מן העבר השני ניצבות חברות וקהילות קוד פתוח, הטוענות כי שקיפות דווקא משפרת את האבטחה. לדבריהן, כאשר חוקרים, ארגונים ואנשי סייבר יכולים לבחון את המודלים ואת כלי ההגנה, קל יותר לזהות חולשות, לתקן אותן ולהגיב במהירות לאיומים חדשים.

בברית החדשה מדגישים כי אינם מבקשים להחליף את המודלים הסגורים, אלא לאפשר לארגונים לשלב בינם לבין פתרונות פתוחים בהתאם לצורכי האבטחה שלהם.

אירוע הסייבר שהפך לדוגמה

אחת הדוגמאות שמציגות החברות היא אירוע האבטחה שחוותה לאחרונה Hugging Face.

לפי הברית, במהלך הטיפול באירוע נדרשה החברה לבצע ניתוח של יותר מ-17 אלף פעולות שבוצעו במערכותיה. לטענתה, מודל פתוח מסוג GLM 5.2 אפשר לבצע את הניתוח בתוך התשתיות שלה, בלי להעביר מידע רגיש לגורם חיצוני.

לטענת הברית, המקרה ממחיש את היתרון שבהרצת מודלים מתקדמים בתוך סביבת הארגון, במיוחד כאשר מדובר בחקירת אירועי סייבר או במידע רגיש.

• 57.5% מהתעבורה באינטרט כבר אינה אנושית - מי ישלם על התוכן שאנחנו צורכים?
• מורה מסיליקון ב-58 אלף דולר: הרובוטית שתיכנס לתיכון בניו יורק

כל חברה תורמת רכיב אחר

במסגרת היוזמה הודיעו החברות כי יתרמו רכיבים שונים לפרויקטי קוד פתוח בתחום אבטחת ה-AI.

אנבידיה צפויה לתרום מודלים, משקלי מודלים ומסגרות מחקר לפיתוח סוכני AI מאובטחים, וכן את פרויקט NOOA – מסגרת מחקר שנועדה להקל על בדיקה, ניטור ובקרה של סוכני AI.

מיקרוסופט תתרום את MDASH – כלי שסורק מערכות באמצעות מספר סוכני AI במטרה לאתר חולשות אבטחה. IBM ו-Red Hat יתרמו פתרונות לאבטחת שרשרת האספקה של תוכנות קוד פתוח, HPE תתרום טכנולוגיות לאימות זהויות במודל Zero Trust, ו-Hugging Face תרחיב את השימוש בפורמט Safetensors, שנועד לאחסון בטוח של משקלי מודלים.

מסר לרגולטורים: אבטחה היא קריטית

לצד ההכרזה על הברית, החברות מפנות מסר גם לרגולטורים, שנמצאים בעיצומו של גיבוש כללים לשוק הבינה המלאכותית.

לדבריהן, מודלים פתוחים וכלי קוד פתוח צריכים להיחשב לחלק מתשתיות ההגנה של עולם ה-AI ולא להיתפס רק כמקור סיכון. לטענתן, רגולציה שתגביל באופן גורף פיתוח ושימוש במודלים פתוחים עלולה להגביר את התלות במספר קטן של ספקיות AI גדולות ולצמצם את יכולתם של ארגונים לפתח מנגנוני הגנה עצמאיים.

• המתקפל בצורת דרכון: ההימור של סמסונג על שינוי צורה
• הסוכן של OpenAI פרץ ל-Hugging Face - ועכשיו מגיע חשבון של 100 מיליון דולר

הקמת הברית מגיעה בתקופה שבה השוק עובר משלב פיתוח מודלי השפה לשלב שבו ארגונים מתחילים להטמיע סוכני AI במערכות ייצור ובתשתיות קריטיות. ככל שהשימוש במערכות כאלה מתרחב, כך גוברת גם החשיבות של אבטחתן - תחום שהופך לאחד ממוקדי ההשקעה המרכזיים של תעשיית הבינה המלאכותית.