אנתרופיק מגייסת את אמזון, אפל ומיקרוסופט למאבק באיומי הסייבר של עידן ה-AI

חברת הבינה המלאכותית אנתרופיק הכריזה על יוזמת סייבר חדשה בשיתוף ענקיות הטכנולוגיה אמזון, אפל ומיקרוסופט, במטרה להתמודד עם העלייה באיומי סייבר מבוססי בינה מלאכותית. היוזמה, שנקראת Project Glasswing, מבקשת לחבר בין יכולות AI מתקדמות לבין הגנה על תשתיות תוכנה קריטיות.

במרכז הפרויקט עומד מודל חדש של החברה, Claude Mythos Preview, אשר אינו מיועד להפצה רחבה. לפי אנתרופיק, המודל יהיה זמין למספר מצומצם של ארגונים בלבד, בעיקר כאלה הפועלים בתחומי תשתיות תוכנה, אבטחת מידע וקוד פתוח. כ-40 חברות נוספות, הפועלות בתחומי תוכנה קריטית וקוד פתוח, יקבלו גישה למודל כדי לבחון ולשפר את רמת האבטחה של מערכותיהן. המטרה היא לאתר חולשות מוקדם ככל האפשר ולצמצם את הסיכון לניצולן על ידי תוקפים.

לדברי אנתרופיק, המודל כבר הצליח לזהות אלפי פרצות אבטחה מסוג "יום אפס". מדובר בחולשות שלא היו ידועות קודם לכן, או כאלה שכבר נוצלו בפועל וטרם תוקנו - מה שהופך אותן למסוכנות במיוחד. החברה ציינה כי חלק מהפרצות שאותרו הן קריטיות, וכי המודל הצליח לזהות בעיות אבטחה במערכות הפעלה ובדפדפנים מרכזיים. בין היתר, נחשפו באגים ותיקים - אחד מהם בן 27 שנים ואחר בן 16 שנים - שלא זוהו עד כה.

הפונציאל לשימוש לרעה

היכולת לאתר חולשות ישנות לצד חדשות מצביעה על עומק הניתוח של המודל, אך גם מעלה שאלות לגבי הפוטנציאל לשימוש לרעה. באנטרופיק מזהירים כי ככל שהטכנולוגיה תתקדם, יכולות כאלה עלולות להגיע גם לגורמים שאינם פועלים תחת מגבלות בטיחות.

• שורפת עשרות מיליארדים בשנה: המספרים מאחורי OpenAI נחשפים
• בריטניה מנסה למשוך את אנתרופיק: בוחנת הרחבת פעילות ורישום כפול
• המלצת המערכת: כל הכותרות 24/7

בחברה מדגישים כי קצב ההתקדמות בתחום הבינה המלאכותית מהיר במיוחד, וכי בתוך זמן קצר יכולות מתקדמות יהפכו לנפוצות יותר. לכן, לטענתם, יש צורך בפעולה מיידית מצד גורמים בתעשייה כדי לחזק את ההגנה. אנתרופיק מציינת כי פתרון בעיות סייבר אינו יכול להתבסס על גוף אחד בלבד. לשיטתה, נדרש שיתוף פעולה בין חברות טכנולוגיה, חוקרי אבטחה, קהילות קוד פתוח וממשלות, כדי להתמודד עם האתגרים המתרחבים.

המודל החדש

Claude Mythos Preview מתואר כמודל כללי עם יכולות מתקדמות בקידוד ובחשיבה אנליטית, המאפשרות לו להתמודד עם משימות מורכבות בתחום האבטחה. בניגוד למודלים קודמים של החברה, אנתרופיק אינה מתכננת להפוך אותו לזמין לציבור הרחב בשלב זה. כחלק מהיוזמה, החברה הודיעה כי תקצה משאבים בהיקף משמעותי: קרדיטים לשימוש במודל בשווי של כ-100 מיליון דולר, לצד תרומות ישירות של כ-4 מיליון דולר לארגוני קוד פתוח בתחום הסייבר.

במקביל, אנתרופיק מנהלת שיחות עם ממשלת ארה"ב בנוגע לשימושים האפשריים של המודל, הן בהיבטים הגנתיים והן בהיבטים התקפיים. השיח מתקיים על רקע התעניינות גוברת של גורמים ממשלתיים בטכנולוגיות AI מתקדמות. עם זאת, היחסים בין אנתרופיק לבין משרד ההגנה האמריקאי אינם חלקים. החברה הציבה מגבלות על אופן השימוש במודלים שלה, מה שהוביל לביקורת מצד הממשל ואף להליך משפטי בין הצדדים.

• האפקט הלא צפוי של תרופות ההרזיה: ביקוש חדש בתעשיית היופי
• טסלה יורדת ב-3% - קת׳י ווד מנצלת את הירידות
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• באפט עוצר מיליארדים: הדרמה סביב גייטס מטלטלת את קרן הענק

הממשל האמריקאי אף הגדיר את אנתרופיק כסיכון לשרשרת האספקה, אך החלטה זו הוקפאה זמנית על ידי בית משפט. ההתפתחויות ממחישות את המתח בין חדשנות טכנולוגית לבין שיקולי ביטחון ורגולציה.

הכרזת Project Glasswing מגיעה זמן קצר לאחר תקרית נוספת בחברה, שבה דלף קוד פנימי בעקבות טעות אנוש. אף שלא מדובר בפריצה חיצונית, האירוע העלה סימני שאלה לגבי ניהול הסיכונים גם בקרב חברות מובילות בתחום.