AMD בחרה ב-DriveNets הישראלית לפתרון הרשת בתשתיות ה-AI שלה
הפתרון של החברה נכלל בארכיטקטורה הרשמית של AMD למערכות בינה מלאכותית המבוססות על מעבדי Instinct MI350. בבדיקות נרשמו שיפור בתפוקה, קיצור זמני תגובה וניצול יעיל יותר של התשתית
DriveNets AMD בחרה בפתרון הרשת של חברת DriveNets הישראלית כחלק מהארכיטקטורה הרשמית שלה להקמת תשתיות בינה מלאכותית בקנה מידה גדול. הפתרון, DriveNets AI Fabric, נכלל במדריך שמפרסמת AMD ללקוחות ולשותפים המעוניינים להקים מערכות AI המבוססות על מעבדי AMD Instinct MI350.
ארכיטקטורת הייחוס של AMD משמשת מעין תוכנית עבודה להקמת תשתיות מחשוב גדולות. היא מפרטת כיצד לשלב בין המעבדים, השרתים, התוכנה ורשת התקשורת, כדי להשיג ביצועים גבוהים בתהליכי אימון והרצה של מודלי בינה מלאכותית.
הבחירה ב-DriveNets משמעותית משום שבתשתיות AI גדולות לא די במעבדים חזקים. יש צורך ברשת מהירה ויציבה שתאפשר לאלפי מעבדים גרפיים לעבוד יחד, להעביר ביניהם כמויות עצומות של מידע ולמנוע מצב שבו חלק מכוח המחשוב נותר ללא שימוש.
שיפור בתפוקה ובזמני התגובה
לדברי החברות, בדיקות שבוצעו במהלך פיתוח ואימות הארכיטקטורה הראו כי השילוב בין מעבדי AMD Instinct MI350 לבין DriveNets AI Fabric שיפר בכ-5% את תפוקת הקלאסטר, כלומר את כמות העבודה הכוללת שמערכת המחשוב מסוגלת לבצע.
בנוסף נרשם קיצור של כ-10% עד 15% בזמן עד לקבלת הטוקן הראשון מהמודל. זהו מדד מרכזי במערכות בינה מלאכותית, המתאר כמה זמן עובר מהרגע שבו המשתמש שולח בקשה ועד שהמערכת מתחילה להציג תשובה.
עוד עולה מהבדיקות כי הפתרון מאפשר לשרת מספר גדול יותר של משתמשים באמצעות אותה תשתית, תוך ניצול יעיל יותר של המעבדים ושמירה על ביצועים יציבים גם תחת עומסים גבוהים. שיפור כזה עשוי להפחית את העלות של הפעלת מודלי AI, משום שחברות יכולות להפיק יותר מאותו ציוד מחשוב.
הפתרון של DriveNets מבוסס על רשתות Ethernet פתוחות ונועד לשמש חלופה לפתרונות תקשורת סגורים של ספק יחיד. החברה טוענת כי המבנה הפתוח מאפשר ללקוחות לשלב ציוד ורכיבים של כמה יצרנים ולהרחיב את המערכת בהתאם לצורך.
שיתוף פעולה עם לקוחות משותפים
שיתוף הפעולה בין AMD ל-DriveNets אינו מוגבל לבדיקות מעבדה. החברות פועלות יחד בפריסות ייצור ובפיילוטים אצל לקוחות משותפים, ובהם חברות המפתחות מודלי שפה גדולים וספקי NeoCloud, שמקימים ומפעילים תשתיות ענן ייעודיות לעומסי בינה מלאכותית.
במסגרת העבודה המשותפת ביצעו החברות התאמות ברכיבי התוכנה והחומרה, החל מהגדרות כרטיסי הרשת בשרתים ועד לכוונון התקשורת בין המעבדים ולשיפור ביצועי המערכת כולה.
DriveNets מפתחת פתרונות תקשורת המחברים אלפי מעבדים גרפיים למערכת אחת. הפתרונות מיועדים הן לאימון מודלים, תהליך הדורש כוח מחשוב רב, והן לשלב ההסקה, שבו המודל מפיק תשובות עבור המשתמשים.
המהלך מגיע לאחר ש-DriveNets השלימה לאחרונה גיוס של 410 מיליון דולר, שבו הצטרפה AMD כמשקיעה חדשה בחברה. הגיוס נועד לסייע לחברה להרחיב את פעילותה על רקע הביקוש הגובר לתשתיות תקשורת עבור מרכזי נתונים ומערכות AI גדולות.
