מיקרוסופט מציגה שבב AI חדש: המטרה - לצמצם את התלות באנבידיה

מיקרוסופט Microsoft Corp 0.48%   חושפת היום את Maia 300, מאיץ ה-AI החדש שפיתחה, לצד מערכת המחשוב שנבנתה סביבו. זהו הדור השלישי בתוכנית השבבים Azure Maia, והחברה מכריזה במקביל על הרחבה גדולה של הפריסה: החל מ-2027 מערכות Maia יגיעו להיקף של כמה ג'יגה-וואט ויהפכו לתשתית העיקרית שמריצה את מודלי הבינה המלאכותית במוצרים ובשירותים של מיקרוסופט.

המערכת תוכננה בעיקר להרצת מודלים שכבר אומנו, ולא לאימון שלהם. מיקרוסופט מכוונת אותה לשלושה סוגי עומסים שתופסים מקום גדל והולך: ניתוח של כמויות גדולות של מידע והקשר, שיחות שדורשות תגובה מהירה, ומשימות ארוכות ורב שלביות שמבצעים סוכני AI, מעבר למענה פשוט בצ'אט. לפי תחזית החברה, Maia 300 תפיק 40% יותר טוקנים לכל מגה-וואט בהשוואה למערכות GPU מובילות. טוקנים הם יחידות המידע שהמודלים מעבדים ומפיקים, ובמילים פשוטות - יותר עבודת AI מאותה כמות חשמל.

מה יש בתוך השבב

כל מאיץ כולל שמונה ערימות של זיכרון HBM4 עם קיבולת של 288 ג'יגה-בייט ורוחב פס של 18 טרה-בייט לשנייה, בהספק של 950 ואט. רכיבי העיבוד מיוצרים בתהליך N2P של טאיוואן סמיקונדקטור (TSMC), בארכיטקטורה של כמה שבבונים (Chiplets) שמפרידה בין רכיבי העיבוד, בקר הזיכרון ורכיבי הקלט והפלט. לפי נתוני מיקרוסופט, השבב מגיע ל-13.8 פטה-פעולות בשנייה בדיוק FP4 ול-6.9 בדיוק FP8.

מפרט Maia 300 (צילום: יח"צ מיקרוסופט)

ברמת ארון השרתים, 96 מאיצים עובדים יחד בהספק של 167 קילו-וואט, עם 27.6 טרה-בייט של זיכרון. בתצורה הזו מיקרוסופט מעריכה תפוקת טוקנים גבוהה עד פי שבעה מזו של ארון המבוסס על Maia 200. החיבור בין המאיצים נשען על רשת אתרנט, ואשכול אחד יכול לכלול כ-12 אלף מאיצים.

הדגש הוא על תנועת המידע. בהרצת מודלים גדולים, צוואר הבקבוק הוא לעיתים קרובות פחות כוח החישוב ויותר הזמן שלוקח להעביר נתונים בין הזיכרון למאיצים ובין המאיצים עצמם. Maia 300 בנויה להשאיר יותר מידע קרוב למקום שבו הוא מעובד, ותומכת בפורמטים של דיוק נמוך שחוסכים זיכרון ומאפשרים חלונות הקשר ארוכים יותר.

Maia 200 כבר בעבודה

הדור הקודם, שבב Maia 200 שהציגה מיקרוסופט בתחילת השנה, כבר מריץ עומסים אמיתיים: Microsoft 365 Copilot ועבודת צוות המודלים הפנימי של החברה, MAI. עד סוף השנה יצטרפו GitHub Copilot ו-Microsoft Foundry. המערכת מריצה מודלים של OpenAI, את המודלים של מיקרוסופט עצמה ומודלים בקוד פתוח, ונפרסת בארצות הברית, באירופה ובאוסטרליה. לפי החברה, היא מפיקה עד פי 1.7 יותר טוקנים לכל ואט מתשתיות GPU מובילות ביכולות ה-AI המובנות ב-Teams וב-Copilot.

הדור הראשון, Maia 100, הוצג בסוף 2023 ושימש בעיקר כצעד ראשון ללמידה. המעבר ממנו לשבב שאמור להריץ את רוב עבודת ההסקה של החברה מראה באיזו מהירות מיקרוסופט מנסה לסגור את הפער מול המתחרות בענן.

למה ענקיות הענן בונות שבבים משלהן

מיקרוסופט מצטרפת למגמה רחבה. גוגל מפתחת את שבבי ה-TPU שלה כבר כעשור ונמצאת בדור השביעי, Ironwood, והיא מוכרת גישה אליהם גם ללקוחות חיצוניים, בהם אנתרופיק. אמזון מפתחת את משפחת Trainium ובונה סביבה אשכולות ענק, ומטא מפתחת שבבי MTIA לשימוש פנימי. ההיגיון דומה אצל כולן: כשמשקיעים עשרות מיליארדי דולרים בכל רבעון במרכזי נתונים, גם חיסכון של כמה עשרות אחוזים בעלות לכל טוקן מצטבר לסכומים עצומים.

• קלוד כבר עורך את הקבצים של גוגל בעצמו - מה הוא יודע לעשות וכמה זה עולה?
• מנכ"ל מיקרוסופט מזהיר: "צריך בלם חירום למודלי הבינה המלאכותית"

יש גם שיקול של חשמל. מרכזי הנתונים החדשים נמדדים היום בג'יגה-וואטים, וזמינות ההספק הפכה לאחד החסמים המרכזיים לצמיחה. מכאן ההדגשה של מיקרוסופט על טוקנים לכל מגה-וואט ולא על כוח חישוב גולמי. שבב שתוכנן סביב המודלים והשירותים של החברה עצמה יכול לוותר על יכולות כלליות שמעבד גרפי נושא איתו, ולהתמקד במה שנדרש בפועל.

מה זה אומר לאנבידיה

בטווח הקרוב, השפעה מוגבלת. מיקרוסופט נשארת אחת הלקוחות הגדולות של אנבידיה, ובמקביל רוכשת גם מאיצים של AMD. המספרים שהחברה מציגה הם תחזית שלה, בלי בדיקה חיצונית, וההשוואה ל"מערכות GPU מובילות" לא מפרטת לאיזה דור בדיוק. Maia 300 גם תתחיל להיפרס רק ב-2027, כשאנבידיה כבר תציע דור חדש משלה.

בטווח הארוך התמונה מורכבת יותר. אנבידיה נהנית משולי רווח גולמיים של מעל 70%, ובמידה רבה הם נשענים על כך שלענקיות הענן היו מעט חלופות. ככל שחלק גדול יותר מעבודת ההסקה, שצפויה להפוך לרוב עומסי ה-AI, יעבור לשבבים פנימיים, כוח המיקוח של ענקיות הענן מול אנבידיה עולה. מנגד, אימון המודלים הגדולים עדיין נשען ברובו על מעבדים גרפיים, ופלטפורמת התוכנה של אנבידיה נותנת לה יתרון שקשה להעתיק. מיקרוסופט מתכננת לחשוף פרטים נוספים על אסטרטגיית ה-AI שלה בכנס Ignite בחודש הבא.