שבב בינה מלאכותית מתקדם ומחשב על: ההכרזות המרכזיות של אנבידיה

החברה השלישית בשוויה בעולם, מובילה את השבחת הערך בשנים האחרונות בוול סטריט ובעיקר בשנה האחרונה בזכות מהפכת הבינה המלאכותית. האם זה יימשך? תלוי בהשקות החדשות שהחברה פרסמה הלילה. שלא במפתיע שבב הבינה המלאכותית החדש של אנבידה עמד במרכז דבריו של נשיא החברה הערב. השבב החדש, בלאקוול (NVIDIA Blackwell), אמור להניע את עידן המחשוב הבא, ולהוות לבנת היסוד בשלל מוצרי חומרה חדשים עליהם הכריזה החברה, החל משבב-העל B200 וכלה במחשב העל DGX SuperPOD. "אני מקווה שאתם מבינים שזה לא מופע", אמר נשיא החברה ג'נסן הואנג לקהל הגדול, שגדש את אולם הכנסים בסן חוזה. "הגעתם לכנס מפתחים. יהיה הרבה מדע שיתאר אלגוריתמים, ארכיטקטורת מחשבים, מתמטיקה", הדגיש הואנג בפני מי שחשבו שהגיעו למופע הכי טוב בעיר. ואכן במשך כשעתיים הואנג, הכניס מייסד ענקית השבבים את השומעים אל נבכי מוצרי החומרה החדשים של החברה, תוך שהוא מתייחס לכל פרט במפרט הטכני שלהם, כיאה לכנס מפתחים. זאת בניגוד לסגנון הקליל והמונגש יותר בו נוקטים מנהלי ענקיות הטכנולוגיה  ובראשם טים קוק מאפל.   

שורת מוצרי החומרה החדשים של החברה אמורים לאפשר לארגונים בכל מקום בעולם לבנות ולהריץ בינה מלאכותית יוצרת בזמן-אמת, עם מודלי שפה גדולים (LLMs) בעלי טריליוני פרמטרים, ובעלות וצריכת אנרגיה נמוכות עד פי 25 בהשוואה לדור הקודם. הארכיטקטורה מונעת על ידי טכנולוגיית NVLink מהדור החמישי, שבפיתוחה לקחו חלק גם עובדות ועובדי מרכז הפיתוח של אנבידיה ישראל.  

השבב החזק ביותר בעולם

על פי החברה, ארכיטקטורת בלאקוול מבוססת על טכנולוגיות מחשוב מואץ, שיסייעו להניע פריצות דרך בעיבוד נתונים, פיתוח תרופות מונחה-מחשוב (Computer-Aided), סימולציות הנדסיות, מחשוב קוונטי ובינה מלאכותית יוצרת – תעשיות מתפתחות הנמצאות בתחילת דרכן. בין החברות שיאמצו את הארכיטקטורה ניתן למנות את ענקיות הטכנולוגיה אמזון, מיקרוסופט, מטא ו-OpenAI. הארכיטקטורה תאפשר אימון (Training) והסקה (Inference) למודלי שפה גדולים (LLMs) עם יכולת להגיע לעד 10 טריליון פרמטרים.  ארכיטקטורת בלאקוול, קרדיט: אנבידיה "במשך שלושה עשורים הובלנו את פיתוח יכולות המחשוב המואץ, במטרה להניע פריצות דרך כמו למידה עמוקה ובינה מלאכותית", אמר ג'נסן הואנג, נשיא אנבידיה. "בינה מלאכותית יוצרת היא הטכנולוגיה המגדירה את זמננו. מעבדי הבלאקוול הם המנוע שמניע את המהפכה התעשייתית הזו. בעבודה משותפת עם הארגונים הדינמיים ביותר בעולם, נממש את ההבטחה של הבינה המלאכותית בכל תעשייה". הארכיטקטורה החדשה נקראת על שמו של דייויד הרולד בלאקוול, מתמטיקאי שהתמחה בתאוריית המשחקים ובסטטיסטיקה, אשר היה לאפרו-אמריקאי הראשון שנבחר לאקדמיה הלאומית למדעים בארה"ב (National Academy of Sciences).  

NVIDIA B200

לצד השבב הודיעה אנבידיה גם על הסופר-שבב NVIDIA GB200 Grace Blackwell המחבר בין שני GPUs מדגם NVIDIA B200 Tensor Core, יחד עם CPU מדגם NVIDIA Grace בחיבור שבב-אל-שבב של 900 גיגה-בייט לשנייה. כך, GB200 מציע שיפור של עד פי 30 בביצועים בהשוואה ל-NVIDIA H100 עבור הסקה במודלי שפה גדולים, ומפחית את צריכת האנרגיה עד פי 25. ה-GB200 מהווה חלק מרכזי ב-NVIDIA GB200 NVL72, מערכת בסקייל של Rack (ארון שרתים), הכוללת קירור נוזלי ומשלבת בין 72 שבבי Blackwell GPUs לבין 36 שבבי Grace CPU, המחוברים האחד לשני באמצעות טכנולוגיית NVLink מהדור החמישי. בנוסף, GB200 NVL72 כולל שבבי DPU מדגם NVIDIA BlueField-3 על מנת להניע את יכולות האצת הרשת, Zero-Trust Security וניהול אחסון. המערכת כולה פועלת כ-GPU אחד ומספקת 1.4 אקסה-פלופס של ביצועי AI ועד ל-30 טרה-בייט של זיכרון מהיר. שבב העל - B200, קרדיט: אנבידיה עבור דרישות ה-AI התובעניות ביותר, מערכות המונעות באמצעות GB200 יכולות להתחבר באמצעות פלטפורמות התקשורת המואצת שהוכרזו היום, NVIDIA Quantum-X800 InfiniBand ו-Spectrum-X800 Ethernet, אשר פותחו בישראל ומספקות ביצועי תקשורת מואצת בקצב של עד 800 גיגה-ביט לשנייה. בנוסף, מציעה אנבידיה את ה-HGX B200, שרת המחבר בין שמונה GPUs מדגם B200, בחיבור מהיר על מנת לתמוך במערכות ה-x86 החזקות ביותר. HGX B200 תומך בתקשורת מואצת במהירות של עד 400 ביט-לשנייה באמצעות פלטפורמות התקשורת המפותחות בישראל, 2 InfiniBand-NVIDIA Quantum ו-X Ethernet-Spectrum.  

מחשב העל DGX SuperPOD

לצד ההכרזה על ה-GB200 ו-GB200 NVL72, חשפה אנבידיה בכנס את מחשב העל DGX SuperPOD בגרסתו החדשה, אשר מבוסס על ארכיטקטורת בלאקוול ומסוגל להגיע לסקייל של עד עשרות אלפי סופר-שבבים מסוג Grace Blackwell בשילוב סביבת התוכנה של אנבידיה וטכנולוגיית התקשורת המתקדמת ביותר,NVIDIA Networking. מחשב העל החדש - DGX SuperPOD, קרדיט: אנבידיה ה-NVIDIA SuperPOD powered by Grace Blackwell מבוסס על מערכות NVIDI DGX GB200, ומציע עד 11.5 אקסה-פלופס של ביצועי AI ברמת דיוק FP4, ועד ל-240 טרה-בייט של זיכרון מהיר. כל אחד מדגמי ה-DGX GB200 כולל סופר-שבבים מסוג GB200 – הכוללים 36 שבבי Grace CPU ו-72 שבבי Blackwell GPUs – המחוברים כאחד באמצעות NVLink מהדור החמישי. DGX SuperPod מהדור החדש יכול להגיע לסקייל של עד ל-576 מעבדי בלאקוול המחוברים כאחד באמצעות טכנולוגיית NVLink. "מחשבי העל מסדרת NVIDIA DGX AI הם המפעלים של מהפכת ה-AI התעשייתית", אמר ג'נסן הואנג, מנכ"ל NVIDIA. "ה-DGX SuperPOD החדש משלב בין החידושים האחרונים במחשוב מואץ, תקשורת וסביבת התוכנה, על מנת לאפשר לכל חברה, תעשייה ומדינה לבנות וללטש את הבינה המלאכותית שלה". כל אחד מדגמי ה-DGX SuperPOD החדשים מכיל שמונה או יותר מערכות DGX GB200 המסוגלות להגיע עד לאלפי שבבי GB200 המחוברים עם NVIDIA Quantum InfiniBand. לטובת יצירת זיכרון משותף עצום שיניע את מודלי הבינה המלאכותית מהדור הבא, לקוחות יכולים לחבר עד 576 יחידות של Blackwell GPus ב-8 מערכות DGX GB200 המחוברות עם NVLink. בנוסף ל-NVLink, דגמי DGX SuperPOD עם DGX GB200 משלבים את שבבי ה-3 DPUs-NVIDIA BlueField, עם תמיכה בפלטפורמת התקשורת החדשה InfiniBandX800 -NVIDIA Quantum, שהוכרזה גם היא היום. הארכיטקטורה מציעה רוחב פס של עד ל-1,800 גיגה-בייט לשנייה לכל אחד מה-GPUs במערכת. כמו כן, הדור הרביעי לפרוטוקול SHARP המפותח בישראל, מספק עד ל-14.4 טרה-פלופס של יכולות עיבוד ברשת (Network-In Compute), פי 4 בהשוואה לדור הקודם.