מה הופך שבב AI לשונה מכל שבב אחר - ולמה אנבידיה הצליחה איפה שכולן נשארו מאחור

89 מיליארד דולר ממכירות דאטה סנטר ברבעון אחד - זה המספר שהציגה אנבידיה בדוח האחרון שלה, זינוק של 117% בתוך שנה. הסכום הזה גדול מההכנסות השנתיות של רוב החברות במדד S&P 500, וכמעט כולו מגיע ממשפחת מוצרים אחת: שבבי AI. לפני חמש שנים אנבידיה עוד נתפסה בעיקר כחברת כרטיסים גרפיים לגיימרים, והיום היא עומדת במרכז הכלכלה העולמית. השאלה מה בדיוק הופך שבב AI לשונה כל כך מכל שבב אחר שווה, נכון להיום, טריליוני דולרים.

ארבעה יסודות עומדים מאחורי ההצלחה הזאת - חומרה, תוכנה, תזמון ומערכת שלמה שנבנתה סביב המוצר לאורך שני עשורים - והיא פרק מרכזי במדריך הגדול לעולם השבבים. מי שמעדיף להתחיל מהיסודות, מטרנזיסטורים ועד וופרים, ימצא את ההסבר במדריך מה זה בכלל שבב.

המונח שבב AI רחב מהמותג של חברה אחת: הוא כולל מעבדים גרפיים של אנבידיה ושל AMD, שבבי TPU של גוגל, מאיצים ייעודיים של אמזון ומיקרוסופט ורכיבי NPU שנכנסים לטלפונים ולמחשבים אישיים. המשותף לכולם הוא ההתמחות - ויתור על הגמישות של מעבד כללי לטובת ביצוע מהיר וחסכוני של סוג אחד של מתמטיקה.

למה אימון מודל דורש עשרות אלפי מעבדים

מודל שפה גדול לומד באמצעות חזרה על פעולות מתמטיות פשוטות יחסית, בעיקר כפל מטריצות, על כמויות אדירות של נתונים. הפעולות האלה ניתנות לביצוע במקביל, ושם בדיוק עובר הקו בין CPU ל-GPU: מעבד מרכזי מחזיק מספר קטן של ליבות חזקות וגמישות שמצטיינות במשימות מגוונות בזו אחר זו, ואילו מעבד גרפי בנוי מאלפי יחידות חישוב פשוטות שפועלות יחד. משרד שצריך מנהל אחד לעשר משימות שונות יבחר CPU; חווה שצריכה אלפי ידיים לאותה פעולה על אלפי חלקות תבחר GPU. אימון בינה מלאכותית הוא כמעט תמיד המקרה השני.

שבב B200 מדור בלאקוול של אנבידיה מכיל 208 מיליארד טרנזיסטורים, פי עשרות ממעבד של מחשב ביתי. ועדיין, שבב בודד רחוק מלהספיק: אימון מודל מהדור הנוכחי רץ על אשכולות של עשרות אלפי מעבדים גרפיים שעובדים שבועות וחודשים ברציפות, וכל אחד מהם זקוק לזיכרון מהיר, לתקשורת רחבת פס ולקירור. שבב AI הפך מזמן ממוצר בודד למערכת שלמה.

המספרים של אשכול אימון ממחישים את סדר הגודל: מערך של 100 אלף מאיצים, כמו זה שהקימה xAI של אילון מאסק בממפיס בתוך חודשים ספורים, גוזל השקעה של מיליארדי דולרים בחומרה בלבד, עוד לפני החשמל, הקירור והמבנים.

הבדל נוסף יושב במתמטיקה עצמה. משחקי מחשב דורשים דיוק גבוה בכל פיקסל, ואילו רשתות נוירונים סלחניות הרבה יותר: חלק גדול מהחישובים מתבצע במספרים מקוצרים של 8 סיביות ואף 4, ודור בלאקוול תוכנן במיוחד סביב היכולת הזאת. חישוב מקוצר חוסך זיכרון, חשמל וזמן, ומכפיל בפועל את התפוקה של אותו סיליקון, ולתכנון כזה נדרשות שנים של פיתוח ארכיטקטורה.

ארון שרתים במחיר של בניין מגורים

מערכת GB200 NVL72, שרת הדגל של דור בלאקוול, מחברת 72 מעבדים גרפיים ו-36 מעבדי Grace לארון אחד עם קירור נוזלי, שמתפקד כמחשב ענק יחיד. הערכות אנליסטים מדברות על מחיר של 2 עד 3 מיליון דולר לארון בודד, ולפי דיווחים בתעשייה, מערכות מדור Vera Rubin הבא כבר מתומחרות גבוה מזה בהרבה. הזמנה של אלף ארונות כאלה מגלגלת לבדה 2 עד 3 מיליארד דולר, וענקיות הענן מזמינות הרבה יותר. המעבר ממכירת שבבים למכירת ארונות שלמים משנה גם את המודל העסקי: אנבידיה מספקת את המעבד, הזיכרון שצמוד אליו, רכיבי הרשת, התוכנה ואפילו את מפרט הקירור, והמרווח על כל אלה נשאר אצלה.

אלפאבית, מיקרוסופט, אמזון ומטא מזרימות יחד מאות מיליארדי דולרים בשנה להקמת דאטה סנטרים, ועסקי הענן של גוגל צמחו ברבעון האחרון בקצב של יותר מ-80%. אנבידיה מצדה תפרסם בשבוע הקרוב דוח רבעוני חדש, וההערכות בשוק מדברות על המשך צמיחה חדה. על רקע זה בולט נתון אחד: המכפיל של אנבידיה ירד לשפל של עשור, והמשקיעים מתמחרים כבר עכשיו האטה עתידית בקצב.

• עדכון: אנבידיה עברה לעלייה של 5%, הנה הסיבה
• אנבידיה שוב מכה את התחזיות בשורה העליונה והתחתונה ומעלה תחזיות

CUDA - החפיר האמיתי יושב בתוכנה

CUDA, פלטפורמת התוכנה שאנבידיה השיקה ב-2006, היא אולי הנכס האסטרטגי הגדול ביותר של החברה. מפתחים משתמשים בה להרצת עומסי חישוב על GPU, ובמשך שני עשורים נבנו סביבה ספריות, כלים, קורסים אקדמיים ומיליוני שורות קוד. כשמהפכת AI התפרצה, רוב התעשייה כבר עבדה בתוך העולם של אנבידיה. מתחרה יכולה להציג שבב עם ביצועים דומים ואף טובים יותר, אבל מעבר אליו מחייב שכתוב קוד, הכשרת צוותים וסיכון הנדסי, ורוב הלקוחות מעדיפים לשלם יותר ולהישאר. השילוב הזה מתורגם לשיעור רווח גולמי של כ-75%, רמה חריגה בכל קנה מידה בעולם החומרה.

התזמון ששינה הכול

ב-2012 אימנו חוקרים מאוניברסיטת טורונטו את AlexNet, הרשת שפתחה את עידן הלמידה העמוקה, על שני כרטיסים גרפיים ביתיים של אנבידיה. החברה זיהתה את הכיוון מוקדם והפנתה משאבים לחיזוק CUDA ולשוק המחקר עוד כשההכנסות משם היו זניחות, וב-2016 מסר המנכ"ל ג'נסן הואנג באופן אישי ל-OpenAI את מחשב העל DGX הראשון. כש-ChatGPT התפוצץ בסוף 2022, אנבידיה הייתה הספקית היחידה שהגיעה עם חומרה, תוכנה ומערכת בשלות. אינטל, ששלטה בעידן ה-CPU, פספסה את הגל; AMD הגיעה עם חומרה מרשימה אבל בלי סביבת תוכנה דומה.

Training מול Inference - שני שווקים במחיר אחד

אימון המודל, Training, דורש אשכולות ענק שרצים שבועות ארוכים, ואנבידיה שולטת בו כמעט לחלוטין. הפעלת המודל אחרי האימון, Inference, קורית בכל שאילתת צ'אט, בכל תרגום אוטומטי ובכל סרטון שנוצר בבינה מלאכותית, והיא מתרחשת בדאטה סנטר, בטלפון, במכונית וברובוט. עלות ההפעלה הפכה למספר שמנהלי כספים עוקבים אחריו, שכן כל שאילתה עולה כסף אמיתי בחשמל ובפחת על החומרה, ושיפור של אחוזים בודדים ביעילות מתורגם אצל מפעילת ענן גדולה למאות מיליוני דולרים בשנה. ככל ש-AI נכנס ליותר מוצרים, שוק ה-Inference צפוי לגדול ולהיפתח לתחרות רחבה יותר, מפני שדרישות התוכנה בו פשוטות יותר והרגישות למחיר גבוהה יותר. זה בדיוק המקום שבו המתחרות מרכזות את המאמץ.

למה גוגל, אמזון ומטא מפתחות שבבים משלהן

גוגל מריצה כבר עשור חלק גדול מעומסי ה-AI שלה על שבבי TPU מתכנון עצמי, אמזון מפתחת את Trainium ו-Inferentia לענן AWS, מטא עובדת על מאיצים פנימיים ומיקרוסופט השיקה את Maia. ההיגיון ברור: חברה שמוציאה עשרות מיליארדי דולרים בשנה על שבבים תרוויח גם מחיסכון חלקי, וכוח מיקוח מול ספק דומיננטי שווה כסף בפני עצמו. כולן ממשיכות בינתיים לקנות מאנבידיה, וכולן מנסות במקביל לצמצם את התלות בה.

ברודקום הפכה לנהנית הגדולה של המגמה: כשענקית ענן רוצה שבב בהתאמה אישית בלי להקים מערך פיתוח שלם בתוך הבית, היא פונה אליה לתכנון משותף. כך נוצר מצב שבו גם שחיקה מסוימת בנתח של אנבידיה מייצרת מנצחות חדשות בתוך אותה שרשרת, ובמפה של מי נגד מי בעולם השבבים רואים איך כל שחקנית ממוקמת מול האחרות.

• השבבים הם הנפט החדש? המדריך הגדול לתעשייה שמפעילה את העולם
• אפל קבעה תאריך: האייפון המתקפל הראשון צפוי להיחשף ב-9 בספטמבר

מלחמת הזיכרון: הנשק הסודי נקרא HBM

זיכרון HBM יושב צמוד למעבד הגרפי ומזרים אליו נתונים ברוחב פס עצום; בלעדיו גם ה-GPU החזק בעולם מבלה את רוב זמנו בהמתנה. מאיץ B200 בודד נושא 192 גיגה-בייט של HBM3e ברוחב פס של כ-8 טרה-בייט בשנייה, פי מאות מהזיכרון של מחשב ביתי. לפי חברת המחקר TrendForce, SK הייניקס החזיקה ברבעון השני של 2026 בכ-62% משוק ה-HBM, מיקרון בכ-21% וסמסונג בכ-17%, כששנה קודם לכן חלקה של הקוריאנית התקרב ל-70% וסמסונג מנסה עכשיו לסגור את הפער עם דור HBM4. הביקוש חזק עד כדי כך שבשוק מעריכים כי מחסור בזיכרון מתקדם עלול לעכב את ייצור שבבי Rubin, הדור הבא של אנבידיה.

הרכישה הישראלית שהפכה למכפיל כוח

אלפי מעבדים גרפיים חייבים לתפקד כמכונה אחת, ואם התקשורת ביניהם איטית, חומרה במיליארדי דולרים עומדת בטלה. את היכולת הזאת אנבידיה קנתה בישראל: רכישת Mellanox תמורת כ-6.9 מיליארד דולר, שהושלמה ב-2020, נחשבת היום לאחת העסקאות המשתלמות בתולדות התעשייה, ופתרונות ה-InfiniBand וה-Ethernet שפותחו ביוקנעם הם חלק מרכזי מהצעת הדאטה סנטר של החברה. בדוח האחרון ציינה אנבידיה במפורש את הביקוש לפתרונות הרשת שלה כאחד הגורמים לצמיחה. איך כל הרכיבים האלה מיוצרים ונארזים יחד - על כך במדריך איך מייצרים שבב.

למה תחרות דווקא יכולה להגדיל את העוגה

AMD היא המתחרה הישירה היחידה בשוק הפתוח, והיא מכרה ב-2024 מאיצי דאטה סנטר ביותר מ-5 מיליארד דולר - עסק גדול בכל קנה מידה אחר, ופחות מעשירית מהיקפי אנבידיה. המכשול המרכזי שלה הוא סביבת התוכנה ROCm, שמנסה להדביק שני עשורים של CUDA, והלקוחות הגדולים קונים ממנה בין השאר כדי לשמר תחרות ולחזק את כוח המיקוח שלהם מול הספקית הדומיננטית.

תרחיש שבו אנבידיה יורדת מ-90% ל-70% משוק המאיצים נשמע כמו מכה, אבל אם השוק כולו גדל באותן שנים פי ארבעה, ההכנסות שלה עדיין מזנקות. לכן משקיע צריך להפריד בין שתי שאלות: כמה נתח שוק תשמור אנבידיה, וכמה גדול יהיה השוק כולו. את התשובה לשאלה השלישית והחשובה מכולן - לאן זורם בפועל כל דולר שמושקע ב-AI, מהמאיץ דרך הזיכרון ועד החשמל - מפרק המדריך על שרשרת הזהב של תעשיית השבבים. בינתיים החשבון פשוט: 70% משוק של 400 מיליארד דולר שווים פי שלושה מ-90% משוק של 100 מיליארד.