שבבי AI

שבבי AI הם מעבדים שמותאמים לחישובים הנדרשים במערכות בינה מלאכותית. העבודה מתחלקת לשני שלבים מרכזיים: אימון, שבו המודל לומד מכמויות גדולות של מידע, והסקה, שבה המודל מפיק תשובות עבור המשתמש. שני השלבים דורשים כוח עיבוד, זיכרון מהיר וחיבור יעיל בין מעבדים רבים.

אנבידיה מובילה את שוק המאיצים הגרפיים, אך התחרות מתרחבת. גוגל מפתחת שבבי TPU, אמזון מציעה את Trainium ו-Inferentia, ומיקרוסופט ומטא מקדמות מעבדים פנימיים. המהלך של אמזון למכור שבבים מחוץ לענן שלה ממחיש כיצד ספקיות הענן מבקשות להפוך גם ליצרניות חומרה.

חברות המודלים מחפשות עצמאות רחבה יותר. השבב שפיתחו OpenAI וברודקום נועד להתאים את החומרה ישירות לאופן שבו המודלים פועלים. התאמה כזאת יכולה לשפר את צריכת החשמל, להוזיל הפעלה ולהרחיב זמינות.

המרוץ כולל גם חברות צעירות ויצרניות מסין. הדור החדש של השבבים הסיניים הוא חלק ממאמץ לבנות שרשרת אספקה עצמאית. במקביל, ההסכם בין גוגל לאנתרופיק ממחיש את הקשר הישיר בין איכות המודל, קיבולת הענן וסוג המעבד. ככל שהשימוש ב-AI מתרחב, היעילות בהסקה מקבלת משקל דומה לעוצמת האימון.