אמנון שעשוע
צילום: ג'ונתן הפנר

למה אנבידיה השקיעה בסטארט-אפ של שעשוע, שמבטיח לחסוך בשבבים שלה?

doubleAI של פרופ' אמנון שעשוע השיקה את מקסוול, מערכת שמשכתבת את הוראות המכונה של תוכנות בזמן שהן רצות ומצרפת לכל שינוי הוכחה מתמטית שהתוצאה נשארת זהה. החברה מדווחת על האצה של עד פי 38, ומתכוונת לגבות מהלקוחות נתח מהחיסכון בחשבון המחשוב
אדיר בן עמי |

אנבידיה נמצאת ברשימת המשקיעים של doubleAI, הסטארט-אפ של פרופ' אמנון שעשוע, והמוצר הראשון שהחברה השיקה אתמול נועד לאפשר ללקוחות להריץ את אותן תוכנות על פחות כוח מחשוב. המוצר נקרא מקסוול (Maxwell), והחברה מגדירה אותו כמודל להרצת קוד: מערכת בינה מלאכותית שעוקבת אחרי תוכנה בזמן שהיא פועלת ומשכתבת את הוראות המכונה שלה, כדי שתנצל טוב יותר את המעבד ואת המעבד הגרפי. הקוד שהמתכנתים כתבו נשאר כמו שהוא, ובשלב הזה המערכת פתוחה למפתחים בתוכנית גישה מוקדמת.

doubleAI קמה לפני כשנתיים, מעסיקה כ-40 עובדים וגייסה סבב A של 200 מיליון דולר בהובלת קרנות ההון סיכון לייטספיד ובסמר. לצד אנבידיה השתתפו בסבב גם זרוע ההשקעות של דל, פיטנגו, גרינפילד ו-BRM של האחים ברקת, ולפי דיווחים קודמים השווי של החברה עבר את מיליארד הדולר. בין המייסדים נמצא גם פרופ' שי שלו-שוורץ מהאוניברסיטה העברית, שעובד לצד שעשוע במובילאיי כבר שנים.

שעשוע ושותפיו מתכוונים לגבות מהלקוחות אחוז מהכסף שהם חוסכים בחשבון המחשוב, במקום מחיר קבוע לרישיון כמקובל בתוכנה לארגונים, ואת גובה האחוז הם עוד לא חשפו. היעד המרכזי הוא מעבדות הבינה המלאכותית הגדולות, כמו OpenAI ואנתרופיק, שמוציאות מיליארדי דולרים על כוח מחשוב, ושעשוע מעריך שאצלן גם חיסכון של 10% שווה מאות מיליוני דולרים.

מחירי ההשכרה של שבבי AI עלו השנה, אחרי ירידה ב-2025. בנביוס, למשל, שעת עבודה של שבב H100 של אנבידיה עולה היום במחירון הרגיל 4.5 דולר, וחברות נוספות בענף העלו מחירים בחודשים האחרונים, כשהביקוש של חברות ה-AI גדול מהקיבולת הפנויה. חברות ההשכרה נשענות על הביקוש הזה, והמאזנים של קורוויב ונביוס מראים כמה כסף הן גייסו כדי לבנות עוד חוות שרתים. גם doubleAI עצמה הוציאה, לפי הדיווחים, כמחצית מהכסף שגייסה על כאלף שבבי B300 של אנבידיה לשימוש עצמי.

התוכן והמידע של נתוני המחשבון והכלי האינטראקטיבי
מה קורה בשווקים? - עדכונים שוטפים על השווקים
סוף התוכן מהמחשבון והכלי האינטראקטיבי

איך משכתבים תוכנה בזמן שהיא רצה

מהדר, התוכנה שמתרגמת את הקוד שכתבו בני אדם להוראות מכונה, עושה את העבודה מראש ובצורה כללית, שאמורה להתאים להרבה סוגי מחשבים ולכל סוג של נתונים. גם מהדרים מתקדמים, כמו זה שמובנה בספריית PyTorch לבניית מודלים או PyPy, הגרסה המהירה של שפת פייתון, פועלים לפי כללי שיפור שמהנדסים כתבו מראש. מקסוול צופה בתוכנה בזמן אמת, מזהה איפה היא מבזבזת זמן ובונה גרסה חדשה של פונקציות שלמות, לפעמים עם אלגוריתם אחר, שמותאמת לשבב שעליו היא רצה ולגודל ולסוג של הנתונים שהיא מקבלת בפועל. כשהגרסה המהירה מוכנה, היא נכנסת לפעולה בלי לעצור את התוכנה והופכת לבסיס של סבב השיפור הבא.

לכל החלפה כזו מצרף מקסוול הוכחה מתמטית פורמלית שהגרסה החדשה מתנהגת בדיוק כמו הקודמת. בזמן ריצה אף מתכנת לא עובר על השינויים, וקוד מהיר שמחזיר תוצאה שגויה גרוע מקוד איטי, ולכן ההוכחה מחליפה את הבדיקות לדוגמה שמקובלות בפיתוח תוכנה. חלק מההוכחות תלויות בתנאי, למשל שהנתונים יישארו בטווח מסוים, וכשהתנאי מפסיק להתקיים, מנגנון שמירה מהיר מחזיר את השליטה לקוד המקורי.

הידעת?למה אי אפשר לבדוק אוטומטית כל שינוי בקוד?
ב-1953 הוכיח המתמטיקאי האמריקאי הנרי גורדון רייס שאין אלגוריתם כללי שיכול להכריע, לגבי כל תוכנה שהיא, שאלה לא טריוויאלית על מה שהתוכנה עושה, למשל אם תחזיר אי פעם תוצאה מסוימת. מהמשפט, שנקרא על שמו, נובע גם שאין בודק אוטומטי שיכול להכריע לגבי כל זוג תוכנות אם הן תמיד מחזירות את אותה תוצאה. המשפט אינו מונע הוכחה לגבי זוג מסוים של תוכנות, וזו הדרך של מקסוול: לכל החלפה של קוד הוא בונה הוכחה נפרדת, מאבני בניין של הוכחות שאפשר לשלב זו בזו.

לפי החברה, תהליכי עיבוד נתונים רצו עם מקסוול מהר יותר עד פי 38, וקרנלים, התוכניות הקטנות שמריצות את החישובים של מודלי AI על המעבד הגרפי, האיצו ביותר מפי 4. באחד הניסויים שפרסמה כתבה המערכת מחדש את הליבה של pandas, ספרייה נפוצה בפייתון לעבודה עם טבלאות, ובסדרה של 22 שאילתות שמדמות עיבוד נתונים עסקי, ריצה של כעשר דקות התקצרה לפחות מ-20 שניות. על שרת קטן יותר, עם 8 ליבות וירטואליות, השיפור החציוני היה בסביבות פי 6. קלוד קוד, כלי התכנות של אנתרופיק, הופעל לפי החברה על אותה משימה עם מאות סוכני משנה והגיע להאצה של כ-30%.

ב-LTX, זרוע מודלי הווידאו שלייטריקס הירושלמית מפצלת לחברה עצמאית, יצירת סרטון באיכות 4K על שני שבבי B200 של אנבידיה התקצרה מכ-250 שניות לכ-134, כמעט בחצי, והתוצאה נשארה זהה לעין. לקוח מוקדם שלא נחשף בשמו חסך לפי החברה כשני שלישים מעלויות המחשוב. כל הנתונים האלה מגיעים מ-doubleAI ומלקוחותיה, ובדיקה עצמאית שלהם עדיין לא פורסמה.

מי עוד רוצה לשבת בין הקוד לשבב

אנבידיה עצמה משקיעה הון רב בתוכנה שמאיצה קוד על השבבים שלה, וספריות ה-CUDA שלה הן חלק מרכזי מהיתרון שלה על המתחרות. doubleAI כבר טענה בעבר שהאיצה את אחת הספריות של אנבידיה, ובקיץ הסכימה קוואלקום לרכוש את מודולר של כריס לטנר, שמפתחת שכבת תוכנה להרצת מודלי AI על שבבים של כל היצרניות, בעסקת מניות שהוערכה בכ-4 מיליארד דולר. סוכני התכנות של OpenAI ואנתרופיק פועלים בשלב מוקדם יותר: הם כותבים קוד לפי בקשת המתכנת, ו-doubleAI מציגה את מקסוול כשכבה שמגיעה אחריהם ומריצה את מה שכתבו.

הידעת?מה doubleAI עשתה לספרייה של אנבידיה?
בתחילת השנה הציגה החברה מערכת בשם WarpSpeed, שכתבה מחדש את הקרנלים בספריית cuGraph של אנבידיה, שמשמשת לניתוח של גרפים ורשתות, כמו קשרים בין משתמשים או מסלולי תנועה. לפי החברה, הגרסה החדשה רצה מהר יותר בכל האלגוריתמים שנבדקו, בממוצע פי 3.6, על שלושה סוגים של מעבדים גרפיים של אנבידיה, ובכמחצית מהקרנלים השיפור היה יותר מפי 2. הקוד פורסם בחינם כתחליף שמתקינים בלי לשנות שורת קוד, והחברה מציגה אותו כאחת ההוכחות לגישה שעליה נבנה מקסוול.

שעשוע הודיע בקיץ שיפרוש מתפקיד המנכ"ל של מובילאיי ברגע שיימצא לו מחליף, והוצע לו לעבור לתפקיד היו"ר. לפי הפרסומים, החיפוש אחר מנכ"ל חדש עדיין נמשך, ובינתיים שעשוע עומד גם בראש doubleAI. ההכנסות של החברה החדשה ייגזרו מהחיסכון שתמדוד אצל כל לקוח, ולכן כל הסכם יחייב בסיס מוסכם של צריכת המחשוב לפני שמקסוול נכנס לפעולה.

הוספת תגובה

תגובות לכתבה:

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה