DeepSeek שוב מטלטלת את שוק ה-AI: חושפת בחינם את המנוע שעשוי להוזיל את הבינה המלאכותית
החברה הסינית משחררת בקוד פתוח את DeepInfer, התוכנה שמפעילה את מערכות הבינה המלאכותית שלה ומאפשרת לנצל טוב יותר את השבבים; החברה מדווחת על עיבוד של 155 טריליון טוקנים ביום באשכול שרתים אחד; הפיתוח תומך גם בשבבים של Nvidia וגם באלה של Huawei, ומגביר את התחרות על עלויות ה-AI
DeepSeek חברת הבינה המלאכותית הסינית DeepSeek ממשיכה לאתגר את ענקיות הטכנולוגיה האמריקאיות, והפעם היא לא מציגה מודל חדש אלא את הטכנולוגיה שמאפשרת לה להפעיל מודלים ביעילות גבוהה יותר. החברה הודיעה היום (שלישי) על שחרור DeepInfer, מערכת תוכנה לניהול והרצה של מודלי בינה מלאכותית, בקוד פתוח ובחינם. המהלך מאפשר למפתחים ולחברות להשתמש בחלק מתשתית התוכנה ש-DeepSeek פיתחה להפעלת מודלים בהיקפים גדולים, במקום לבנות את כל המערכת בעצמם. המטרה היא להפיק יותר עבודה מאותה כמות של שבבים, לקצר את זמני התגובה ולהפחית את עלויות החשמל והמחשוב. אם חברות נוספות יצליחו להשתמש בטכנולוגיה ביעילות דומה, העלות של הפעלת שירותי AI עשויה לרדת, והתחרות מול OpenAI, אנתרופיק וגוגל תתרחב גם לתשתיות שעליהן פועלים המודלים.
המשמעות העסקית רחבה יותר מהשקת כלי תוכנה נוסף. ככל שהפעלת מודלים נעשית זולה יותר, חברות יכולות להציע שירותים במחירים נמוכים יותר, להרחיב את השימוש בבינה מלאכותית ולשפר את הרווחיות שלהן. מנגד, יעילות גבוהה יותר עשויה להפחית את כמות כוח המחשוב הדרושה לכל בקשה שעשויה להשפיע גם על הביקוש לשבבים ולמרכזי נתונים.
כדי להבין את חשיבות ההכרזה צריך להבחין בין שני שלבים בפעילות של בינה מלאכותית. הראשון הוא אימון המודל, תהליך יקר שבו אלפי שבבים עובדים במשך שבועות או חודשים כדי ללמד את המערכת. השני הוא השימוש השוטף במודל, שמכונה Inference. בכל פעם שמשתמש מבקש תשובה מ-ChatGPT, מ-DeepSeek או ממערכת אחרת, נדרשת פעולת מחשוב כדי להפיק אותה.
ככל שמספר המשתמשים גדל וככל שהשאלות הופכות מורכבות יותר, עלויות ההפעלה גדלות. עבור חברות שמפעילות שירותי AI בהיקפים גדולים, מדובר בהוצאה משמעותית על שרתים, שבבים, חשמל וקירור. DeepSeek מנסה להקטין את ההוצאה הזאת באמצעות תוכנה שמנהלת את חלוקת העבודה בין המעבדים ומאפשרת להם לבצע יותר פעולות בפחות זמן.
הנתון הבולט ביותר שפרסמה החברה הוא שאשכול שרתים אחד שלה מסוגל לטפל בכ-155 טריליון טוקנים ביום. טוקן הוא יחידת מידע שמשמשת את מודלי השפה לעיבוד ולהפקה של טקסט. החברה גם מדווחת על הכנסה של כ-38 דולר לכל שעת פעילות של מעבד גרפי, לפי תעריפי השירות המוזלים שלה בשעות השפל. מדובר בהכנסה ולא ברווח, שכן הנתון אינו מביא בחשבון את מלוא עלויות הציוד, החשמל והתפעול. אלה נתונים שהחברה מפרסמת על פעילותה, ולא תוצאות שאומתו באופן עצמאי.
איך אפשר להפעיל יותר בינה מלאכותית עם אותם שבבים?
המערכת החדשה כוללת כמה שיטות לניצול יעיל יותר של משאבי המחשוב. אחת מהן היא חלוקה חכמה של העבודה בין מעבדים שונים, כדי שלא ייווצר מצב שבו חלק מהשבבים עמוסים ואחרים כמעט אינם עובדים.
שיטה נוספת מאפשרת למערכת לנחש מראש כמה מהיחידות הבאות בתשובה, ולבדוק אותן יחד במקום לייצר כל יחידה בנפרד. כך אפשר להאיץ את יצירת התשובות. לפי הבדיקות של DeepSeek, מנגנון האימות הדינמי שלה מפחית בכ-30% את מספר היחידות שצריך לבדוק בכל שלב, ובתנאי עומס אופייניים משפר את קצב העיבוד בכ-4%-7%. זהו שיפור של רכיב מסוים במערכת, ולא אומדן לחיסכון הכולל בעלויות התפעול.
DeepSeek משתמשת גם במנגנונים לשמירת חישובים קודמים, כך שכאשר משתמשים שולחים בקשות עם מידע שכבר עובד בעבר, לא תמיד צריך לבצע את כל החישוב מחדש. מדובר בטכנולוגיה משמעותית במיוחד במערכות AI שמנהלות שיחות ארוכות או מפעילות סוכנים אוטונומיים, שחוזרים שוב ושוב לאותו מידע.
לצד DeepInfer משחררת החברה גם רכיב נוסף בשם deepseek-recipe, שנועד לאפשר למפתחים להשתמש במודלים באופן שתואם לממשקי התכנות הרשמיים שלה. כך קל יותר להקים שירותי AI עצמאיים בלי להידרש לפתח מאפס את כל שכבת התוכנה.
- ביקש לתבוע 3.5 טריליון דולר מגוגל ו-OpenAI - אך לא לשלם אגרה
- הזולה בשוק מייקרת מחירים: מה מגלה מהלך המחירים של דיפסיק על העלות האמיתית של הבינה המלאכותית
עם זאת, יש מגבלות. הגרסה הציבורית של DeepInfer תומכת כרגע במודל DeepSeek-V4.1-Flash בלבד, וחלק מרכיבי התשתית של החברה, ובהם מערכת ניהול הזיכרון ואיזון העומסים בין שרתים, עדיין אינם כלולים בקוד הפתוח. לכן חברות שרוצות להפעיל שירות מסחרי גדול יצטרכו להשלים בעצמן חלק מהמערכת.
במילים אחרות, קוד פתוח אינו אומר שכל חברה יכולה להפעיל מיד שירות AI גדול ובעלות נמוכה. עדיין נדרשים חומרה מתאימה, כוח אדם הנדסי, רכיבי תוכנה משלימים והתאמה לסביבת העבודה של החברה. השאלה היא לא רק כמה יעילה DeepInfer בתנאים שבהם DeepSeek מפעילה אותה, אלא כמה מהיתרון הזה אפשר לשחזר אצל לקוחות אחרים.
מה המשמעות ל-NvidiaNVIDIA Corp. 0.47% ולענקיות הבינה המלאכותית?
אחד הפרטים המעניינים בהכרזה הוא ש-DeepInfer מותאמת גם למעבדים הגרפיים המתקדמים של NvidiaNVIDIA Corp. 0.47% וגם למאיצי הבינה המלאכותית Ascend 950 של Huawei הסינית.
המשמעות היא ש-DeepSeek ממשיכה לפתח מערכות שמסוגלות לפעול על חומרה סינית, כחלק מהמאמץ להפחית את התלות בטכנולוגיה אמריקאית. עבור Huawei מדובר בהזדמנות לחזק את מערכת התוכנה סביב השבבים שלה, תחום שבו Nvidia נהנית מיתרון משמעותי בזכות סביבת הפיתוח CUDA.
- שוק הדיור בארה”ב ממשיך להיחלש: התחלות הבנייה בשפל של ארבעה חודשים
- GE Aerospace מכה את התחזיות, מעלה תחזית - אז למה המניה נופלת?
מבחינת NvidiaNVIDIA Corp. 0.47% , הסיפור אינו בהכרח שלילי. תוכנה שמאפשרת להשתמש בשבבים בצורה יעילה יותר יכולה לצמצם את מספר השבבים הדרושים לביצוע אותה כמות עבודה, אבל היא גם עשויה להגדיל את הביקוש לשירותי AI אם המחירים יירדו והשימוש יתרחב. לכן קשה להסיק מהמהלך לבדו שהביקוש למעבדים גרפיים ייפגע.
גם עבור OpenAI, אנתרופיק וגוגל מדובר באתגר תחרותי. חברות הבינה המלאכותית משקיעות סכומי עתק בפיתוח מודלים ובהקמת מרכזי נתונים, והיכולת להפעיל את המערכות שלהן בעלות נמוכה היא חלק מהתחרות על הרווחיות. DeepSeek מציגה גישה שבה היא משתפת טכנולוגיות מתקדמות בקוד פתוח, ומאפשרת גם לחברות אחרות לנסות להשתמש בהן.
DeepSeek כבר הוכיחה בשנה שעברה שהשוק מגיב בעוצמה להתקדמות של מודלים סיניים זולים. בתחילת 2025 היא עוררה טלטלה במניות הטכנולוגיה לאחר שהציגה את מודל R1, שהמחיש כי ניתן להגיע לביצועים גבוהים גם באמצעות גישות חסכוניות יחסית. מאז היא ממשיכה לשחרר מודלים וכלי תוכנה שמטרתם להקטין את עלות השימוש בבינה מלאכותית.
הפעם החברה אינה מפרסמת שיעור חיסכון כולל שאפשר לייחס למערכת החדשה אצל לקוחות חיצוניים. השאלה היא כמה חברות יצליחו להטמיע את הטכנולוגיה, אילו התאמות יידרשו, והאם החיסכון בפועל יצדיק את ההשקעה. עבור מפעילי שירותי AI גדולים, אפילו שיפור של אחוזים בודדים בניצול כוח המחשוב עשוי להיות בעל משמעות כספית ניכרת.
ההכרזה לא מוכיחה שהביקוש לשבבי AI עומד לרדת או שהיתרון של NVIDIANVIDIA Corp. 0.47% נשחק. היא כן מדגישה שהמרוץ בתחום אינו מתנהל רק על עוצמת המודלים ועל מספר השבבים במרכזי הנתונים, אלא גם על היכולת להפיק מהם יותר. אם DeepSeek תצליח להפוך את השיפור הטכנולוגי לחיסכון מוכח אצל מפעילים נוספים, היא עשויה להגביר את הלחץ התחרותי על ספקיות התוכנה והתשתית האמריקאיות- ולהאיץ את המגמה להפיכת הבינה המלאכותית לזולה ונגישה יותר.
