חשבון ה-AI מגיע למיקרוסופט: עובד אחד צרך טוקנים בשווי 28 אלף דולר בחודש

המרוץ של מיקרוסופט להכניס בינה מלאכותית כמעט לכל תהליך עבודה מתחיל לקבל תג מחיר מוחשי. נתונים מתוך גיליון פנימי שבו עובדי החברה משתפים באופן וולונטרי מידע על שכר ותנאי העסקה מראים כי עובד אחד בחטיבת Customer and Partner Solutions דיווח על צריכת משאבי AI בשווי של כ-28 אלף דולר בתוך 28 ימים בלבד.

לא מדובר בהוצאה פרטית של העובד וגם לא בהכרח בחשבונית שמיקרוסופט שילמה בפועל בסכום הזה. הנתון משקף את השווי שמערכת פנימית מייחסת לצריכת כוח המחשוב והטוקנים שלו. גם המדגם מוגבל: מתוך כ-223 אלף עובדי מיקרוסופט בעולם, קרוב ל-600 עובדים בארה"ב השתתפו בגיליון וכ-350 מהם דיווחו על נתוני שימוש ב-AI.

למרות המגבלות, המספרים מספקים הצצה לכלכלה הפנימית של AI באחת החברות שמשקיעות בו יותר מכל חברה אחרת. החציון בקרב העובדים שדיווחו עמד על כ-300 דולר ל-28 ימים, אך הפערים בין החטיבות ובין עובדים באותה חטיבה היו גדולים.

ב-CoreAI, שנמצאת בלב פעילות הבינה המלאכותית וכלי הפיתוח של מיקרוסופט, החציון הגיע לכ-975 דולר לעובד. בחטיבת האבטחה הוא עמד על כ-526 דולר, ב-Microsoft AI על כ-490 דולר וב-Cloud and AI על כ-325 דולר. דווקא ב-Customer and Partner Solutions, שבה הופיע הנתון החריג של 28 אלף דולר, החציון הסתכם בכ-134 דולר בלבד.

גם בתוך החטיבות נמצאו משתמשים כבדים בהרבה מהממוצע. ב-CoreAI הופיעו דיווחים של עד כ-16 אלף דולר ל-28 ימים, ב-Cloud and AI עד כ-15 אלף דולר ובאבטחה עד כ-10,000 דולר. אי אפשר לקבוע מהנתונים אם החריגים נבעו מעומסי עבודה מיוחדים, הפעלת מספר גדול של סוכנים ומודלים או טעויות בדיווח.

המספרים מגיעים בזמן שמיקרוסופט מוציאה סכומים גדולים על הרחבת תשתיות ה-AI. החברה מתכננת השקעות כלכליות בהיקף שמתקרב ל-190 מיליארד דולר ב-2026, בעיקר בדאטה סנטרים, שרתים, שבבים ותשתיות ענן. ככל שהשימוש הפנימי גדל, שאלת העלות יורדת מרמת הדאטה סנטר אל רמת העובד והמשימה הבודדת.

300 דולר בחציון, 28 אלף דולר בקצה

במשך השנים האחרונות המסר לעובדי מיקרוסופט היה ברור: להשתמש יותר בבינה מלאכותית ולהכניס את Copilot וכלי ה-AI לתהליכי העבודה. כעת החברה עוברת לשלב שבו עצם השימוש כבר אינו מספיק.

מאז יולי פועלות חטיבות מיקרוסופט עם יעדי תקציב לצריכת טוקנים, ולעובדים ולמנהלים יש אפשרות לעקוב אחרי השימוש באמצעות לוחות בקרה פנימיים. ג'יי פאריק, שמנהל את CoreAI, הבהיר לעובדים כי המטרה אינה לצרוך כמה שיותר טוקנים אלא לייצר תוצאות בעלות ערך ללקוחות ולעסק.

מיקרוסופט גם שינתה את ברירת המחדל בחלק מכלי ה-AI הפנימיים למודל זול יותר. השינוי משתלב במהלך רחב יותר של החברה לצמצם את עלויות ההפעלה ולהשתמש במודלים שונים בהתאם לסוג המשימה. מיקרוסופט כבר החלה להעביר חלק מפעילות ה-AI באקסל ובאאוטלוק למודלים פנימיים, בין היתר כדי להפחית את התלות במודלים חיצוניים ולהוריד עלויות.

• האם בועת ה-AI עומדת להתפוצץ? מה אפשר ללמוד מהדוט-קום
• מיקרוסופט משקיעה מאות מיליארדים ב-AI - אבל המשקיעים עדיין לא רואים את התמונה המלאה

מאחורי המהלך נמצאת תופעה שקיבלה בתעשייה את הכינוי Tokenmaxxing. ברגע שארגון מודד שימוש ב-AI ומציג לעובדים כמה טוקנים הם צורכים, המדד עצמו עלול להפוך למטרה. עובד יכול להפעיל יותר סוכנים, לבצע משימות באמצעות מודל יקר יותר או להשתמש ב-AI גם במקרים שבהם התועלת מוגבלת, משום שצריכה גבוהה נתפסת כסימן לאימוץ מתקדם של הטכנולוגיה.

התופעה אינה ייחודית למיקרוסופט. גם בחברות טכנולוגיה אחרות נרשמו מקרים שבהם עובדים הגדילו שימוש בכלי AI על רקע יעדי אימוץ ולוחות דירוג פנימיים. הבעיה מוכרת מעולמות אחרים: כאשר ארגון הופך מדד ליעד, העובדים לומדים מהר מאוד כיצד לשפר את המספר, גם אם התוצאה העסקית אינה משתפרת באותו קצב.

הפער בין חציון של 300 דולר למקרים של יותר מ-10,000 דולר ממחיש למה צריכת טוקנים לבדה אינה מדד טוב לפריון. מהנדס שמוציא אלפי דולרים על סוכני AI ומקצר פרויקט של חודשים יכול להיות יעיל מאוד. עובד שמייצר אלפי שאילתות שאין להן השפעה על התוצר יכול להיות יקר גם אם הוא מוביל בטבלת השימוש.

אחרי אימוץ ה-AI מגיע חשבון הכדאיות

מיקרוסופט עוברת למעשה תהליך שמוכר היטב מעולם הענן. בשנים הראשונות של AWS, Azure ו-Google Cloud מפתחים קיבלו גישה כמעט חופשית למשאבי מחשוב. ככל שהחשבונות תפחו, חברות הקימו מערכות שמודדות כמה עולה כל שרת, צוות ואפליקציה ונוצר תחום שלם של ניהול עלויות ענן.

עכשיו אותו תהליך מגיע ל-AI. שאילתה אחת יכולה לעלות מעט, אך סוכן אוטונומי עשוי לבצע מאות קריאות למודל, להזין שוב ושוב הקשר ארוך ולהפעיל כלים נוספים. כאשר אלפי עובדים עושים זאת לאורך יום העבודה, צריכת הטוקנים הופכת לסעיף הוצאה משמעותי.

• JetZero: המטוס שנולד מחדש - ומביך את בואינג ואיירבוס
• סוני וורנר מסתערות על אנתרופיק: תביעת המיליארדים שמאיימת על קלוד

הבעיה מתחדדת כאשר הארגון משתמש כברירת מחדל במודל החזק והיקר ביותר. לא כל משימה דורשת את אותה רמת יכולת. סיכום מסמך, תיקון קוד פשוט או מיון מידע יכולים להתבצע לעיתים באמצעות מודל זול יותר, בעוד משימות מורכבות מצדיקות מודל מתקדם ואת עלותו הגבוהה.

לכן השאלה שמיקרוסופט מתחילה לשאול אינה כמה טוקנים עובד צרך, אלא מה התקבל בתמורה. הנתונים הפנימיים אינם מאפשרים לדעת אם העובד שהגיע ל-28 אלף דולר יצר לחברה ערך של 5,000 דולר, 50 אלף דולר או הרבה יותר.

וזה בדיוק המבחן שאליו נכנסים כעת ארגונים שמטמיעים AI בקנה מידה רחב. אם סוכן שעולה אלפי דולרים מחליף שבועות של עבודה אנושית, העלות יכולה להיות מוצדקת. אם הוא מבצע פעולות שאפשר היה להשלים בזול ובמהירות בדרך אחרת, השימוש הופך להוצאה שמגדילה את חשבון ה-AI בלי להגדיל בהתאם את הפריון.

עבור מיקרוסופט יש כאן גם ממד רחב יותר. החברה מוכרת לעולם את Copilot ואת Azure AI ומעודדת לקוחות להרחיב את השימוש בהם, בזמן שהיא עצמה לומדת כיצד לשלוט בעלויות שנוצרות כאשר בינה מלאכותית הופכת לכלי עבודה יומיומי של אלפי עובדים.