סוכני ה-AI כבר כאן, ועכשיו מתברר מי ישלם על כוח המחשוב שלהם

סוכן AI שמזמין מסעדה, משווה מחירים או ממלא טופס צורך הרבה יותר כוח מחשוב מצ'טבוט שעונה על שאלה. החברות שהשיקו בחודשים האחרונים עוזרים כאלה לקהל הרחב מגלות שהחשבון גבוה מהצפוי, ומתחילות להעביר אותו למשתמשים.

מטא (META) השיקה בספטמבר את Muse, סוכן אישי שזמין בשלב זה בארה"ב ובקנדה. החברה מציעה מסלול חינמי עם מכסת שימוש, לצד מסלולים בתשלום של 20 ו-100 דולר בחודש, ולדבריה יותר מ-10 מיליון איש הגדירו את הסוכן בתוך כשישה שבועות מההשקה. אמזון (AMZN) חסמה את הסוכן מלבצע קניות באתר שלה, צעד שממחיש עד כמה הקמעונאיות חוששות לאבד את הקשר הישיר עם הלקוח.

כשלושה שבועות אחר כך הציגה OpenAI את Dots, סוכנים שכל אחד מהם מקבל מחשב משלו בענן ועובד עליו כמו עובד אנושי. הסוכנים זמינים אך ורק במסלול Pro, שעולה 100 דולר בחודש, ובמסלולים העסקיים המקבילים. לפי חישוב ביזפורטל, מחיר הכניסה ל-Dots גבוה פי חמישה מהמסלול הבסיסי בתשלום של מטא, כ-1,200 דולר בשנה לעומת 240 דולר. ל-ChatGPT יש כ-1.2 מיליארד משתמשים, אבל הסוכנים שמורים לשכבה דקה מתוכם.

במקביל, OpenAI מנתבת חלק מהמשימות למודל קטן וחסכוני יותר, GPT-6.1 Terra, כדי להפחית את צריכת המחשוב. מודל קטן עולה פחות לכל פעולה, ומאפשר לחברה לשמור על המחיר גם כשמספר המשימות גדל.

גם ספייס אקס (SPCX) נתקלה באותה בעיה. אילון מאסק כתב שעלות ההפעלה של Grok Bot, העוזר האישי שהחברה השיקה באוגוסט, גבוהה ברמה שאינה ברת קיימא ביחס להכנסות, ורמז שהקצאת כוח המחשוב לשירות צומצמה. משתמשים דיווחו שהמכסה השבועית שלהם נגמרת מהר מהרגיל. אנת'רופיק, שהגישה טיוטת תשקיף לקראת הנפקה, דיווחה על התחייבויות רכש של כ-895 מיליארד דולר, כמעט כולן למחשוב ולתשתיות, ועדיין מונה מחסור בכוח מחשוב בין גורמי הסיכון המרכזיים שלה.

הבעיה נובעת מאופי העבודה של הסוכן. צ'טבוט מפיק תשובה אחת ומסיים. סוכן פותח דפדפן, קורא עמודים, מנסה, טועה ומתקן, ולכל צעד כזה נדרשת קריאה נוספת למודל. משימה פשוטה לכאורה, כמו הזמנת שולחן, עשויה לכלול עשרות צעדים כאלה, וכל אחד מהם רץ על אותם שבבים יקרים שעליהם מתחרות כל חברות ה-AI.

לכן ההכרעה העסקית מתחלקת לשלוש דרכים: לגבות מנוי יקר, להגביל את מספר המשימות, או להעביר את העבודה למודלים זולים יותר. מטא בחרה בשילוב של מסלול חינמי ומכסה, OpenAI בחרה במנוי פרימיום ובמודל קטן, וספייס אקס מצמצמת את המשאבים. כל עוד הביקוש לשבבים עולה על ההיצע, המחיר שמשלם המשתמש על סוכן אישי צפוי להישאר גבוה ממחיר הצ'טבוט.

להרחבה: מנכ"ל קוהיר: נאבקים כל יום על כוח מחשוב, אין עודף בנייה ב-AI

להרחבה: פלוראי מגייסת 13 מיליון דולר: רוצה להפוך את סוכני ה-AI לאמינים וזולים יותר

• בינה מלאכותית הוכיחה שתורת יאנג-מילס קיימת: ועדת פיזיקאים אישרה את ההוכחה של OpenAI
• יונייטד חוסמת סוכני AI מהזמנת טיסות, ומניית אקספדיה עלתה 3%

להרחבה: OpenAI הכניסה 10 מיליארד דולר ברבעון, וחצי מהכסף הגיע מעסקים