מנכ"ל פאלו אלטו: מחירי ה-AI חייבים לרדת כדי שהמהפכה תגיע לארגונים
ניקש ארורה מעריך כי עלות הטוקנים צריכה לרדת בכ-90% בתוך כשנתיים כדי לאפשר אימוץ רחב של בינה מלאכותית; לדבריו, המחירים הנוכחיים מקשים על חברות להרחיב את השימוש בטכנולוגיה
עלות השימוש בבינה מלאכותית הפכה לאחת מנקודות המחלוקת המרכזיות בקרב מנהלי חברות הטכנולוגיה. מנכ"ל פאלו אלטו נטוורקס Palo Alto Networks -3.67% , ניקש ארורה, מעריך כי המחירים הנוכחיים של טוקנים - יחידות החיוב שעליהן מבוססים מרבית מודלי הבינה המלאכותית - עדיין גבוהים מכדי לאפשר פריסה רחבה של הטכנולוגיה בארגונים. לדבריו, ירידה של עשרות אחוזים אינה מספיקה, ויש צורך בהוזלה משמעותית בהרבה כדי שהשימוש ב-AI יהפוך לכלכלי עבור רוב החברות.
ארורה התייחס לדבריו של מנכ"ל OpenAI, סם אלטמן, שהציג לאחרונה מודל חדש אשר משפר בכ-54% את יעילות השימוש בטוקנים במשימות כתיבת קוד באמצעות סוכני AI. לדבריו, מדובר בצעד בכיוון הנכון, אך כזה שאינו משנה את התמונה הכוללת מבחינת העלויות שעמן מתמודדים ארגונים.
להערכתו, כבר במהלך השנה הקרובה עלות הטוקנים צריכה לרדת לרמה של כחמישית מהמחיר הנוכחי, ובטווח של כשנתיים להגיע לירידה מצטברת של כ-90%. רק ברמות מחירים כאלה, לדבריו, ניתן יהיה לראות אימוץ רחב של יישומי בינה מלאכותית בארגונים גדולים.
הוויכוח סביב עלויות השימוש במודלים מתרחב בתקופה שבה יותר ויותר חברות מנסות להטמיע כלי AI בתהליכי העבודה שלהן. אף שהיכולות הטכנולוגיות ממשיכות להשתפר, עבור ארגונים רבים עלויות ההפעלה השוטפות הפכו למכשול משמעותי בדרך להרחבת השימוש.
ארגונים מחפשים חלופות זולות יותר
ארורה אינו היחיד שמעלה את הסוגיה. גם מנכ"ל פלנטיר Palantir -1.74% , אלכס קארפ, מתח לאחרונה ביקורת על מודל התמחור המבוסס על טוקנים שבו משתמשות חברות כמו OpenAI ואנתרופיק. לדבריו, מודל החיוב הנוכחי אינו מתאים לצורכי הארגונים, והציע כי מודלים פתוחים יותר עשויים להפוך לחלופה יעילה מבחינה כלכלית.
הדיון סביב מחירי הטוקנים כבר משפיע על החלטות עסקיות. חברות שונות בוחנות מעבר למודלים בעלי קוד פתוח או למודלים פתוחים חלקית, בהם גם כאלה שפותחו בסין, לאחר שהפער הטכנולוגי בינם לבין המודלים האמריקאיים הצטמצם בשנים האחרונות.
במקביל, חלק מהארגונים מגבילים את השימוש בכלי AI יקרים. לפי דיווחים, חברות כמו מיקרוסופט ואובר הטילו מגבלות על שימוש של עובדים בכלי כתיבת קוד מבוססי בינה מלאכותית, לאחר שהוצאות השימוש חרגו מהתקציבים שתוכננו.
העלויות יורדות, אבל החשבון הכולל ממשיך לגדול
הפרדוקס בענף הוא שלמרות שמחיר הטוקן הבודד ירד באופן משמעותי בשנים האחרונות, ההוצאה הכוללת של ארגונים על בינה מלאכותית ממשיכה לעלות. אחת הסיבות לכך היא המעבר ליישומים מבוססי סוכני AI, המבצעים רצפים ארוכים של קריאות למודלים ומגדילים משמעותית את היקף הצריכה. בפועל, ככל שהחברות מטמיעות מערכות מורכבות יותר, מספר הטוקנים הנצרך גדל במהירות גבוהה יותר מקצב הירידה במחירי היחידה. התוצאה היא שתקציבי ה-AI ממשיכים להתרחב, גם כאשר המודלים עצמם נעשים יעילים וזולים יותר.
לצד העלייה בהוצאות התפעול, גם ההשקעות בתשתיות ממשיכות לגדול. חברות הטכנולוגיה ממשיכות לגייס הון בהיקפים גדולים כדי לממן את הרחבת מרכזי הנתונים ואת רכישת החומרה הדרושה לעידן הבינה המלאכותית. בין היתר, SpaceX גייסה בחודש שעבר 25 מיליארד דולר באמצעות הנפקת אג"ח, ואמזון השלימה השבוע גיוס חוב בהיקף דומה.
- חברה של כטריליון שקל בדרך למדדי הדגל: פאלו אלטו תצורף באוגוסט לת"א 35 ו-125
- המנכ"ל העשיר ביותר בבורסה בת"א מרוויח יותר ממנכ"ל מיקרוסופט
לדברי ארורה, הביקוש לכוח מחשוב עדיין גבוה מאוד, ולכן השוק צפוי למצוא בהדרגה נקודת איזון בין הביקוש לבין העלויות. לדבריו, ככל שהמודלים יהפכו יעילים יותר, גם הוצאות הארגונים צפויות להתייצב.
