פי 5 במחיר בשביל יתרון של כמה חודשים: האם מודלי ה-AI היקרים מתחילים לאבד כוח?
הפער בין מודלי הקצה של OpenAI ואנתרופיק לבין מודלים פתוחים וזולים מצטמצם במהירות, ובחלק מהמבחנים מדובר בפער של חודשים בודדים. כשמודל זול מגיע לרמה דומה בחמישית מהעלות, חברות מתחילות לשאול פחות מי הכי חכם ויותר כמה שווה לשלם עבור היתרון.
המרוץ בין OpenAI, אנתרופיק והחברות הסיניות מקבל משמעות כלכלית פשוטה יותר. המודל המתקדם בעולם עדיין מצליח במשימות מורכבות יותר, אבל הפער מול המתחרים הזולים נסגר במהירות. הערכות עדכניות מציבות את המרחק בין חזית המודלים הסגורים לבין המודלים הפתוחים המתקדמים סביב ארבעה עד חמישה חודשים בחלק מהמבחנים. יכולת שמופיעה היום בדגם יקר מגיעה בתוך זמן קצר לדגם שעולה הרבה פחות.
במבחנים שמעמידים מודלים מול משימות תוכנה מורכבות, מודלים סיניים פתוחים כבר מתקרבים לקלוד אופוס של אנתרופיק, בזמן שהעלות למשימה יכולה להגיע לכחמישית. במשימות ארוכות במיוחד, כאלה שמצריכות רצף פעולות שנמשך שעות, זיכרון ושליטה בכלים שונים, מודלי הקצה עדיין מחזיקים ביתרון משמעותי. אבל במשימות קצרות ובינוניות הפער מצטמצם.
עבור חברות, זו כבר שאלה של חשבון. ארגון שמעבד אלפי מסמכים ביום, מפעיל שירות לקוחות, כותב קוד, מסכם חוזים או מנתח בסיסי נתונים יכול לחסוך סכומים גדולים באמצעות חלוקת העבודה בין כמה מודלים. משימה פשוטה יחסית עוברת לדגם זול, ומשימה מורכבת יותר מגיעה לדגם היקר. ככל שהשימוש גדל, הפרש של כמה סנטים הופך למיליוני דולרים בשנה.
הפערים במחירים כבר גדולים מאוד. העלות למיליון טוקנים יכולה להשתנות ביותר מפי 20 בין מודלים שונים, ובתוך חודשים יכולת שנחשבה לרמת פרימיום עוברת למודלים זולים בהרבה. המשמעות היא שמחיר האינטליגנציה עצמה ממשיך לרדת בקצב מהיר.
השינוי הזה מתחיל לפגוע במודל העסקי של החברות המובילות. במשך השנתיים האחרונות השוק התרגל לשאול מי מוביל בטבלאות הביצועים. עכשיו השאלה משתנה: כמה שווה עוד שבריר של איכות. חברה שמפתחת תרופה, מערכת פיננסית או תוכנה קריטית עשויה לשלם הרבה יותר עבור מודל שמצליח במשימה שמתחרה זול מתקשה בה. לעומת זאת, סיכום חשבוניות, תיוג פניות שירות או כתיבת טיוטות בסיסיות הופכים לשוק שבו המחיר חשוב הרבה יותר.
המודלים הפתוחים מוסיפים יתרון נוסף: אפשר להפעיל אותם על תשתית שבשליטת הארגון. זה משמעותי לבנקים, לחברות ביטוח, לממשלות ולחברות ביטחוניות שמחזיקות מידע רגיש. מצד שני, הפעלה עצמית דורשת חומרה, צוות, תחזוקה ואבטחה, כך שמחיר הטוקן הוא חלק מהחשבון הכולל.
עבור OpenAI ואנתרופיק המשמעות רחבה. אם ארגונים יעבירו את רוב העבודה למודלים זולים וישמרו את הדגמים היקרים למשימות מורכבות, הערך יעבור בהדרגה לשכבות שמעל המודל: סוכנים, אינטגרציה למערכות ארגוניות, אבטחה, ניהול מידע, תמיכה ושירות.
גם אנבידיה יכולה ליהנות מהתהליך. מודלים זולים מורידים את מחיר המשימה, אבל ירידת המחיר מעודדת יותר שימוש. אם פעולה שעולה היום דולר תרד ל-20 סנט, חברות יוכלו לבצע הרבה יותר ממנה. הפעלה עצמית של מודלים פתוחים דורשת גם מאיצים ושרתים, כך שהוזלת המודל יכולה להגדיל דווקא את צריכת החישוב.
אחת האינדיקציות הבולטות מגיעה מזירות שמרכזות שימוש במאות מודלים. חלק גדול מהיקף הטוקנים כבר עובר דרך מודלים פתוחים, רבים מהם מסין, בזמן שרוב ההכנסות עדיין נשארות אצל המודלים הסגורים. זה הפער שמגדיר את השלב הבא בענף: המודלים הזולים זוכים בשימוש, והחברות המובילות מנסות לשמור אצלן את הכסף באמצעות יתרון זמני באיכות ומעטפת רחבה יותר.
