ה-AI כבר לא רק עונה - הוא מתחיל לפעול, ופה מתחיל הסיכון

השלב הבא של מהפכת ה-AI כבר כאן, והוא הרבה יותר משמעותי מעוד מודל שיודע לענות טוב יותר על שאלות. סוכן AI מקבל מטרה, בוחר איך להגיע אליה ומתחיל לבצע פעולות בעצמו. צ'אטבוט יכול לנסח מייל, ואדם מחליט אם לשלוח אותו. סוכן מקבל גישה למייל, בוחר נמען ושולח. צ'אטבוט יכול להציע מלון. סוכן יכול לחפש טיסה, לבחור חדר, להזין פרטים ולשלם. בעבודה הוא יכול לפתוח מערכת CRM, לעבור על לקוחות, להציע הנחות, לשלוח הצעות ולחזור למנהל עם תוצאות.

פה נמצא השינוי הגדול. ה-AI עובר ממישהו שמייעץ למישהו שמבצע.

כבר ראינו במקרה של OpenAI ו-Hugging Face מה קורה כשנותנים לסוכן מטרה וכלים. סוכנים שקיבלו משימות בסביבת סייבר מצאו דרכים להגיע רחוק יותר ממה שהמפעילים תכננו. הם ניצלו חולשות, השיגו הרשאות והריצו קוד. מבחינתם הם המשיכו לבצע את המשימה שקיבלו. וזה בדיוק הסיכון. אין צורך ב-AI עם "כוונות רעות". מספיק יעד שהוגדר בצורה רחבה מדי, הרשאות גדולות מדי ומערכת שמחפשת את הדרך היעילה ביותר להשיג את התוצאה.

תחשבו על מנהל מכירות שאומר לסוכן: תחזיר כמה שיותר לקוחות שעזבו. הסוכן יכול לשלוח הצעות ולהוריד מחירים. אבל עד כמה מותר לו להוריד? האם הוא רשאי להתחייב לחוזה? לתת אשראי? להבטיח שירות שהחברה מתקשה לספק? עכשיו תעבירו את אותו רעיון לכסף. סוכן יכול לשלם לספקים, להזיז כסף בין חשבונות או לבצע מסחר. לחברה יש חיסכון גדול בזמן ובכוח אדם, אבל טעות אחת גדולה יכולה למחוק את כל החיסכון הזה.

גם בעולם הקוד הסיפור דומה. AI כבר כותב חלק גדל והולך מהקוד בחברות. כל עוד מהנדס קורא את הקוד ומחליט מתי להעלות אותו לשרת, נשארת תחנת בדיקה אנושית. כאשר סוכן מקבל הרשאה לכתוב, לבדוק ולהעלות בעצמו, החברה מרוויחה מהירות ומקבלת במקביל סיכון אחר לגמרי.

פחות תשובות, יותר עבודה אמיתית

המעבר מצ'אטבוט לסוכן שמבצע משימות שלמות כבר מתחיל לשנות את הדרך שבה חברות עובדות. וזה כנראה גם המקום שבו נמצא הכסף הגדול של AI. פחות תשובות יפות, יותר עבודה אמיתית. עובד אחד יוכל להפעיל כמה סוכנים במקביל. אחד עובר על לקוחות, אחר מכין מצגת, שלישי מנתח חוזים ורביעי מחפש ספקים. בחלק מהמקצועות אדם אחד יוכל לעשות עבודה שבעבר דרשה צוות.

המשמעות לחברות התוכנה יכולה להיות גדולה אפילו יותר. במשך שנים הן מכרו מסכים, כפתורים ותהליכים. סוכן חכם צריך פחות מסכים. הוא יכול להיכנס לסיילספורס, סאפ או מערכת הנהלת חשבונות, לקחת את המידע ולבצע את הפעולה בעצמו.

התוכנה נשארת מאחור כתשתית, והסוכן הופך לממשק שהעובד רואה. לכן סיילספורס וחברות תוכנה אחרות משקיעות עכשיו סכומים גדולים בסוכני AI משלהן. הן רוצות להיות המקום שבו הסוכן עובד, במקום להפוך לתוכנה שנמצאת מאחור ומקבלת פחות תשומת לב.

מה קורה כשאלפי סוכנים פועלים יחד?

ויש עוד סיכון שמקבל הרבה פחות תשומת לב: מה קורה כאשר אלפי סוכנים מקבלים החלטות דומות באותו זמן. נניח שבנקים רבים משתמשים באותו מודל לניהול נזילות. אם המודל מזהה אירוע מסוים כסיכון ומחליט למכור את אותו נכס, כמה בנקים יכולים להתחיל לפעול יחד בתוך שניות. בשוק ההון זה יכול להפוך למכירה מהירה מאוד. בעולם התשלומים, אלפי סוכנים יכולים לדחות עסקאות או להזיז כסף באותו זמן.

פה גם מתחילה שאלת האחריות. סוכן העביר מיליון דולר לחשבון שגוי. מי משלם? החברה שהפעילה אותו, ספק המודל, הבנק שנתן את הגישה או המנהל שנתן את ההוראה?

• אדובי היכתה את התחזיות עם הכנסות של 6.76 מיליארד דולר; המניה נסחרת בתנודתיות במסחר המאוחר
• אורקל מכה את התחזיות עם הכנסות של 19.3 מיליארד דולר; המניה מזנקת בכ-7% במסחר המאוחר

הפתרון כנראה ייראה הרבה יותר כמו ניהול עובדים והרשאות ופחות כמו עוד מסך הגדרות. לכל סוכן יהיה תקציב, גבולות פעולה וזהות ברורה. פעולה קטנה יכולה לעבור אוטומטית. פעולה גדולה דורשת אישור אנושי. קריאת מיילים יכולה להיות חופשית, שליחת מייל מחייבת אישור. כתיבת קוד יכולה להתבצע לבד, העלאה למערכת הפעילה עוברת דרך אדם.

גם ניהול הסוכנים יכול להפוך לתעשייה

זו יכולה להפוך לתעשייה גדולה בפני עצמה. אבטחה לסוכנים, ניהול זהויות, הרשאות, תיעוד, ניטור וביטוח. ככל שה-AI מקבל יותר כוח לבצע פעולות, מישהו צריך לוודא שהוא נשאר בתוך הגבולות שהחברה קבעה.

במשך שלוש שנים הציבור התרגל ל-AI כי הוא ישב בתוך חלון וחיכה לשאלה. עכשיו הוא מתחיל לצאת מהחלון ולעשות דברים בעולם האמיתי. מבחינת הפריון העסקי, זו כנראה הקפיצה שחיכו לה. מבחינת הסיכון, זה גם הרגע שבו טעות של מודל מפסיקה להיות תשובה גרועה והופכת לפעולה.