ה-AI הזמין לכם חופשה שגויה - מי יחזיר את הכסף?
סוכן AI מבקש למצוא מלון במרכז רומא, בתקציב של 250 אירו ללילה, עם ארוחת בוקר ואפשרות ביטול. הסוכן משווה הצעות, בוחר חדר ומבצע את התשלום. אלא שהמלון נמצא עשרות קילומטרים מהמרכז ותנאי ההזמנה כוללים חיוב מלא במקרה של ביטול. בעולם שבו הסוכן כבר מחזיק הרשאה לבצע עסקה, הטעות הזאת הופכת מיד לשאלה כספית: המלון קיבל הזמנה, חברת האשראי אישרה עסקה והלקוח טוען שהמערכת חרגה מההנחיות.
מבחן חדש של ויזה ממחיש עד כמה הפער בין יכולת שיחה לבין ביצוע עסקה עדיין רחב. החברה בדקה 22 מודלים מ-12 מעבדות ב-15 תרחישי קנייה. שיעור ההצלחה הממוצע הגיע ל-57.2%, כך ש-42.8% מהניסיונות הסתיימו בכישלון. המודל המוביל הגיע ל-82.2% הצלחה, בעוד החלש ביותר הסתפק ב-28.9%. בכל משימה קיבל כל מודל שלושה ניסיונות, וב-34.2% מהמקרים בלבד הצליח המודל בכל שלוש הפעמים.
הנתון המטריד יותר נמצא בשלב הרכישה עצמה. ב-54% מהניסיונות שנכשלו, הסוכן עדיין ביצע קנייה. לעיתים הוא בחר מוצר שלא התאים לדרישות שהלקוח כבר הציג, ולעיתים התקדם לעסקה בלי לברר את מלוא התנאים. המחקר עסק בקניות של מוצרים כמו טלוויזיות, מחשבים ומכשירי טיפוח, ולא בהזמנות תיירות, ולכן שיעור הטעויות הזה מתאר מסחר מבוסס AI בכלל. ועדיין, בענף הנסיעות המשמעות הכלכלית עשויה להיות חריפה יותר, משום שהזמנה משלבת תאריך, יעד, שדה תעופה, מזוודות, סוג חדר, מספר נוסעים ומדיניות ביטול.
מיליארדים כבר מושקעים בסוכני AI לתיירות, אך היקף ההזמנות שמגיע דרכם עדיין קטן. בבוקינג, הפניות ממודלי שפה אחראיות כיום להרבה פחות מ-1% מלילות החדרים, ואקספדיה מדווחת על פעילות מצומצמת יחסית מערוצים כאלה. במקביל, איירבנב מפתחת סוכן נסיעות משלה שיוכל להזמין גם טיסות ורכב, כך שהמעבר מהמלצה לביצוע עסקה כבר נמצא בתוכניות העבודה של החברות הגדולות.
כשהסוכן משלם, האחריות הופכת למוצר בפני עצמו
חברות התשלומים כבר נערכות לסיטואציה שבה צריך להוכיח מה בדיוק הלקוח ביקש. מאסטרקארד הציגה השנה מנגנון בשם Verifiable Intent, שנועד לתעד את ההרשאה שהמשתמש נתן לסוכן ולוודא שהפעולה שבוצעה תואמת אותה. המערכת נועדה לשמור תיעוד של הכוונה, תנאי העסקה והיקף הסמכות שניתן לסוכן. בכך היא יוצרת בסיס עתידי לטיפול במחלוקות על עסקה שהתבצעה בצורה שונה מהבקשה המקורית.
גם הרגולציה האירופית מספקת כיוון אפשרי. כללי חבילות הנופש באיחוד מטילים אחריות על גורם שמארגן הזמנה בגין שגיאות במערכת ההזמנה או בתהליך עצמו, כאשר הטעות מיוחסת אליו. התיקון שנכנס למסגרת האירופית ב-2026 משמר את העיקרון הזה ומאפשר לגורם ששילם פיצוי לחזור לצד שלישי שתרם לאירוע. בעולם של סוכני AI, השאלה תהיה האם חברת הטכנולוגיה שמפעילה את הסוכן תיחשב גורם כזה, ובאיזה שלב האחריות עוברת ממנה לספק התיירות או לצרכן.
חברות התעופה מצדן כבר מציבות גבולות. יונייטד החליטה לחסום סוכני AI חיצוניים מהשלמת הזמנות ומגישה לחשבונות לקוחות, בעוד דלתא מפעילה מגבלות דומות. עבורן, הסוגיה כוללת שליטה בקשר עם הלקוח, אבטחה, נאמנות והכנסות משירותים נלווים.
הפתרון הסביר שמתפתח בענף מבוסס על הרשאות צרות: תקציב מוגדר, יעד, תאריכים, סוג מוצר ותנאים שהסוכן רשאי לקבל. עסקה שחורגת מהמסגרת תדרוש אישור נוסף. ככל שסוכני AI יקבלו סמכות רחבה יותר להוציא כסף, האחריות הכלכלית על שגיאה תהפוך לחלק מרכזי במוצר עצמו. מי שיבקש מהמערכת להזמין חדר, טיסה או חופשה שלמה ירצה לדעת גם מי משלם כשהסוכן בוחר את החדר, העיר או התאריך השגויים.
