סוכן ה-AI התקשר בעסקה. האם אפשר להתנער ממנה?

סוכני בינה מלאכותית כבר אינם מסתפקים בכתיבת מיילים, סיכום מסמכים או המלצה על מוצר. הם מנהלים מו"מ, מגבשים תנאי עסקה ומתקשרים בה בשם בני אדם וחברות. השימוש הזה לא יישאר מוגבל לחברות גדולות ולמחלקות רכש. סוכני AI יוכלו לפעול בשם צרכנים, עסקים ומשקיעים במגוון רחב של עסקאות, מרכישות ושירותים ועד התקשרויות מורכבות יותר הכוללות מו"מ על תנאים מסחריים. סוכן אחד יוכל לנהל מו"מ מול סוכן אחר: כל אחד יפעל עבור האדם או הגוף שמאחוריו, והם יחליפו הצעות ויגבשו ביניהם את תנאי העסקה.

עקרון חופש החוזים, שעליו נשענים דיני החוזים, מבוסס במהותו על אוטונומיה אנושית, רצון חופשי, הבנה ושיקול דעת של אדם הבוחר אם להתקשר, עם מי ובאילו תנאים. אצל סוכן AI, לעומת זאת, "אוטונומיה" אינה מבטאת רצון או הבנה משפטיים, אלא יכולת לפעול להשגת מטרה שנקבעה ולקבל החלטות בדרך, ללא הוראה אנושית חדשה בכל שלב.

מכאן מתעוררת השאלה המשפטית: כיצד צריכים דיני החוזים להתייחס להתקשרות שנוצרה באמצעות סוכן AI שפעל ללא מעורבות אנושית בזמן אמת, ובעיקר מה קורה כאשר לאחר מכן האדם או החברה שמאחוריו מבקשים להתנער מן העסקה בטענה שאינם מחויבים בה.

פרשת Quoine, שנדונה בבית המשפט לערעורים של סינגפור, מתווה את הדרך לניתוח סוגייה זו. באותו מקרה נכרתו עסקאות בשוק המטבעות הקריפטוגרפיים באמצעות אלגוריתמים למסחר אוטומטי, במחיר שהיה גבוה באופן ניכר ממחיר השוק. הקונה, שגילה בדיעבד את תנאי העסקה, ביקש להשתחרר ממנה בטענה של טעות.

בית המשפט קבע, כי העובדה שהעסקאות נכרתו באמצעות אלגוריתמים אינה מונעת את קיומו של חוזה מחייב ודחה את טענת הטעות, שכן האלגוריתמים פעלו כפי שתוכנתו. בנוסף, בית המשפט בחן את ידיעתו של מתכנת האלגוריתם של המוכר וקבע, שלא הוכח כי האלגוריתם תוכנן מתוך ידיעה שהעסקה תוכל להתבצע רק בנסיבות של טעות או במטרה לנצל טעות כזו.

אלא שהאלגוריתמים שנדונו ב-Quoine היו דטרמיניסטיים, דרך הפעולה שלהם נקבעה בהתאם להוראות שניתנו מראש, הם לא ניהלו מו"מ, לא שקלו בעצמם אסטרטגיות ולא גיבשו תנאים חדשים. סוכני AI פועלים אחרת. בניגוד לאלגוריתם דטרמיניסטי, הם פועלים באופן הסתברותי, כשהמפעיל מגדיר מטרה ומגבלות, והסוכן בוחר כיצד להתקדם, אילו חלופות לבחון, איזו הצעה להעלות, כיצד להגיב להצעה נגדית ועל אילו תנאים להתפשר.

תפיסה מחמירה של הסיכון החוזי

החלטת ביהמ"ש בסינגפור מתווה את הדרך לניתוח המשפטי גם לגבי סוכני בינה מלאכותית ומלמדת, כי העובדה שההתקשרות החוזית מתבצעת באמצעות אלגוריתמים אוטונומיים, ללא מעורבות אנושית, אינה שוללת כשלעצמה קיומו של חוזה מחייב. המעבר מאלגוריתם דטרמיניסטי לסוכן AI משנה את הדרך שבה תנאי העסקה נוצרים, אך לא בהכרח את התוצאה המשפטית. אם קוד דטרמיניסטי יכול ליצור התקשרות מחייבת, אין בעצם העובדה שסוכן AI מפעיל שיקול דעת רחב יותר כדי לשלול את תוקפה של העסקה שגיבש.

מכאן נגזרת גם תפיסה מחמירה יחסית של הסיכון החוזי: מי שבוחר להשתמש במנגנון אוטונומי - נושא בסיכון שהתוצאה תהיה חריגה, כל עוד הסוכן פעל במסגרת שנקבעה לו. גישה זו מקבלת חיזוק גם בספרות העוסקת בסוכני בינה מלאכותית, ולפיה אין צורך ליצור עבורם משטר חוזי מיוחד. עצם העובדה שמערכת אוטונומית הגיעה לתוצאה בלתי צפויה, אינה מספיקה כדי לקבוע שלא נכרת חוזה או שיש לבטלו.

מי שפועל באמצעות סוכן AI מקבל מראש מידה של אי-ודאות באשר לתוצאה שאליה יגיע. זו אינה תקלה במערכת, אלא חלק מעצם הבחירה לפעול באמצעות סוכן אוטונומי. במובן הזה, האוטונומיה האנושית מתבטאת לא בהחלטה על כל פרט בעסקה, אלא בעצם הבחירה ברצון לפעול באמצעות סוכן ולהעניק לו מרחב פעולה.

• למה מניות הבנקים נופלות בגלל סוכן AI? החשש החדש של וול סטריט מ-Muse
• גולדמן זקס מסמן את מיקרוסופט כמניה המועדפת עליו בתחום ה-AI

אם עצם העובדה שהמפעיל לא צפה מראש את תוצאת ההתקשרות שהסוכן יצר עבורו הייתה מאפשרת לו להשתחרר ממנה, הוא היה יכול ליהנות מן העסקאות המוצלחות שיצר ולהתנער מן האחרות. תוצאה כזו תפגע בוודאות החוזית ובחיי המסחר, ותערער את היכולת להסתמך על התקשרויות שנעשות באמצעות מערכות אוטונומיות.

גם מערכת המשפט בסינגפור כבר מזהה את המעבר מאלגוריתמים דטרמיניסטיים לסוכנים אוטונומיים. על כן ציין השנה נשיא ביהמ"ש המסחרי הבינלאומי בעיר, שהפסיקה כבר הכירה באפשרות שהצעה וקיבול בין מערכות אוטונומיות ייצרו חוזה מחייב, וזה רק עניין של זמן עד שהפסיקה תידרש למקרה דומה שבו ההחלטה החוזית תתקבל באמצעות סוכן AI.

בעידן הסוכנים, מי שפועל באמצעותם עשוי להידרש לשאת גם בסיכון החוזי הכרוך בכך. נותר לראות כיצד בתי המשפט ידונו בסוגייה והאם יאמצו גם ביחס לסוכני AI את הדרך שהתווה בית המשפט בסינגפור.

ד"ר אמיר בושנסקי, מומחה לבינה מלאכותית, טכנולוגיות מתפרצות ורגולציה, משרד ד"ר גדעון פישר (צילום: ליאת מנדל)

• משה מור-יוסף מבקש מבג"ץ למנותו למנכ"ל החברה למתנ"סים
• ביהמ"ש: המשטרה משתמשת בצורה בלתי חוקית במצלמות של עיריית ת"א