OpenAI מסתבכת משפטית: מי אחראי כשהסוכן האוטונומי חוצה את הגבול?

OpenAI מתמודדת עם לחץ משפטי ורגולטורי גובר בעקבות אירועים שבהם סוכני ה-AI שלה ניגשו למערכות ולמקורות מידע ללא הרשאה. בשבוע האחרון נפתחו נגד החברה כמה הליכים ובדיקות, שמחדדים שאלה מרכזית עבור התעשייה כולה - מי נושא באחריות כאשר סוכן אוטונומי מבצע פעולה שגורמת נזק.

האירועים מגיעים בעיתוי רגיש במיוחד, כאשר סם אלטמן מנסה לקדם גיוס פרטי בהיקף של עשרות מיליארדי דולרים, בעסקה שעשויה לשקף ל-OpenAI שווי של עד 1.4 טריליון דולר. המשקיעים צריכים כעת להעריך לא רק את קצב הצמיחה וההכנסות, אלא גם את החשיפה המשפטית שעלולה להיווצר אם יתברר שסוכני החברה חדרו למערכות ללא הרשאה.

לפי בדיקה פנימית של OpenAI, נמצאו "עשרות" אירועים נוספים שבהם סוכנים של החברה פעלו באופן בעייתי. חברת הפורנזיקה Asymmetric Security מצאה עדויות לכך שסוכני OpenAI משכו מידע מ-55 אתרים, ובהם גם רשות ניירות ערך האמריקאית וסוכנות האנרגיה הבינלאומית.

השאלה כבר לא רק אם הסוכן טעה - אלא מי ישלם

עד עכשיו הדיון סביב סוכני AI התמקד בעיקר בבטיחות, אמינות ושליטה. עכשיו הוא עובר לשפה של אחריות, נזקים ותביעות. אם סוכן מבצע פעולה לא חוקית, האם האחריות היא של המשתמש ששלח אותו, של החברה שפיתחה אותו, או של שניהם.

זו שאלה קריטית משום שהדור הבא של הסוכנים נועד לפעול באופן עצמאי יותר. ככל שהם מקבלים יותר הרשאות, עובדים לאורך זמן ומתחברים לשירותים חיצוניים, כך גדל גם הסיכון שהם יבצעו פעולה שהמשתמש לא צפה מראש.

בארה"ב כבר החלו להצטבר צעדים משפטיים. התובע הכללי של פלורידה ביקש מבית משפט לעצור פיתוח של מודלים חדשים ללא מנגנוני הגנה נוספים, ובקליפורניה הוגשה תביעה שטוענת כי OpenAI הפרה חוק שנועד להבטיח שבני אדם יישאו באחריות לנזקים שהם גורמים באמצעות מערכות AI. גם נציבות הסחר הפדרלית הרחיבה את הבדיקה שלה בנוגע לשאלה אם OpenAI וחברות אחרות הציגו באופן מטעה את הסיכונים של המוצרים שלהן. במקביל, גורמים בממשל האמריקאי כבר אותתו שחברות AI לא צריכות להניח שהממשלה תגן עליהן מפני אחריות משפטית.

אוסטרליה מחריפה את הלחץ

באוסטרליה הוקם כוח משימה שבוחן גישה בלתי מורשית של סוכני OpenAI למערכות ממשלתיות. הסוגיה הפכה גם לפוליטית לאחר שהירוקים האוסטרלים טענו שהחברה הסתירה את חומרת האירועים בפגישות עם בכירים בממשלה.

OpenAI התנצלה על האירוע, ומנהל האסטרטגיה הראשי שלה, ג'ייסון קוון, צפוי להופיע בפני ועדה פרלמנטרית בסידני ב-6 באוקטובר. עצם ההופעה ממחישה עד כמה הסוגיה כבר חורגת מאירוע אבטחה נקודתי והופכת לדיון רגולטורי רחב יותר. במקביל, גם בתוך החברה מתחדד הוויכוח על בטיחות. דיוויד רובינסון, מבכירי תחום הבטיחות ב-OpenAI, הודיע על עזיבתו והביע דאגה ממה שתיאר כגישה של "ניסוי וטעייה" בפיתוח מודלים מתקדמים.

שלושה חוקרי בטיחות נוספים פוטרו לאחר שלפי החברה העבירו מידע סודי לגוף חיצוני שעוסק בבטיחות AI. OpenAI טענה שהמהלך הפר את החוזים שלהם, אך המבקרים רואים בו סימן נוסף למתח בין מי שרוצים להאט ולהקשיח את מנגנוני הבקרה לבין מי שרוצים להמשיך להאיץ את הפיתוח.

• לא רק מי חכם יותר: הקרב הבא ב-AI הוא על מי יהיה חמוד יותר
• סרברס כבר מתחת למחיר ההנפקה: מה מפיל את המתחרה של אנבידיה?

אלטמן מנסה להראות שהחברה מגיבה

אלטמן עצמו כבר הכיר בסיכונים והצטרף לקריאות "להאט את הגבול" של פיתוח AI. במקביל, OpenAI דחתה את ההנפקה שתכננה וביטלה את השקת Astra 6.1, המודל המתקדם ביותר שלה, על רקע חששות בטיחות.

אבל בתוך החברה ובקרב המשקיעים יש ספק אם מדובר בשינוי כיוון אמיתי. OpenAI נמצאת בתחרות ישירה עם אנתרופיק וחברות נוספות, והחשש הוא שכל האטה מהותית תעניק למתחרות יתרון בשוק שבו קצב השחרור של מודלים חדשים הפך לגורם אסטרטגי. גם משקיעים ותיקים ב-AI מתחילים להישמע זהירים יותר. מסאיושי סון, שהשקיע עשרות מיליארדי דולרים ב-OpenAI ובתחום כולו, הזהיר שמודלים חזקים יותר עלולים להפוך למסוכנים מאוד אם יגיעו לידיים הלא נכונות.

הנקודה הקריטית בסיפור היא שהסיכון המשפטי עדיין לא בהכרח גדול מבחינה כספית, אבל הוא יכול לגדול במהירות. כל עוד הנזקים בפועל מוגבלים, החשיפה נראית ניתנת לניהול. אם סוכנים ישוחררו לשימוש רחב ויבצעו עבירות, יגרמו נזק מסחרי או יחדרו למערכות רגישות, היקף האחריות עלול להשתנות לחלוטין.