מנכ"ל Zscaler נגד אלטמן: אי אפשר לבקש מהציבור פשוט לקבל את נזקי ה-AI

הוויכוח סביב האחריות לנזקי הבינה המלאכותית מקבל כעת חזית ישירה בין בכירי התעשייה. ג'יי צ'אודרי, מייסד ומנכ"ל Zscaler Zscaler 2.61%  , דוחה את הגישה של סם אלטמן שלפיה הציבור יצטרך לקבל גם השלכות שליליות מסוימות בתמורה ליתרונות של הטכנולוגיה.

אלטמן אמר בראיון לפוליטיקו כי העולם צריך להיות מוכן לקבל "כמה דברים רעים" שיקרו לצד התועלת שמביאה הבינה המלאכותית. מבחינתו, לצד הסיכונים יש חשיבות גם ליכולת של אנשים להשתמש בטכנולוגיה ולשמור על חופש פעולה. צ'אודרי מציג קו שונה. לדבריו, לא נכון לקבל מראש את הנזקים כתוצאה בלתי נמנעת של החדשנות, והאחריות צריכה להתחלק בין החברות שמפתחות את המודלים לבין הארגונים שמטמיעים אותם.

האחריות מתחלקת בין המפתחים לארגונים

ג'יי צ'אודרי טוען כי חברות ה-AI צריכות לשפר את המודלים ולהפחית את הסיכון להתנהגות לא צפויה, בעוד הארגונים עצמם צריכים להוסיף שכבות הגנה, מדיניות והרשאות ברורות סביב השימוש במערכות. זו גם בדיוק הנקודה שבה Zscaler מנסה למצב את עצמה. חברת הסייבר, ששווייה עומד על כ-33.9 מיליארד דולר, מפתחת פתרונות שנועדו להגן על ארגונים גם מפני סוכני AI שפועלים באופן חריג או מקבלים גישה רחבה מדי למערכות רגישות.

המעבר ממודלים שמייצרים טקסט לסוכנים שמסוגלים לבצע פעולות בפועל משנה את רמת הסיכון. מערכת שמקבלת הרשאות לדואר אלקטרוני, מסדי נתונים, מערכות ארגוניות או מידע רגיש יכולה לייצר נזק גדול יותר אם היא פועלת באופן לא צפוי.

הטענה של צ'אודרי היא שהפתרון אינו לעצור את הטכנולוגיה, אלא לבנות סביבת שימוש שמניחה מראש שיהיו תקלות ויודעת להגביל אותן. מבחינתו, החדשנות והבטיחות אינן חייבות לעמוד זו מול זו.

התעשייה מנסה להציג חזית אחידה

הדיון מגיע אחרי שבוע שבו בכירי תעשיית הטכנולוגיה התכנסו בבית הלבן וחתמו על מסגרת וולונטרית של תקני בטיחות ל-AI. במפגש השתתפו בין היתר אילון מאסק, מארק צוקרברג, דריו אמודיי, ג'נסן הואנג, גרג ברוקמן וסונדאר פיצ'אי. הנשיא דונלד טראמפ תיאר את הסטנדרטים החדשים כמעט כמעין "חוקה" עבור התחום.

מאחורי התמונה המאוחדת, המחלוקות עדיין עמוקות. אמודיי ממשיך להזהיר בפומבי מסיכונים משמעותיים של מערכות AI מתקדמות, בעוד בכירים אחרים בתעשייה טוענים שהשיח סביב הסיכון לעיתים רחב מדי ומקשה לנהל דיון מעשי. לפי דיווחים, כמה מנהלים אף פנו לאמודיי במהלך המפגש ושאלו מדוע הוא מציג את הסיכונים בצורה כה חריפה. הביקורת כלפיו אינה נוגעת לעצם קיומם של הסיכונים, אלא לאופן שבו הם מוצגים לציבור ולרגולטורים.