מנכ"ל פאלו אלטו: "הסיכוי שה-AI ישמיד את האנושות קטן מאוד"

מנכ"ל פאלו אלטו פאלו אלטו 3.19%   , Palo Alto Networks -0.67%  , ניקש ארורה, נכנס לוויכוח שמסעיר בשבועות האחרונים את תעשיית הבינה המלאכותית - האם צריך להאט את קצב הפיתוח של המודלים המתקדמים. מבחינתו, התשובה די ברורה: גם אם חלק מהחברות ירצו להאט, הניסיון לתאם מהלך כזה בין התעשייה כולה פשוט אינו מציאותי.

"אני לא חושב שכולם יתאימו את הקצב שלהם", אמר ארורה בראיון לפודקאסט The Tech Download של CNBC. לדבריו, גם אם שחקנים מסוימים יסכימו להאט, אחרים ימשיכו לדחוף את גבולות הטכנולוגיה. לכן, לטענתו, עדיף שהחברות שנחשבות אחראיות יותר ימשיכו לפתח בחזית, תוך הקפדה על בדיקות ובטיחות.

הדברים מגיעים אחרי שורה של התבטאויות חריפות מצד בכירים וחוקרים בענף. חוקר באנתרופיק העריך לאחרונה כי קיימת הסתברות של 10% לכך שבינה מלאכותית תוכל "להרוג את כל בני האדם", בעוד חוקר אחר עזב את החברה בטענה שאנתרופיק ו-OpenAI אינן פועלות באחריות מספקת.

מנכ"ל אנתרופיק, דריו אמודיי, קרא בהמשך להאט את קצב השיפור ביכולות המודלים. גם מנכ"ל OpenAI סם אלטמן, אילון מאסק ודמיס הסביס מגוגל דיפמיינד הביעו תמיכה בצורך בגישה זהירה יותר.

ארורה מציג גישה אחרת. לדבריו, במקום לנסות לכפות האטה כוללת על התעשייה, האחריות צריכה ליפול על החברות שמפתחות את המודלים. "אל תשחררו מוצר אם אתם לא מאמינים שהוא בטוח, או אם אתם לא מרגישים בנוח להוציא אותו החוצה", אמר.

לדבריו, גם עצם הניסיון להגדיר ולמדוד "קצב" של פיתוח AI עלול להתברר כמסובך מאוד. חברות שונות עובדות על מודלים שונים, ברמות שונות ובמדינות שונות, ולכן קשה לראות כיצד ניתן יהיה לקבוע מנגנון מוסכם שיגדיר מתי חברה מפתחת מהר מדי.

"הסיכוי להכחדת האנושות קטן מאוד"

ארורה גם מסתייג מהתרחישים הקיצוניים יותר שמציגים חלק מאנשי הבטיחות בתעשייה. לדבריו, "מאוד לא סביר" שהסיכוי לכך שה-AI יביא להכחדת האנושות עומד על 10%.

"אני חושב שמדובר בהסתברות קטנה, קטנה מאוד", אמר. עם זאת, הוא לא מבטל את הסיכון לחלוטין ומדגיש כי על התעשייה לבנות מנגנוני הגנה, אבטחה ובקרות שיוודאו שהמודלים משמשים למטרות הנכונות.

העמדה הזו קרובה לזו שהציג לאחרונה מנכ"ל אנבידיה ג'נסן הואנג. גם הואנג טען כי האחריות המרכזית צריכה להיות על מפתחי המודלים עצמם, ולא בהכרח באמצעות רגולציה חדשה. מבחינתו, חברה צריכה לבדוק את המוצר שלה לעומק ואם הוא עדיין לא מוכן לשחרור - להמשיך לפתח ולבדוק אותו עד שיהיה בטוח מספיק.

• 11 ערוצי יוטיוב הפיצו נוזקות לגיימרים דרך מדריכים וצ׳יטים
• ניר צוק מגייס 245 מיליון דולר לפני שיש מוצר

גם שר האוצר האמריקאי סקוט בסנט הציג השבוע קו דומה, כשאמר כי מפתחי AI צריכים לקחת אחריות על המוצרים שלהם ולא לצפות מהממשל לספק להם הגנה משפטית רחבה מפני אחריות.

ומה לגבי סין?

נקודת מחלוקת נוספת היא האפשרות לתאם כללי בטיחות גלובליים, ובעיקר בין ארה"ב לסין. אמודיי הציע בין היתר לקדם תיאום בינלאומי סביב קצב הפיתוח של AI ושיתוף פעולה מסוים בין שתי המעצמות.

הדיון הזה אינו תיאורטי בלבד. ארה"ב וסין כבר דנו באפשרות להקים דיאלוג ייעודי בנושאי AI, כולל מנגנון התראה סביב אירועים הקשורים לביטחון הלאומי. אלא שבמקביל שתי המדינות מנהלות תחרות עמוקה על ההובלה בתחום, כאשר ארה"ב ממשיכה להגביל את הגישה הסינית לשבבים ולטכנולוגיות מתקדמות.

ארורה מטיל ספק ביכולת להגיע להסכמות כאלה בזמן הקרוב. לדבריו, עוד לפני שמנסים לתאם מדיניות מול סין, ארה"ב עצמה צריכה להחליט מה בדיוק היא רוצה.

"אני חושב שהשלב הראשון הוא שנגיע לאיזושהי הסכמה לגבי מה אנחנו בכלל רוצים, לפני שאנחנו מתחילים לדבר על איך מתאמים את זה עם מישהו אחר", אמר.

• אורקל יורדת 4%: הכריזה "כוח עליון" בפרויקט דאטה סנטר בניו מקסיקו
• ירידות בוול סטריט; מימושים בשבבים; אורקל מאבדת 4%

המחלוקת סביב האטת ה-AI הופכת בהדרגה לאחד הוויכוחים המרכזיים בתעשייה. בצד אחד נמצאים מי שסבורים שקצב הפיתוח כבר מהיר מדי ביחס ליכולת להבין ולשלוט בסיכונים, ובצד השני מנהלים כמו ארורה והואנג, שמעדיפים להמשיך בפיתוח ולהטיל את האחריות על החברות עצמן בכל הנוגע לבדיקות, אבטחה ושחרור המוצרים לשוק.