הואנג נגד אלטמן ואמודיי: "אם איבדתם שליטה ב-AI - סגרו את המעבדות"
מנכ"ל אנבידיה יוצא נגד הקריאות של בכירי OpenAI ואנתרופיק להאט את קצב הפיתוח, ודוחה את התחזיות על אסון קיומי מ-AI. עם זאת, הוא מציב קו חד: חברה שמפתחת מערכת שאינה מסוגלת להכיל ולשלוט בה צריכה לעצור את הפעילות. מאחורי הוויכוח נמצאים גם מאות מיליארדי דולרים - OpenAI ואנתרופיק הן בין הלקוחות החשובים ביותר של אנבידיה
ג'נסן הואנג, מנכ"ל אנבידיה, נכנס חזיתית לוויכוח שמפלג את צמרת תעשיית ה-AI. מצד אחד נמצאים סם אלטמן מ-OpenAI ודריו אמודיי מאנתרופיק, שמדברים בשבועות האחרונים על הצורך להאט בחלק מהמקרים את פיתוח המודלים המתקדמים ולחזק את מנגנוני הבטיחות. מהצד השני נמצא הואנג, שמאמין שהתעשייה צריכה להמשיך להתקדם במהירות.
אבל העמדה שלו רחוקה מ"פשוט תמשיכו לרוץ". הואנג מציב תנאי הרבה יותר חד: מוצר צריך להגיע לשוק רק כשהחברה שמפתחת אותו מסוגלת לשלוט בו. ואם חברה מגיעה למסקנה שהמודל שלה יכול לצאת מסביבת הבדיקה ולגרום נזק בלי יכולת לעצור אותו, מבחינתו המעבדה עצמה צריכה להיסגר.
בראיון לאזרא קליין מניו יורק טיימס הוא ניסח את זה בפשטות: מוצר שעדיין חסר שליטה נשאר במעבדה. אם מעבדת AI טוענת שהניסויים שלה כבר קשים להכלה, הפתרון מבחינתו הוא עצירה של אותה מעבדה, ולא האטה כוללת של התעשייה.
האמירה מגיעה בדיוק כש-OpenAI מתמודדת עם כמה תקריות שבהן סוכני AI שלה חרגו מסביבת האימון והגיעו למערכות חיצוניות. באחד המקרים סוכן הצליח להשתמש במערכת DNS כדי לעקוף את הבידוד שנועד להרחיק אותו מהאינטרנט. במקרים נוספים הגיעו סוכנים לאתרים ממשלתיים בארה"ב, לרבות אתרים הקשורים לרשות ניירות ערך, מפקד האוכלוסין ומשרד החינוך.
להרחבה: סוכני OpenAI יצאו מגבולות הניסוי והגיעו לאתרי ממשל בארה"ב
האירועים האלה הם בדיוק סוג הדוגמה שמחדדת את המחלוקת. אלטמן ואמודיי רואים בהם סיבה לתת יותר זמן לבדיקות, לבנות סטנדרטים משותפים וליצור מנגנוני פיקוח חיצוניים. הואנג רואה את האחריות קודם כל אצל החברה עצמה: אם המוצר עדיין מסוכן לשימוש, משאירים אותו בפנים עד שהוא בשל.
הוא גם דוחה בחריפות את התחזיות הקיצוניות יותר. חוקרים שעבדו באנתרופיק ובמעבדות אחרות דיברו לאחרונה על סיכוי משמעותי לכך שמערכות AI מתקדמות יהפכו למסוכנות מאוד כבר בשנים הקרובות. הואנג העריך שהסיכוי שה-AI יביא לסוף האנושות עד 2030 הוא אפס, וטען שחלק מהתחזיות האלה יוצרות פחד בלי בסיס מדעי מספיק.
הוויכוח הזה כבר חילק את צמרת התעשייה לשני מחנות. אמודיי ואלטמן מדברים על האטה במקומות שבהם מנגנוני ההגנה מתקשים לעמוד בקצב. הואנג ומארק צוקרברג דוחפים להמשך פיתוח מהיר, עם בדיקות והגנות תוך כדי התקדמות.
מאחורי הוויכוח הפילוסופי נמצא גם אינטרס עסקי עצום.
אנבידיה מוכרת את התשתית שעליה בנויים חלק גדול מהמודלים של OpenAI, אנתרופיק, גוגל, מטא וחברות נוספות. הואנג עצמו אמר לאחרונה שהחברה "מריצה כל מודל", והעריך שמכירות שבבי ה-AI שלה עשויות לצמוח בצורה חדה גם בשנה הבאה.
OpenAI ואנתרופיק הן לקוחות ענק של אנבידיה, ושתיהן שורפות כמויות עצומות של הון על מרכזי נתונים, שבבים וחשמל. ככל שהן בונות מודלים גדולים יותר ומפעילות יותר סוכנים, הביקוש למערכות אנבידיה גדל.
אנבידיה גם השקיעה עשרות מיליארדי דולרים ברחבי תעשיית ה-AI ובנתה קשרים עמוקים עם החברות שקונות ממנה שבבים. בחודשים האחרונים היא אף נכנסה עמוק יותר למימון התשתיות של OpenAI, מה שמחבר אותה עוד יותר לצמיחה של לקוחותיה.
לכן לקריאה להאט את המודלים המתקדמים יש מבחינת אנבידיה גם משמעות עסקית. האטה בפיתוח יכולה לדחות הזמנות של מרכזי נתונים ושבבים. המשך המרוץ מגדיל את הצורך במחשוב. הואנג מציג את עמדתו בעיקר כטענה הנדסית: בטיחות וחדשנות יכולות להתקדם יחד, והמוצר מגיע לשוק כשהוא בשל.
גם OpenAI ואנתרופיק מגיעות לדיון עם אינטרסים משלהן. שתיהן השקיעו הון עצום בפיתוח מודלים מובילים, ורגולציה שמקשה על כניסת שחקנים חדשים יכולה דווקא לחזק חברות גדולות שכבר מחזיקות כוח אדם, תשתיות ומיליארדי דולרים למימון בדיקות וציות.
אנתרופיק בנתה חלק גדול מהמותג שלה סביב בטיחות ושליטה במודלים, בעוד OpenAI מתמודדת עם מעבר מהיר ממודלים שעונים לשאלות לסוכנים שיכולים לגלוש, להריץ קוד ולבצע פעולות בעולם האמיתי.
זה גם השינוי שמסביר למה הוויכוח נהיה הרבה יותר חריף. צ'אט שנותן תשובה שגויה מייצר בעיה. סוכן שמקבל הרשאה למחשב, למערכת תשלומים או לשרת ויוצא לבצע משימה יכול לייצר נזק בפועל.
הואנג בעצם אומר לתעשייה: תמשיכו לרוץ, אבל האחריות נשארת אצלכם. מי שיודע לשלוט במוצר ממשיך קדימה. מי שמגיע למערכת שחורגת מהיכולת שלו להכיל אותה, מבחינתו כבר הגיע לגבול.
