צמרת ה-AI מתפצלת: צוקרברג והואנג יוצאים נגד הקריאה להאט את הפיתוח

הוויכוח על קצב ההתקדמות של הבינה המלאכותית מתחיל לחלק את צמרת התעשייה לשני מחנות. אחרי שמנכ"ל אנתרופיק דריו אמודיי קרא לחברות המובילות להאט את פיתוח המודלים המתקדמים, וקיבל תמיכה מסם אלטמן מ-OpenAI ומאילון מאסק, מגיעה עכשיו תגובת הנגד. מארק צוקרברג, מנכ"ל מטא, וג'נסן הואנג, מנכ"ל אנבידיה, דוחים את הרעיון של האטה מתואמת וטוענים שהחברות יכולות להמשיך להתקדם ובמקביל לטפל בסיכונים.

הדיון עצמו לא התחיל השבוע. כבר ביוני קראה אנתרופיק להאט ואף לשקול עצירה זמנית של פיתוח מודלים מתקדמים, אם יתברר שהם מתקרבים ליכולות שמעלות סיכונים חדשים. בסוף השבוע האחרון אמודיי החריף את המסר וקרא לתת למנגנוני הבטיחות זמן להדביק את קצב השיפור ביכולות. לאחר מכן הצטרף אלטמן לקריאה להאט את ה-AI, ומאסק הביע גם הוא תמיכה בכיוון.

כעת מתברר שההסכמה בצמרת התעשייה רחוקה מלהיות מלאה.

צוקרברג: כל חברה צריכה לדעת מתי לעצור

צוקרברג טוען שאין צורך בהסכמה בין חברות ה-AI על האטה משותפת. לדבריו, לכל מעבדה יש גם אחריות וגם תמריץ כלכלי לוודא שהמערכות שלה בטוחות ופועלות בהתאם לרצון המשתמשים. חברה שתשיק מערכת שאינה אמינה עלולה לאבד משתמשים ולהיחשף לאחריות משפטית, ולכן התחרות עצמה יוצרת לדבריו לחץ להשקיע בבטיחות.

הוא מביא כדוגמה את Muse, סוכן ה-AI האישי החדש של מטא. החברה עיכבה את השקתו במשך כמה חודשים כדי לבצע עבודת בטיחות נוספת, אך לא דרשה מהמתחרות להפסיק בינתיים את הפיתוח שלהן. מבחינת צוקרברג, זה המודל הנכון: כאשר חברה מזהה בעיה, היא צריכה להאט בעצמה עד שהיא משוכנעת שהמערכת מוכנה.

צוקרברג גם אינו דוחה את מנגנוני הבקרה שעליהם מדברים אמודיי ואלטמן. הוא תומך בשימוש במעריכים וביועצים עצמאיים לבדיקת מערכות AI, ואמר שמטא כבר משתמשת בגורמים כאלה בכמה תחומים. המחלוקת נמצאת בשלב הבא: האם ממצא בטיחותי צריך להשפיע על קצב העבודה של החברה שבנתה את המודל, או להוביל למנגנון מתואם שיחול גם על המתחרות.

הוא גם מציע כיוון שונה לגבי השימוש במשאבי המחשוב האדירים של חברות ה-AI. במקום להפנות את רובם למרוץ שבו מודלים מסייעים לפתח דורות חזקים עוד יותר של מודלים, צוקרברג טוען שהפניית חלק גדול מהמשאבים למוצרים שמשרתים אנשים היא כשלעצמה דרך לצמצם סיכונים. מטא, לדבריו, בחרה בגישה הזאת וחברות אחרות יכולות לעשות זאת גם כן.

לעמדתו של צוקרברג הצטרף ג'נסן הואנג. מנכ"ל אנבידיה אמר בכנס דרימפורס של סיילספורס שהצגת המהירות והבטיחות כשתי מטרות שסותרות זו את זו היא שגויה. לדבריו, אפשר לקדם את שתיהן במקביל, ואין צורך בחוקים או ברגולציה חדשים כדי לעשות זאת.

גם הואנג מטיל את האחריות קודם כל על החברות. אם חברה אינה משוכנעת שהמערכת שלה מוכנה או שהשוק יקבל אותה, עליה להמתין לפני ההשקה. אבל מכאן, מבחינתו, לא נובע שהתעשייה כולה צריכה להאט.

• מטא תשלם 17 מיליארד דולר בתביעות על התמכרות ילדים; המניה קופצת
• המניפסט של צוקרברג: 6,500 מילים, קרן של מיליארד דולר ועקיצה למתחרות

זו עמדה משמעותית במיוחד משום שאנבידיה נמצאת בלב התשתית שעליה מתנהל מרוץ ה-AI. השבבים ומערכות המחשוב שלה משמשים לאימון ולהפעלת חלק גדול מהמודלים המתקדמים בעולם, והמשך ההשקעות של חברות הטכנולוגיה במרכזי נתונים ובכוח מחשוב משפיע ישירות על הביקוש למוצריה.

מנגד, אמודיי מציג בעיה אחרת: מה יקרה כאשר חברה אחת תחליט להאט בגלל חשש בטיחותי, בזמן שהמתחרות שלה ממשיכות להתקדם?

למה הוויכוח מחריף דווקא עכשיו

עד לא מזמן חלק גדול מהדיון בבטיחות AI עסק בתרחישים עתידיים - מה יקרה אם מערכות יוכלו לבצע משימות מורכבות כמעט ללא פיקוח, לפעול לאורך זמן, לכתוב קוד ולהשתתף בעצמן בפיתוח הדור הבא של מערכות AI. אלא שחלק מהיכולות האלה כבר מתחילות להופיע במוצרים אמיתיים.

הדור החדש של המודלים אינו מסתפק בהפקת טקסט או תמונות. מערכות מבוססות סוכנים יכולות לעבוד בדפדפן, להשתמש בכלים, לכתוב ולהריץ קוד ולהתקדם לאורך משימה שמורכבת משלבים רבים. גם כלי פיתוח קיימים כבר משמשים במידה משמעותית בתהליך בניית מערכות AI חדשות.

ככל שהמודל מקבל יכולת לפעול באופן עצמאי יותר, גדלה החשיבות של השאלה מה קורה כאשר הוא טועה, עוקף מגבלה או מבצע פעולה שהמפתח לא צפה מראש. החשש החריף יותר שמעלים אמודיי ואחרים הוא מפני שיפור עצמי רקורסיבי - מצב שבו מערכות AI משתתפות בפיתוח מערכות AI חזקות יותר, ואלה בתורן מסייעות בפיתוח הדור הבא. היכולת הזאת עדיין לא הושגה במלואה, אבל השימוש במודלים בפיתוח תוכנה ובמחקר AI כבר הופך אותה משאלה תיאורטית בלבד לנושא שמעסיק את החברות עצמן.

• עובד אחד מדירה בוונקובר, חברה שנמכרה ב-575 מיליון דולר: כמה אנשים באמת צריך כדי לבנות עסק ענק?
• 160 עובדים, שווי של 1.5 מיליארד דולר ומחלקות של שני אנשים - כך AI משנה חברה שלמה

לכן המחלוקת אינה מסתכמת בוויכוח פילוסופי על עתיד הבינה המלאכותית. היא נוגעת להחלטות שמתקבלות עכשיו: כמה זמן לבדוק מודל לפני שמוציאים אותו לשוק, אילו יכולות מחייבות בדיקה נוספת, מי רשאי לבחון את המערכת לפני ההשקה ומה עושים כאשר מתגלה יכולת שלא הייתה צפויה.

האם אפשר לסמוך על החברות שיעצרו את עצמן?

זו נקודת המחלוקת המרכזית בין שני הצדדים. צוקרברג טוען שלחברות יש כמה מנגנונים שמונעים מהן לשחרר מערכת בעייתית: הן רוצות לשמור על אמון המשתמשים, הן חשופות לאחריות משפטית והן תלויות בכך שהמוצרים שלהן יעבדו היטב. חברה שתוציא מוצר שאנשים אינם סומכים עליו עלולה לשלם מחיר עסקי.

אמודיי מצביע על חולשה אפשרית במודל הזה. מעבדות ה-AI מתחרות על לקוחות, חוקרים, הון ומעמד טכנולוגי. אם חברה אחת תחליט שמסוכן מדי להמשיך להתקדם באותו קצב, בעוד יריבותיה ימשיכו, היא עלולה למצוא את עצמה מאחור.

מכאן נובעת הדרישה למנגנונים משותפים. אמודיי הציע מסגרת בת שלושה רבדים: בדיקה עצמאית בתוך החברות, סטנדרטים משותפים לתעשייה ושיתוף פעולה בין מדינות. המטרה היא ליצור מצב שבו חברה שמחליטה להאט מטעמי בטיחות לא תצטרך לחשוש שהיא היחידה שעושה זאת.

גם אלטמן עבר בימים האחרונים לעמדה פתוחה יותר כלפי תיאום. OpenAI מנהלת שיחות עם אנתרופיק וגוגל דיפמיינד בנושאי בטיחות, ולפי דיווחים בחברה מוכנים לבחון האטה של קצב הפיתוח לצד מעבדות נוספות.

גם אם החברות יסכימו שצריך לעצור בנקודה מסוימת, נשארת השאלה כיצד מגדירים אותה. מודל AI אינו מגיע עם מד שמראה מתי הוא עבר את גבול הסיכון. היכולות נבדקות באמצעות מבחנים שונים, וחלקן עשויות להתגלות רק בשלבים מאוחרים של הפיתוח.

זו אחת הסיבות לכך שאלטמן, אמודיי וגם צוקרברג מדברים על הערכה חיצונית. אם החברה שבנתה את המודל היא גם זו שמחליטה לבדה אם הוא בטוח, ההחלטה מתקבלת בתוך גוף שכבר השקיע סכומי כסף ומשאבי מחשוב עצומים בפיתוחו. מעריכים חיצוניים יכולים ליצור שכבת בדיקה נוספת שאינה תלויה לחלוטין בצוות שפיתח את המערכת.

אלא שגם כאן נשארת מחלוקת לגבי הסמכות. אפשר לתת לגוף חיצוני לבדוק מודל ולהגיש המלצות, ואפשר לקבוע מראש שתוצאה מסוימת תחייב את החברה לעכב פיתוח או השקה. אלה שני מנגנונים שונים מאוד.

הוויכוח מגיע גם לדיני התחרות. בארצות הברית עלתה השאלה האם חברות AI זקוקות להגנה מפני חוקי ההגבלים העסקיים כדי לתאם ביניהן בענייני בטיחות. יו"ר נציבות הסחר הפדרלית, אנדרו פרגוסון, הביע ספק בצורך בפטור כזה, בעוד OpenAI מסרה שהיא כבר עובדת עם יריבות בנושאי בטיחות בלי לדרוש פטור מהסוג הזה.

סין נמצאת ברקע

אי אפשר להפריד את הוויכוח מהתחרות הטכנולוגית בין ארצות הברית לסין. עבור הממשל האמריקאי, AI הוא תחום אסטרטגי שמשפיע על הכלכלה, הביטחון הלאומי והיכולת הטכנולוגית. לכן הצעה להאט את החברות האמריקאיות מובילה מיד לשאלה האם מפתחים במדינות אחרות יעשו את אותו הדבר.

זו אחת מנקודות החולשה של רעיון ההאטה המתואמת. הסכמה בין OpenAI, אנתרופיק, מטא וחברות אמריקאיות נוספות אינה כשלעצמה עוצרת את הפיתוח בסין. המתנגדים להגבלות רחבות טוענים שאם ארצות הברית תאט בזמן שסין תמשיך להתקדם, היא עלולה לוותר על יתרון טכנולוגי חשוב.

נשיא ארצות הברית דונלד טראמפ דחה את הקריאות להאטה והזהיר מפני מצב שבו החשש מ-AI יפעל לטובת המתחרות של ארצות הברית. הואנג הביע תמיכה בכיוון הזה וטען שאין צורך ברגולציה חדשה.

מנגד, תומכי מנגנוני הבטיחות טוענים שהתחרות היא בדיוק הסיבה שבגללה אי אפשר להסתפק בהבטחה שכל חברה תפעל באחריות. ככל שהפרס על הגעה ראשונה למערכת חזקה יותר גדל, כך גדל גם הקושי של חברה אחת להאט בזמן שהאחרות ממשיכות.

המנהלים שנמצאים בלב הוויכוח אינם עומדים באותו מקום בתעשייה. OpenAI ואנתרופיק מתחרות ישירות על פיתוח מודלים מתקדמים. כל דור חדש דורש כמויות עצומות של שבבים, חשמל והון, והיתרון הטכנולוגי משפיע על היכולת למשוך לקוחות, מפתחים ומשקיעים.

מטא מפתחת מודלים משלה ומשקיעה סכומי עתק בתשתיות AI, אבל חלק גדול מהעסק שלה עדיין נשען על פייסבוק, אינסטגרם ופרסום. היא גם נקטה לאורך השנים גישה פתוחה יותר להפצת חלק ממודלי ה-AI שלה לעומת OpenAI ואנתרופיק.

אנבידיה נמצאת במקום אחר בשרשרת. היא מוכרת את השבבים ומערכות המחשוב שמאפשרים לחברות האחרות לבנות ולאמן את המודלים. ככל שיותר חברות משקיעות במרכזי נתונים ובאימון מערכות גדולות, גדל הביקוש לתשתית שעליה מתנהל המרוץ.

האינטרסים העסקיים אינם קובעים כשלעצמם מדוע כל מנהל מחזיק בעמדה מסוימת, אבל ההשלכות של האטה אינן זהות עבור החברות. כלל שמגביל אימון של מודלים גדולים משפיע באופן שונה על חברה שבונה מודל, חברה שמפיצה מערכות למיליארדי משתמשים וחברה שמוכרת את התשתית שעליה המודלים מאומנים.

גם המשקיעים כבר מגיבים לוויכוח. הקריאות להאט את פיתוח ה-AI הכבידו השבוע על מניות השבבים: מדד השבבים של פילדלפיה ירד ביום שני ב-5.9%, כשאנבידיה, מיקרון, ברודקום ו-AMD היו בין המניות שנפגעו. החשש בשוק הוא שאם קריאות ההאטה יהפכו בפועל לדחיית השקעות, הדבר עלול להשפיע גם על הביקוש לשבבים ולמרכזי נתונים.

הוויכוח עובר מהסיכון לכללים

עד לפני כמה חודשים היה קל יותר לתאר את המחלוקת כוויכוח בין מי שמזהירים מפני סיכונים חריגים של AI לבין מי שסבורים שהחששות מוגזמים. ההתבטאויות של צוקרברג והואנג מראות שהחלוקה הזאת כבר פחות מדויקת.

שניהם אינם טוענים שאין צורך בבטיחות. צוקרברג מצביע בעצמו על החלטת מטא לעכב מוצר לצורך בדיקות נוספות ותומך במעריכים חיצוניים. הואנג אומר שחברות צריכות להמתין עם השקת מוצר עד שהן משוכנעות שהוא מוכן. מנגד, אמודיי ואלטמן אינם קוראים לעצירה מוחלטת של תעשיית ה-AI, אלא להאטת קצב ההתקדמות כאשר מנגנוני הבטיחות אינם עומדים בקצב.

לכן נקודת המחלוקת נעשית קונקרטית יותר. צוקרברג והואנג מעדיפים שההחלטה מתי להאט תישאר במידה רבה בידי כל חברה. אמודיי ואלטמן רואים צורך גם בסטנדרטים משותפים, בבדיקות חיצוניות ובתיאום רחב יותר כדי למנוע מצב שבו התחרות מקשה על חברה בודדת לעצור.

וזה מה שהופך את ההתפתחות הנוכחית לפרק הבא בוויכוח, ולא לחזרה על הקריאה להאט מהימים האחרונים. אחרי שהמחנה שקורא להאט התחיל לפרט כיצד ניתן לעשות זאת, מגיעה תגובת הנגד ומנסה להגדיר מודל אחר: להמשיך להתקדם, להשאיר את האחריות בעיקר אצל החברות ולבלום נקודתית כאשר מתגלה צורך.

שני הצדדים מסכימים שיש צורך בבלמים. המחלוקת שעומדת עכשיו במרכז התעשייה היא מי יחזיק בהם - ומי יחליט מתי הגיע הזמן להשתמש בהם.