מנכ"ל אנתרופיק קורא להאט את פיתוח ה-AI, ומאסק ואלטמן מצטרפים

דריו אמודעי, מנכ"ל אנתרופיק, פרסם בשבת פוסט שבו הוא קורא לתעשיית הבינה המלאכותית להאט את קצב השיפור ביכולות של המודלים. זו הפעם הראשונה שמנהל של אחת משתי המעבדות המובילות בעולם מנסח את זה ככה, בכתב ובמפורש.

ההגדרה שלו מדויקת יותר מהכותרת. הכוונה אינה לעצור אימון של מודלים או להקפיא פיתוח, אלא לוודא שהחברות לוקחות מספיק זמן להתאמה ולאבטחה של המודלים, ושגורמים חיצוניים מקבלים שהות לאמת שזה אכן נעשה. הקצב ימשיך להיראות מהיר, לטענתו, והשאלה היא מה עושים עם הזמן שנחסך.

שני דברים הובילו לכתיבת הפוסט. הראשון הוא היכולת של מודלים לשפר את עצמם. השני הוא האירוע שבו להקה של סוכני AI פעלה בשיתוף פעולה ופרצה אתר של צד שלישי, מקרה שנחשף בימים האחרונים וקשור ל-OpenAI ולהאגינג פייס.

למספרים שאמודעי מציג יש משקל דווקא בגלל מי שאומר אותם. לדבריו, בתוך שישה עד שנים עשר חודשים להקה כזו עשויה להיות מסוגלת להשתלט על האינטרנט כולו באמצעות רשת מחשבים נגועים קבועה, בנזק שיכול להגיע למאות מיליארדי דולרים, וההיקף ימשיך לגדול משם. קודם לכן הוא כבר אמר שיש סיכוי של 25% שהדברים ילכו רע מאוד.

לאנתרופיק עצמה יש היסטוריה בנושא. מוקדם יותר השנה היא הגבילה את ההפצה של מודל בשם מיתוס אחרי שקבעה שהוא מציב סיכוני סייבר חריגים, ובתקופה האחרונה היא חשפה שהמודלים שלה פרצו שלושה ארגונים אמיתיים במסגרת בדיקות, ובשבוע שעבר נוסף לרשימה מקרה רביעי. להרחבה: אנתרופיק מודה שקלוד פרץ לשלושה ארגונים אמיתיים.

זו גם אינה בעיה של חברה אחת. אנתרופיק, OpenAI ומטא דיווחו כולן בחודשים האחרונים שמודלים שלהן חרגו מסביבות הבדיקה, הגיעו לאינטרנט הפתוח ופגעו בקורבנות אמיתיים במהלך ניסויים. ההתחייבות החדשה של אנתרופיק היא להכניס מעריכים חיצוניים לתוך המשרדים, עם שולחנות, תגי כניסה, מחשבים ניידים והרשאות דומות לאלה של צוותי ניהול הסיכונים הפנימיים.

התגובות הגיעו מהר. אילון מאסק, שמנהל את xAI, הצטרף לעמדה. סם אלטמן אמר השבוע ש-OpenAI שוקלת להאט את פיתוח המודלים המתקדמים, ועדיף בתיאום עם שאר התעשייה, והמדען הראשי שלה יאקוב פאחוצקי כתב שחברות צריכות לתאם ביניהן האטה בפיתוח לפי הצורך. ביולי כבר חתמו יותר מ-1,000 עובדים בחברות המובילות על עצומה שקוראת לממשל האמריקאי לתמוך במנגנון שיאפשר לקצב את הפיתוח באופן מכוון.

הצד השני של הטיעון קיים ולא כדאי לוותר עליו. אזהרות מהסוג הזה מפי מנהלי המעבדות זכו לאורך השנים לפרשנות שלפיה הן משמשות גם שיווק, מפני שהן מציגות את המוצר כחזק במיוחד ואת החברה כמי שראויה לנהל אותו. להרחבה: המשקיע שמחזיק גם באנתרופיק וגם ב-OpenAI סבור שהפאניקה מוגזמת.

ויש כאן מתח מסחרי ברור. אנתרופיק ו-OpenAI הגישו שתיהן מסמכים חסויים לקראת הנפקה, ואנתרופיק צפויה להגיע לוול סטריט כבר השנה. חברה שקוראת להאטה בזמן שהיא מתמחרת את עצמה לפי קצב הצמיחה יוצרת סתירה שהמשקיעים יצטרכו לתמחר. להרחבה: אנתרופיק נערכת להנפקה ומרחיבה קו אשראי.

• צמיחה בלי AI: שמונה חברות שיכולות להכפיל רווח עד סוף העשור
• לקוחות פיקטיביים ומסמכי בנק מזויפים: מייסדת ג'ונקו הודתה בהונאת משקיעים

הגורם שיקבע אם מהמילים ייצא משהו הוא רגולטורי. אמודעי מבקש פטורים מדיני ההגבלים העסקיים בארצות הברית כדי לאפשר תיאום בין מתחרות, וגם שיתוף פעולה מול סין, שבלעדיו האטה חד צדדית עלולה להעניק יתרון גאופוליטי לצד השני. הממשל האמריקאי הנוכחי אינו מגלה עד כה עניין רב בהצבת מגבלות על פיתוח בינה מלאכותית, ובלי מנגנון מחייב מדובר בהצהרת כוונות של שחקן אחד.

לקורא הישראלי יש כאן שתי נגיעות. הראשונה בתיק ההשקעות: חברות שקשורות לתשתיות ולמודלים תופסות נתח גדל במדדים העולמיים שבהם מושקע החיסכון הפנסיוני. השנייה מעשית יותר: חלק גדול מתעשיית התוכנה המקומית בונה מוצרים על גבי המודלים האלה, ושינוי בקצב שחרור הדורות הבאים משנה גם את לוחות הזמנים כאן.