מנכ"ל אנתרופיק קרא להאט את מרוץ ה-AI - אבל חושש שסין לא תצטרף
דריו אמודיי הציע להגביל את קצב ההתקדמות של מודלי הבינה המלאכותית המתקדמים, אך הודה כי התמריץ הצבאי והכלכלי להמשיך במרוץ עלול להקשות על הסכמה בינלאומית. ההצעה זכתה לתמיכה מצד סם אלטמן, דמיס האסביס ואילון מאסק, בזמן שגם בייג'ינג מאותתת על רצון לעצב מסגרת
גלובלית בתחום
מנכ"ל אנתרופיק, דריו אמודיי, מנסה לקדם רעיון שעד לא מזמן היה נשמע כמעט מנוגד להיגיון של תעשיית הבינה המלאכותית: להאט באופן יזום את קצב השיפור של המודלים המתקדמים ביותר. לדבריו, הקושי הגדול ביותר אינו טכנולוגי אלא גיאופוליטי - מה יקרה אם ארה"ב ובעלות בריתה יגבילו את עצמן, בעוד סין תמשיך להתקדם ללא מגבלות דומות. בריאיון אמר אמודיי כי בטווח הארוך נדרש שיתוף פעולה שיקבע מעין "הגבלת מהירות" להתקדמות ה-AI. הוא הודה כי מדובר במהלך קשה במיוחד, משום שהיתרון הכלכלי והצבאי שמעניקה הובלה בתחום יוצר תמריץ חזק לכל מדינה לנסות ולהקדים את מתחרותיה.
שלושה שלבים להאטת המרוץ
הדברים מגיעים אחרי שאמודיי פרסם מאמר שבו הציע תוכנית בת שלושה שלבים להאטת פיתוח היכולות המתקדמות, מבלי לוותר לדבריו על היתרון המסחרי של החברות האמריקאיות או על ההובלה של ארה"ב בתחום. השלב הראשון מתמקד בפיקוח חיצוני. אנתרופיק כבר התחייבה, לפי אמודיי, להעניק לגורמי הערכה חיצוניים גישה ברמה דומה לזו של עובדים בחברה, כדי שיוכלו לבחון את נוהלי הבטיחות ולדווח על תקריות.
השלב השני אמור להתבסס על תיאום בין החברות המובילות במדינות דמוקרטיות, במטרה לגבש סטנדרטים משותפים לבטיחות. השלב השלישי מרחיב את הרעיון לרמה הבין-מדינתית וקורא לתיאום גם בין ממשלות דמוקרטיות לבין ממשלות אוטוריטריות.
החשש מסין במרכז
הבעיה המרכזית מבחינת אמודיי היא שהסכמה אמריקאית או מערבית בלבד על האטה עלולה ליצור יתרון ליריבים. בחודשים האחרונים הצליחו חברות AI סיניות לצמצם חלק מהפער מול המודלים המובילים של OpenAI ואנתרופיק, התפתחות שמגבירה את הלחץ בוושינגטון ובסיליקון ואלי.
במקביל, נשיא סין שי ג'ינפינג קרא להקמת מסגרת גלובלית לממשל AI המבוססת על הסכמה רחבה, והודיע כי סין תפעל להקמת קהילת קוד פתוח בתחום במסגרת מדינות BRICS. המסרים מבייג'ינג מגיעים לקראת פגישתו המתוכננת של שי עם נשיא ארה"ב דונלד טראמפ בבית הלבן ב-24 בספטמבר, שבה צפוי נושא הבינה המלאכותית לעלות לדיון.
הקריאה של אמודיי הגיעה בזמן שבו שאלת הבטיחות הופכת למוקד עימות בתוך החברות עצמן. חוקר באנתרופיק, ג'ייקוב קוקסון, הודיע לאחרונה על עזיבתו וטען כי אנתרופיק ו-OpenAI נוטלות סיכונים גדולים מדי עם טכנולוגיות שעלולות לגרום לנזק קטסטרופלי. במקביל גוברת גם הביקורת הציבורית והפוליטית על התעשייה, בין היתר סביב הקמת מרכזי נתונים, צריכת אנרגיה והצורך ברגולציה. הלחץ מגיע בזמן שבו אנתרופיק ו-OpenAI נערכות לאפשרות של הנפקות עתידיות בהיקפים גדולים.
מנכ"ל OpenAI, סם אלטמן, אמר בסוף השבוע כי החברה ככל הנראה לא תונפק השנה, בין היתר בשל שיקולי בטיחות. למרות מערכת היחסים המתוחה בינו לבין אמודיי, שעזב בעבר את OpenAI כדי להקים את אנתרופיק, אלטמן הביע תמיכה בעקרון של האטת פיתוח המודלים המתקדמים.
תמיכה גם מצד גוגל ומאסק
גם דמיס האסביס, יו"ר Google DeepMind, הביע תמיכה בכיוון שהציע אמודיי. לדבריו, עדיין נדרש דיון בפרטים, אך עצם הכיוון נכון לנוכח השלב שאליו מגיעה הטכנולוגיה. אילון מאסק הצטרף אף הוא לתומכים וטען כי יש מקום לפיקוח על מערכות AI וכי ביקורת עמיתים מצד חברות מתחרות יכולה להיות נקודת פתיחה מתאימה. מאסק, שמזהיר כבר שנים מפני הסיכונים של בינה מלאכותית, שינה בשנה האחרונה את הטון כלפי אנתרופיק אחרי ש-SpaceX חתמה עמה על עסקת מחשוב גדולה.
לפי מסמכים שצוינו במקור, אנתרופיק צפויה לשלם ל-SpaceX כ-1.25 מיליארד דולר בחודש עד מאי 2029 במסגרת ההסכם. מאסק אמר אחר כך כי התרשם לטובה מאנשי החברה וממחויבותם לפעול באופן אחראי.
- אי אפשר לעצור את מפלצת ה-AI: סין רצה, וארה"ב לא תיתן לה לעקוף
- 151 מיליון שאילתות בשלושה חודשים: כך לפי אנתרופיק אימנו מעבדות סיניות מודלים על קלוד
מנגד, דייוויד סאקס, שכיהן כיועץ של טראמפ לענייני AI וקריפטו ונחשב למבקר של אנתרופיק, טען כי החברות אינן צריכות להמתין למסגרת רגולטורית כדי להאט את עצמן. לדבריו, אם OpenAI ואנתרופיק סבורות שהמודלים שלהן מסוכנים מספיק כדי להצדיק האטה, הן יכולות לעשות זאת באופן עצמאי - וגם יש להן תמריץ עסקי לכך, בשל החשיפה האפשרית לאחריות משפטית במקרה של נזק.
