המשקיע שמחזיק גם באנתרופיק וגם ב-OpenAI: הפאניקה סביב סכנות ה-AI מוגזמת
השבוע שבו עובדי חברות הבינה המלאכותית יצאו בפומבי נגד המעסיקים שלהם קיבל עכשיו גם צד שני, והוא מגיע מכיוון הכסף. בראד גרסטנר, מנכ"ל קרן אלטימטר קפיטל, תקף את חוקרי ה-AI שהזהירו מהכחדה אנושית והגדיר את השיח של הימים האחרונים כמנותק מהמציאות.
הטענה שלו חדה. לדבריו מדובר בטקטיקות הפחדה מוגזמות שמסתתרות מאחורי אג'נדה פוליטית, ובדרך נמחקו כל הצעדים החריגים שכבר ננקטים בתחום, כאלה שלא ננקטו בעידן האינטרנט וגם לא בעידן הרשתות החברתיות. גרסטנר מוסיף שבעשרים וחמש שנותיו בעמק הסיליקון הוא לא ראה השקעה כזו בזמן ובאנרגיה בבטיחות לפני השקה של טכנולוגיה חדשה, ושמי שהאזין לתיבת התהודה של השבוע האחרון עלול לחשוב שהתעשייה דוהרת קדימה בהתעלמות מוחלטת מבטיחות.
ופה נכנס הפרט שחשוב למשקיעים יותר מכל אמירה: אלטימטר מחזיקה בשתי החברות שנמצאות בלב הוויכוח, גם באנתרופיק וגם ב-OpenAI, וגם בחברות בינה מלאכותית נוספות ובהן גלין ודטהבריקס. כלומר מי שמכנה את גל האזהרות מוגזם מחזיק פוזיציה ישירה בשתי החברות שהאזהרות נוגעות אליהן.
מי אמר מה
את הסערה הצית חוקר שעזב את אנתרופיק בתחילת השבוע וכתב ברשת החברתית שחברות הבינה המלאכותית מהמרות על חיינו במרוץ אל בינה על. הפוסט הזה גרר חוקרים נוספים להצטרף, והתווסף לגל ביקורת ציבורית שממילא צובר תאוצה בארה"ב סביב הקמת מרכזי הנתונים הענקיים. סם אלטמן משנה כיוון: OpenAI מוכנה להאט את מרוץ ה-AI.
בצד השני של הוויכוח עומדים אנשים שהיו בפנים. דניאל קוקוטאילו, חוקר ממשל לשעבר ב-OpenAI וכיום מנהל פרויקט AI Futures, אמר השבוע שכיוון ההתקדמות של המודלים מדאיג מאוד. לדבריו נראה שבעוד שנה, שנתיים או שלוש יהיו מערכות שמסוגלות לבצע את כל תהליך המחקר בעצמן, כלומר לשפר את עצמן באופן אוטונומי, וזה עלול להסתיים רע.
שני הצדדים מסכימים על עובדה אחת, והיא שקצב השיפור של המודלים גבוה. המחלוקת נוגעת לשאלה אם מנגנוני הבקרה שנבנים מתקדמים באותו קצב, ולמי יש אינטרס להגזים לכל כיוון.
הרקע לוויכוח הזה הוא גל התנגדות ציבורי שגובר בארה"ב סביב הקמת מרכזי נתונים ענקיים. תושבים מתלוננים על רעש, על צריכת מים ועל עומס על רשת החשמל שמתורגם לחשבון החשמל שלהם, והטיעון של גרסטנר נוגע גם לכך: כשהשיח על הכחדה מתלהט, קל יותר לגייס תמיכה מקומית נגד פרויקטים קונקרטיים, והעיכובים באישורים מתורגמים לדחייה בלוחות הזמנים של החברות.
ויש כאן גם שאלה של תזמון. הוויכוח מתפוצץ בדיוק בשבוע שבו אורקל דיווחה על צבר הזמנות של 664 מיליארד דולר ועל תוכנית השקעות שנתית של 90 עד 95 מיליארד דולר, ובאותו שבוע שבו איחוד האמירויות הכריז על גיגהוואט של קיבולת בגרמניה. כל ההתחייבויות האלה נחתמות לשנים קדימה, והן מניחות שהסביבה הרגולטורית תישאר דומה למה שהיא היום.
למה זה נוגע לכסף
מבחינת שוק ההון הוויכוח הזה אינו פילוסופי. הוא קובע רגולציה, והרגולציה קובעת את עקומת ההשקעות. חברות הטכנולוגיה הגדולות גייסו השנה עשרות מיליארדי דולרים בחוב למימון מרכזי נתונים, קרנות ריבוניות נכנסות לבנות קיבולת באירופה, וכל אלה מתבססות על הנחה שהקצב יימשך. הידוק רגולטורי, ולו חלקי, דוחה את ההכנסות שאמורות להצדיק את ההשקעות האלה. האמירויות מזרימות 46 מיליארד דולר לגרמניה.
- המרוץ לבינה מלאכותית מחריף - ואיתו החשש שחברות ה-AI יאבדו שליטה
- אנתרופיק עצרה ניסיונות להשתמש ב-AI למחקר שעלול לסייע בפיתוח נשק ביולוגי
יש כאן גם שאלה של ניגוד עניינים משני הכיוונים, וכדאי להחזיק אותה בראש. משקיע שמחזיק בחברות מרוויח מכך שהשיח נשאר רגוע ומהקצב הנוכחי. חוקר שעזב ומקים ארגון שעוסק בסיכוני AI מרוויח מכך שהשיח נשאר חריף. אף אחד מהצדדים אינו נטול אינטרס, וזו סיבה טובה להסתכל על הנתונים במקום על הטון.
לחוסך הישראלי הנקודה המעשית פשוטה. חלק גדול מהחיסכון הפנסיוני מושקע במדדים עולמיים שמרוכזים היום בחברות שנמצאות בדיוק בלב הוויכוח הזה. הוויכוח על סיכוני הבינה המלאכותית הוא גם ויכוח על התמחור של מניות הטכנולוגיה, ובסופו של דבר על התשואה שתופיע בדוח הרבעוני.
