המשקיע באנתרופיק וב-OpenAI: הפאניקה סביב סכנות ה-AI מוגזמת

בראד גרסטנר מאלטימטר, שמושקע גם באנתרופיק וגם ב-OpenAI, אומר שהפאניקה מוגזמת.

לדבריו מדובר בטקטיקות הפחדה מוגזמות שמסתתרות מאחורי אג'נדה פוליטית, ובדרך נמחקו כל הצעדים החריגים שכבר ננקטים בתחום - כאלה שלא ננקטו בעידן האינטרנט וגם לא בעידן הרשתות החברתיות. גרסטנר מוסיף שבעשרים וחמש שנותיו בעמק הסיליקון הוא לא ראה השקעה כזו בזמן ובאנרגיה בבטיחות לפני השקה של טכנולוגיה חדשה, ושמי שהאזין לתיבת התהודה של השבוע האחרון עלול לחשוב שהתעשייה דוהרת קדימה בהתעלמות מוחלטת מבטיחות.

אלא שאלטימטר מחזיקה בשתי החברות שנמצאות בלב הוויכוח, גם באנתרופיק וגם ב-OpenAI, וגם בחברות בינה מלאכותית נוספות ובהן גלין ודטהבריקס. מי שמכנה את גל האזהרות מוגזם מחזיק פוזיציה ישירה בשתי החברות שהאזהרות נוגעות אליהן.

מי אמר מה

את הסערה הצית חוקר שעזב את אנתרופיק בתחילת השבוע וכתב ברשת החברתית שחברות הבינה המלאכותית מהמרות על חיינו במרוץ אל בינה על. הפוסט גרר חוקרים נוספים להצטרף, והתווסף לגל ביקורת ציבורית שממילא צובר תאוצה בארה"ב סביב הקמת מרכזי הנתונים הענקיים. סם אלטמן משנה כיוון: OpenAI מוכנה להאט את מרוץ ה-AI.

בצד השני של הוויכוח עומדים אנשים שהיו בפנים. דניאל קוקוטאילו, חוקר ממשל לשעבר ב-OpenAI וכיום מנהל פרויקט AI Futures, אמר השבוע שכיוון ההתקדמות של המודלים מדאיג מאוד. לדבריו בעוד שנה, שנתיים או שלוש יהיו מערכות שמסוגלות לבצע את כל תהליך המחקר בעצמן ולשפר את עצמן באופן אוטונומי, וזה עלול להסתיים רע.

על דבר אחד שני הצדדים מסכימים: קצב השיפור של המודלים גבוה. המחלוקת נוגעת לשאלה אם מנגנוני הבקרה מתקדמים באותו קצב, ולמי יש אינטרס להגזים לכל כיוון.

ברקע עומד גל התנגדות ציבורי שגובר בארה"ב סביב מרכזי הנתונים. תושבים מתלוננים על רעש, על צריכת מים ועל עומס על רשת החשמל שמתורגם לחשבון החשמל שלהם. גרסטנר נוגע גם בזה: כשהשיח על הכחדה מתלהט, קל יותר לגייס תמיכה מקומית נגד פרויקטים קונקרטיים, והעיכובים באישורים נדחפים ללוחות הזמנים של החברות.

גם התזמון אומר משהו. הוויכוח מתפוצץ בדיוק בשבוע שבו אורקל דיווחה על צבר הזמנות של 664 מיליארד דולר ועל תוכנית השקעות שנתית של 90 עד 95 מיליארד דולר, ובאותו שבוע שבו איחוד האמירויות הכריז על גיגהוואט של קיבולת בגרמניה. ההתחייבויות האלה נחתמות לשנים קדימה, והן מניחות שהסביבה הרגולטורית תישאר דומה למה שהיא היום.

למה זה נוגע לכסף

הוויכוח הזה קובע רגולציה, והרגולציה קובעת את עקומת ההשקעות. חברות הטכנולוגיה הגדולות גייסו השנה עשרות מיליארדי דולרים בחוב למימון מרכזי נתונים, קרנות ריבוניות נכנסות לבנות קיבולת באירופה, וכל אלה מתבססות על הנחה שהקצב יימשך. הידוק רגולטורי, ולו חלקי, דוחה את ההכנסות שאמורות להצדיק את ההשקעות. האמירויות מזרימות 46 מיליארד דולר לגרמניה.

ניגוד העניינים פועל לשני הכיוונים, וכדאי להחזיק את זה בראש. משקיע שמחזיק בחברות מרוויח מכך שהשיח נשאר רגוע ומהקצב הנוכחי. חוקר שעזב ומקים ארגון שעוסק בסיכוני AI מרוויח מכך שהשיח נשאר חריף. לאף צד אין עמדה נטולת אינטרס, ולכן עדיף להסתכל על הנתונים ולא על הטון.

• גו דאדי זינקה ב-10.7%: מוצר ה-AI שלה הכפיל את עצמו ברבעון אחד
• הדוח עקף את התחזיות, והמניה נפלה ב-14.8%: למה המשקיעים ברחו מטוויליו

ולחוסך הישראלי יש כאן חשיפה ישירה. חלק גדול מהחיסכון הפנסיוני מושקע במדדים עולמיים שמרוכזים היום בדיוק בחברות שנמצאות בלב הוויכוח. כל הידוק רגולטורי שידחה הכנסות של החברות האלה יופיע בסוף בתשואה של קרן הפנסיה.