ג'ימי דיימון מצטרף לוויכוח המתלהט על רגולציית AI: "אם תהיה רגולציה - שתהיה קלילה"

קול חשוב נוסף בוויכוח שמתפתח

ג'יימי דיימון, מנכ"ל ג'יי-פי מורגן צ'ייס, מצטרף לוויכוח שהולך ומחריף בשבועות האחרונים סביב השאלה כיצד ארה"ב צריכה להתמודד עם ההתפתחות המהירה של הבינה המלאכותית. דיימון אמר כי אם תונהג רגולציה בתחום, היא צריכה להיות פדרלית ו"קלילה", ולא מערכת של חוקים שונים בכל אחת ממדינות ארה"ב.

העמדה של דיימון מגיעה כאשר תעשיית הבינה המלאכותית עצמה מפוצלת יותר ויותר בשאלת קצב הפיתוח והצורך בפיקוח. מצד אחד, מנהלים וחוקרים מתוך החברות המובילות מזהירים כי ההתפתחות מהירה מדי וכי יש צורך בבדיקות ובמנגנוני בטיחות מחמירים יותר. מהצד השני, מנהלים כמו ג'נסן הואנג מאנבידיה ומארק צוקרברג ממטא, לצד ממשל טראמפ, מתנגדים להאטה מתואמת או לרגולציה חדשה ומדגישים את הצורך לשמור על היתרון האמריקאי מול סין.

דיימון נמצא במידה מסוימת באמצע: הוא אינו שולל פיקוח, אך מבקש שהוא יהיה מצומצם ואחיד ברמה הפדרלית. בכך הוא מוסיף קול משמעותי לוויכוח שהפך בתוך ימים ספורים מאחד הנושאים המקצועיים של עולם הטכנולוגיה לדיון כלכלי וגיאופוליטי רחב.

ההתייחסות של דיימון הגיעה במסגרת ראיון שבו נשאל גם על תנופת המימון האדירה סביב תעשיית הבינה המלאכותית ועל הסיכונים במקרה שההשקעות בתחום יסתיימו בתרחיש של ירידה חדה בביקוש. לדבריו, ג'יי-פי מורגן בוחן את "רדיוס הפגיעה" האפשרי בתרחיש של תוצאה שלילית במחזור ההשקעות בבינה מלאכותית, במיוחד בכל הקשור למימון מרכזי נתונים. הבנק בוחן בין היתר את מחירי כוח המחשוב, את היכולת של מפעילי מרכזי הנתונים לעמוד בתשלומים ואת החוסן הפיננסי של חברות הטכנולוגיה העומדות מאחוריהם. דיימון אמר כי הסיכון אינו זהה בכל עסקה, ולכן הבנק בוחן כל מימון בהתאם למאפייניו ולגורמי הסיכון הספציפיים שלו.

בהקשר של בטיחות הבינה המלאכותית, דיימון לא הצטרף לקריאות של חלק ממנהלי התעשייה להאט את קצב הפיתוח, אך גם לא טען שאין צורך בפיקוח. הוא תמך בפיקוח פדרלי מצומצם, והדגיש כי ריבוי חוקים ברמת המדינות עלול להקשות מאוד על פעילות מסחרית כאשר חברות נדרשות להתמודד עם דרישות שונות בכל מדינה. לדבריו, אם הממשלה תבחר להסדיר את התחום, עדיף שהכללים יהיו אחידים ברמה הפדרלית ויישארו בגישה "קלילה". העמדה הזו משתלבת גם בהתייחסותו הרחבה יותר לבינה מלאכותית: דיימון כתב בעבר כי הטכנולוגיה צפויה להשפיע כמעט על כל תפקיד ותהליך בג'יי-פי מורגן וכי קצב האימוץ שלה עשוי להיות מהיר בהרבה ממה שנראה במהפכות טכנולוגיות קודמות.

אנבידיה: אפשר להתקדם מהר - אבל לא מהר מדי

אחד הקולות הבולטים בצד המתנגד להאטה הוא ג'נסן הואנג, מייסד ומנכ"ל אנבידיה. רק השבוע הוא התנגד במפורש לקריאות להאט את פיתוח מערכות הבינה המלאכותית, וטען שאין צורך בחוקים חדשים המיועדים במיוחד לבינה מלאכותית. לדבריו, בטיחות היא בראש ובראשונה בעיה הנדסית ולא משפטית, וכי החברות שמפתחות את המערכות צריכות להיות אחראיות לבדיקתן.

עם זאת, ההתבטאות של הואנג היום הייתה זהירה יותר בכל הנוגע לבטיחות המוצרים. באירוע שכינס המלך צ'ארלס בסקוטלנד עם בכירים בתעשיית הבינה המלאכותית, אמר הואנג כי החברות צריכות לבצע בדיקות מחמירות יותר לפני שהן משחררות מערכות לציבור. לדבריו, אם מוצר אינו מוכן לשימוש, יש לעכב את השקתו. הוא סיכם את הגישה במשפט: "צריך להתקדם מהר ככל האפשר, אבל לא מהר יותר מזה".

ההבחנה חשובה: הואנג אינו קורא להאטה כוללת של התפתחות הבינה המלאכותית ואינו תומך ברגולציה ממשלתית חדשה. הוא מדבר על אחריות של החברות עצמן, על בדיקות ועל אי-שחרור מוצרים שאינם מוכנים. בכך הוא מציע למעשה מודל של פיקוח עצמי ובקרות הנדסיות, בניגוד לדרישה להאטה מתואמת או למסגרת רגולטורית חדשה.

הגישה של הואנג מתיישבת גם עם התחזית העסקית שהוא מציג למשקיעים. בסוף אוגוסט אמר כי תחזיות הביקוש מצד לקוחות אנבידיה מצביעות על אפשרות שמכירות שבבי הבינה המלאכותית של החברה יוכפלו בשנה הבאה. בתחילת ספטמבר הרחיב ואמר כי הכנסות החברה צפויות להמשיך לצמוח בקצב חריג גם עד סוף השנה הבאה.

• טמפוס AI מזנקת 36% בשבוע - הכנסות של מאות מיליונים בדרך?
• חברת CoreWeave נופלת: חוב של 35.6 מיליארד דולר - ועכשיו היא מגייסת עוד 3 מיליארד

הנתונים מסבירים מדוע שאלת קצב הפיתוח אינה רק דיון תיאורטי עבור אנבידיה. החברה נמצאת במרכז ההשקעות בתשתיות הבינה המלאכותית, והמשך ההשקעות של חברות ענן ומעבדות בינה מלאכותית תלוי במידה רבה בביקוש למעבדים ולמערכות המחשוב שלה.

לכן, מצד אחד הואנג קורא לחברות לבדוק היטב את המוצרים לפני השקה ולעכב מערכות שאינן מוכנות. מצד שני, הוא מתנגד להאטה רחבה של התעשייה וממשיך לתאר ביקוש עצום לתשתיות המחשוב שעליהן נשענת ההתפתחות הזו.

אופן-איי ואנתרופיק מבקשות להכניס גורם חיצוני

מהצד האחר של הוויכוח נמצאות החברות שמפתחות בעצמן חלק מהמודלים המתקדמים ביותר. דוגמה בולטת היא אופן-איי, שב-9 בספטמבר קראה לממשל האמריקאי לקבוע דרישות בטיחות לאומיות ומחייבות. החברה טענה כי התחייבויות וולונטריות אינן מספיקות והציעה רגולציה המבוססת על יכולות המודלים, כולל הערכות עצמאיות, דרישות אבטחת סייבר ודיווח על אירועים חריגים.

גם מנכ"ל אנתרופיק, דאריו אמודיי, קרא לאחרונה להאט את קצב ההתפתחות של מערכות הבינה המלאכותית המתקדמות. בין הצעדים שהוא מציע נמצאים מתן גישה למערכות לחוקרים ומעריכים חיצוניים, תיאום בין ממשלות ושיתוף פעולה בין מדינות דמוקרטיות. סם אלטמן מאופן-איי ואילון מאסק הביעו תמיכה בחלקים מהגישה הזו, בעוד דמיס חסאביס מגוגל דיפמיינד תמך במאמצי בטיחות ותיאום.

כך נוצר פיצול מובהק: חברות המפתחות מודלים מתקדמים מזהירות שהמרוץ עצמו עלול ליצור סיכונים שאף חברה בודדת לא תוכל לנהל, ואילו חברות אחרות בתעשייה טוענות שהאחריות יכולה להישאר אצל המפתחים עצמם ושאין צורך להקים שכבה חדשה של רגולציה.

• החלום של אילון מאסק על מרכזי נתונים בחלל נתקל בארבעה מכשולים
• ג'נרל מוטורס מתחילה לספק חלקים לטילי פטריוט

חוקרים שפרשו מזהירים מפני מרוץ שאי אפשר יהיה לעצור

הדיון החריף עוד יותר בעקבות שורה של אזהרות מצד חוקרים שעבדו בתוך החברות המובילות.

ג'ייקוב קוקסון, חוקר לשעבר באנתרופיק ובאופן-איי, התפטר מאנתרופיק בתחילת החודש והזהיר שהחברות המובילות דוהרות לעבר מערכות שיכולות לשפר את עצמן, וכי הסיכון אינו מקבל מענה מספק. קוקסון טען כי אנשי מקצוע בתוך התעשייה עצמם מודעים לסיכונים הללו.

אליו הצטרף בילאל צ'וגטאי, מהנדס מחקר לשעבר בגוגל דיפמיינד שעבד בתחום בטיחות והתאמת מערכות בינה מלאכותית. צ'וגטאי הזהיר השבוע כי מערכות מתקדמות עלולות להוות סיכון קיצוני אם המרוץ בין החברות יימשך ללא תיאום. גם אוון הובינגר, חוקר באנתרופיק, העריך שקיים סיכון משמעותי לתוצאה קטסטרופלית בעשור הקרוב. אלו הן הערכות של החוקרים ולא קונצנזוס מדעי לגבי הסבירות או לוח הזמנים של תרחישים כאלה.

הטיעון שלהם שונה מהטיעון הרגולטורי המסורתי. החשש אינו רק מפני שימוש לרעה בטכנולוגיה, אלא מכך שהמערכות עצמן יהפכו ליכולות מספיק כדי לבצע פעולות מורכבות באופן עצמאי, בעוד שהיכולת של בני אדם לפקח עליהן לא תדביק את קצב ההתקדמות.

טראמפ: אסור לארה"ב להאט מול סין

מנגד, בבית הלבן מציגים את הסוגיה בראש ובראשונה כחלק מהתחרות הטכנולוגית בין ארה"ב לסין. הנשיא דונלד טראמפ אמר השבוע כי ארה"ב מובילה כיום בבינה מלאכותית וכי הוא רוצה לשמור על היתרון הזה. "מי שינצח בבינה המלאכותית - ינצח", אמר, תוך דחיית הקריאות להאט את הפיתוח.

גם דייוויד סאקס, יועץ בכיר בממשל לענייני טכנולוגיה, דחה את הצורך ברגולציה חדשה וטען כי האחריות לבטיחות צריכה להישאר בידי החברות. מבחינת הגישה הזו, חוקים חדשים עלולים ליצור יתרון דווקא למתחרים של ארה"ב אם יגרמו לחברות האמריקאיות להאט בעוד חברות סיניות ממשיכות להתקדם.

הטיעון הסיני אינו תיאורטי בלבד. בימים האחרונים דווח כי הפער הטכנולוגי בין ארה"ב לסין מצטמצם, בעוד חברות סיניות מפתחות במהירות שבבים ומערכות בינה מלאכותית מקומיות. במקביל, סין עצמה מקדמת מנגנוני בטיחות ותקנים למערכות מתקדמות, כך שהתחרות בין המדינות אינה מתמצה בשאלה מי יסדיר ומי לא יסדיר את התחום.