בכירי ה-AI קוראים להאט, סין חוששת שזו מלכודת אמריקאית

סין יוצאת נגד האזהרות של בכירי חברות הבינה המלאכותית בארה"ב, אחרי שמנכ"ל אנתרופיק דריו אמודיי קרא להאט את פיתוח המערכות המתקדמות ביותר. דובר משרד החוץ הסיני, גואו ג'יאקון, טען כי הפחדה, עימות ותחרות מזיקה יפגעו בשיתוף הפעולה העולמי בתחום.

הדובר הסיני לא אמר שבייג'ינג מוכנה להאט את הפיתוח שלה, וגם לא השיב ישירות להצעה להכניס בודקים עצמאיים לחברות ה-AI. בסין חוששים שהאמריקאים ישתמשו בסכנות האפשריות של הטכנולוגיה כדי להצדיק מגבלות נוספות על שבבים, ציוד וחברות סיניות.

התגובה מגיעה אחרי הקריאה של אמודיי והצטרפותו של סם אלטמן לדרישה לפיקוח הדוק יותר.  הטענה שלהם פשוטה: המערכות משתפרות מהר יותר מהיכולת לבדוק אותן ולוודא שלא יגרמו נזק. לכן הם רוצים להקדיש יותר זמן לבדיקות ולאפשר לגורמים מחוץ לחברות לראות כיצד המודלים מפותחים, ולא להסתפק בבדיקה רגע לפני שהם יוצאים לציבור.

אלא שלאמודיי יש גם תנאי שקשה להתעלם ממנו. הוא רוצה שארה"ב תשמור על היתרון שלה מול סין ואף תגדיל אותו באמצעות הגבלות על שבבים ואבטחה חזקה יותר בחברות האמריקאיות. לטענתו, יתרון גדול יותר יאפשר לארה"ב להאט בלי להסתכן בכך שסין תעקוף אותה. מבחינת בייג'ינג, זו בדיוק הבעיה: האמריקאים מבקשים שיתוף פעולה סביב כללים שעשויים להשאיר את סין מאחור.

ארה"ב לא רוצה שסין תעקוף, וסין לא רוצה להישאר מאחור

כל צד חושש ממה שהצד השני יעשה בזמן שהוא עוצר לבדוק. חברה אמריקאית שתדחה השקה עלולה לאבד לקוחות למתחרה אמריקאית או סינית. ממשלה שתבקש מהחברות שלה להאט תצטרך להסביר מדוע היא מוכנה לתת למדינה מתחרה עוד זמן להתקדם בטכנולוגיה שיכולה להשפיע על הכלכלה, המודיעין והצבא.

גם לסין אין סיבה עסקית למהר להסכים. כפי שעולה מהסקירה על המודלים הסיניים שמצמצמים פערים מול החברות האמריקאיות,  התחרות כבר אינה עוסקת רק בשאלה מי מציג את המודל החזק ביותר. לקוחות בודקים גם מחיר, מהירות והתאמה לצרכים שלהם. חברה שמחפשת כלי לכתיבת קוד או לשירות לקוחות עשויה לבחור במוצר זול יותר, גם אם הוא אינו מוביל בכל מבחן.

עצירה של כמה חודשים יכולה לשנות את השוק. בזמן שחברה אחת עורכת בדיקות נוספות, אחרת יכולה להציע שירות חדש, להוריד מחירים ולחתום על חוזים. גם מנהל שמאמין שצריך להיזהר יתקשה להתעלם מהמחיר העסקי, במיוחד אם המתחרים ממשיכים לפתח ולהשיק מוצרים כרגיל.

זה הקושי שתואר גם בטור על הסיבות לכך שהמרוץ בין ארה"ב לסין מקשה לעצור את פיתוח ה-AI. הסכמה בין מנכ"לים אינה מספיקה כדי ליצור הסכם בין מדינות. האטה משותפת תוכל להחזיק רק אם כל צד יידע למה התחייב הצד השני ויוכל לבדוק שהוא באמת עומד בכך.

הפיקוח יעמוד למבחן בזמן אמת

לפנייה של המנכ"לים לרשויות יש גם היגיון עסקי. חברה שמציעה בעצמה כיצד לפקח עליה יכולה להשפיע על הכללים שייקבעו: מי יבדוק אותה, לאיזה מידע יקבל גישה ומה יקרה אם תתגלה בעיה. כך היא מגיעה מוכנה יותר לרגע שבו הממשלה תדרוש תשובות.

• אמודיי רוצה להאט את מרוץ ה-AI - אלטמן, מאסק והסביס מצטרפים
• אלטמן: OpenAI לא תונפק ב-2026; סיכוני ה-AI משנים את התזמון

אין בכך הוכחה שהחששות אינם אמיתיים. מנהל יכול לחשוש מנזק ובאותו זמן לרצות לשמור על החברה שלו ועל מקומה בשוק. המבחן יגיע כשההתחייבויות יתחילו לעלות כסף: האם בודק חיצוני יוכל להביא לדחיית השקה, האם החברה תחשוף תקלה חמורה והאם תהיה מוכנה להמתין בזמן שמתחרה ממשיכה להתקדם.

אלטמן כבר הודיע שאופן-איי תאמץ את ההצעה להכניס מעריכים עצמאיים שיקבלו גישה רחבה לתהליכי הפיתוח והבטיחות. כעת יהיה אפשר לבחון כמה עצמאות יקבלו הבודקים ומה תעשה ההנהלה אם המסקנות שלהם יתנגשו בלוח הזמנים העסקי.

בשלב הזה, סביר יותר שהחברות ימשיכו לפתח ובמקביל ישקיעו יותר בבדיקות, באבטחה ובהגבלות על השימוש במערכות. הן יכולות לעכב יכולת מסוימת שהתגלתה כמסוכנת או למנוע ממערכת גישה לכלים רגישים, בלי לעצור את כל הפיתוח. עבור החברות, המשמעות עשויה להיות יותר הוצאות ותהליך ארוך יותר לפני השקת מוצרים. המבחן עבור הציבור יהיה אם הבדיקות באמת ימנעו שחרור של מערכת מסוכנת, גם כשהמתחרה כבר מוכרת את שלה.