אי אפשר לעצור את מפלצת ה-AI: סין רצה, וארה"ב לא תיתן לה לעקוף

קשה להאמין שראשי חברות ה-AI באמת מתכוונים לרדת מהגז. אמודיי קורא להאט, אלטמן מסכים, מאסק מצטרף. יפה מאוד. רק שאף אחד מהם לא יושב לבד בחדר.

יש חברה אמריקאית ממול שרוצה לעקוף אותו. ויש סיניות שרוצות לעקוף את כולם. במצב כזה, "אנחנו מוכנים להאט" נשמע יפה. כתוכנית שאפשר לעמוד בה - פחות.

ומה הם בעצם מציעים. הקריאה של אמודיי, אלטמן ומאסק מדברת על להאט את הקצב בחזית, על בדיקות ועל גישה למעריכים חיצוניים. לא על לסגור חברות ולא על להפסיק לפתח. כאן נגמרת ההסכמה: קל להסכים שצריך עוד זמן לבטיחות. הרבה פחות קל להגיד כמה זמן, מי מפקח, ומה עושים כשהמתחרה ממשיך לרוץ.

ולדעתי יש בזה גם תרופה למכה. ביום שבו הרגולטור ישאל למה שחררתם מערכת מסוכנת, הם יוכלו להצביע אחורה ולהגיד: הזהרנו, ביקשנו פיקוח, הצענו בדיקות. אני לא יודע מה כל מנכ"ל חושב בחדר סגור, והפחד שלהם יכול להיות אמיתי לגמרי. אבל הפחד והאינטרס העסקי מושכים כאן לאותו כיוון בדיוק: מי שמקדים להציע כללים, גם משפיע עליהם.

הם רוצים יד על הבלמים, בלי לוותר על ההגה

לחברות זה מהלך חכם. מי שמגיע לרגולטור עם תוכנית בדיקות מוכנה, עם צוותי בטיחות ועם הצעה לפיקוח, מגיע כשותף ולא כנאשם. ומשם קל יותר לכוון את הדיון לדרישות שהוא יכול לעמוד בהן, ולהרחיק אותו מהדברים הכואבים באמת: עצירה ממושכת, איסור על הפצת יכולות.

ויש בזה בונוס לגדולות. מערך בדיקות יקר, דרישות אבטחה כבדות ותהליכי אישור ארוכים הם הרבה יותר קלים כשיש לך הון, כוח מחשוב וקומה של עורכי דין. הדרישות יכולות להיות במקום. והן גם סוגרות את הדלת בפני מתחרים חדשים. חברה שתומכת בפיקוח לא בהכרח מוותרת על משהו.

אבל יש ראיה אחת שלא מסתדרת עם הטענה שהכל יחסי ציבור. OpenAI כבר עצרה חלק מהאימון בזמן שחיזקה אבטחה. זו פעולה, לא הצהרה, וצריך להגיד את זה. רק שעצירה לצורך תיקון היא לא הבטחה להישאר מאחור. אפשר לעצור ניסוי, לסגור פרצה, ולחזור לרוץ שבוע אחר כך עם אותה מטרה בדיוק.

אז מה באמת יגיד לנו משהו? שלוש שאלות. האם חברה תעכב מודל גם כשהמתחרה עומדת להשיק? האם מעריך חיצוני יוכל לדרוש עצירה שההנהלה לא רוצה בה? והאם תוצאה בעייתית תפורסם גם כשהיא הורסת גיוס הון או עסקה? שם רואים אם כוח באמת עבר מהחברות למי שמפקח עליהן.

וכל זה עוד לפני שהכנסנו את סין לחשבון. גם אם כל החברות האמריקאיות יחתמו על הכל, הן עדיין יצטרכו לשכנע את הממשל שההאטה לא מגישה לבייג'ינג מתנה. הסכמה בין מנכ"לים היא לא הסכם בין מעצמות, והיא בטח לא מנגנון שמאפשר לבדוק מה קורה במעבדות של הצד השני.

• הקול בטלפון נשמע כמו הנכד, והנכד ישן בבית: מדריך להונאות על גיל שלישי
• 1,200 אקזיטים: עשור אחרי, 15% בלבד עדיין משגשגים

לבדיקות ארה"ב תסכים. לוותר על ההובלה, פחות

האזהרה של שר האוצר סקוט בסנט מפני ניצחון סיני ב-AI מסבירה מה באמת מעניין בוושינגטון. מבחינתו, יתרון סיני משמעותי בטכנולוגיה הזאת מערער גם את העליונות הצבאית. וכשמדברים על יכולת שנוגעת למודיעין, לסייבר, לתעשייה ולמערכות לחימה, הדיון על האטה נשמע פתאום אחרת לגמרי.

קל לדמיין את הפגישה. מנהל מעבדה מבקש עוד שלושה חודשים לבדיקות. מולו יושב מישהו מהביטחון ושואל מה הסינים יספיקו באותם שלושה חודשים. לשניהם יש סיבה טובה. וזו בדיוק הבעיה: הפחד מהמערכת המסוכנת מתחרה בפחד שמישהו אחר יבנה אותה קודם, והפחד השני מנצח כמעט תמיד.

וסין גם לא צריכה לנצח בכל מבחן כדי לשנות את התמונה. דיפסיק, עליבאבא, מונשוט וחברות נוספות מצמצמות פערים ומציעות חלופות אמיתיות. הפער משתנה בין מודלים ובין משימות, ואין מספר אחד שמתאר את כל התחרות. אבל מבחינה עסקית? מודל זול שעושה את העבודה מספיק טוב הוא איום רציני, גם אם הוא לא הכי חזק בעולם.

חברה שמכניסה AI לשירות לקוחות, לכתיבת קוד או לניתוח מסמכים בודקת מחיר, מהירות ואפשרות להתאים את המערכת לעצמה. אם פתרון סיני נותן את התוצאה בחצי מהמחיר, המקום הראשון בטבלת הביצועים לא ישמור על הלקוח. התחרות היא על שימוש, על הכנסות ועל מי תלוי במי, לא רק על מי מנצח באיזה מבחן.

ולכן קשה לי לראות האטה עולמית שמחזיקה לאורך זמן בלי הסכם שאפשר לפקח עליו. כל צד צריך להאמין שהשני מגביל את עצמו, וגם להיות מסוגל לבדוק. בלי מנגנון כזה, מי שירצה להמשיך תמיד יוכל לטעון שלעצור זה מסוכן יותר. זה לא הופך את המרוץ לבטוח. זה מסביר למה אזהרות לבד לא יעצרו אותו.

• ג'ונקו: הסימנים שהיו על השולחן לפני שהכסף עבר
• האיומים של ארגנטינה לא ישפיעו על נאוויטס והפקת הנפט מפוקלנד - דעה

אז מה כן אפשר לעשות? לדרוש בדיקות עצמאיות, להגביל גישה של מערכות לכלים מסוכנים, לחייב תיקון כשלים לפני שמרחיבים שימוש. דברים שאפשר למדוד. ואת מנכ"לי ה-AI כדאי לבחון ברגע אחד ספציפי: כשהוראת בטיחות עולה להם כסף. כשהיא דוחה השקה, מקצצת מוצר או נותנת למתחרה להתקדם. עד אז, לדבר על האטה ולהמשיך להוביל זה שילוב נוח מדי.