אלטמן מצטרף לקריאה להאט את ה-AI: "התחרות אינה מצדיקה פזיזות"

סם אלטמן מצטרף באופן פומבי לקריאה להאט את קצב ההתקדמות של מודלי הבינה המלאכותית המתקדמים ביותר. אחרי שמנכ"ל אנתרופיק דריו אמודיי קרא בסוף השבוע לחברות ה-AI להוריד את הרגל מהגז כדי לאפשר למנגנוני הבטיחות להדביק את קצב השיפור ביכולות, מנכ"ל OpenAI הודיע כי הוא מסכים עם הכיוון - ואף התחייב לאמץ בחברה אחד הצעדים המרכזיים שהציע אמודיי.

"אני מסכים עם דריו שאנחנו צריכים לווסת את הקצב בחזית", כתב אלטמן ב-X. לדבריו, אין הכוונה לעצירת אימון המודלים או להפסקת ההתקדמות הטכנולוגית, אלא לכך שהיכולות לא יתקדמו מהר יותר מהיכולת להתאים את המודלים למטרות אנושיות, לנטר אותם ולהגן מפני הסיכונים שהם יוצרים.

אלטמן התייחס גם לטיעון שמלווה כמעט כל ניסיון להקשיח את כללי הבטיחות בארצות הברית: אם החברות האמריקאיות יאטו, סין תמשיך להתקדם ועלולה לעקוף אותן. מבחינתו, התחרות אינה יכולה לבטל את מגבלות הבטיחות. "שום לחץ תחרותי אמריקני אינו יכול להצדיק פזיזות", כתב.

העמדה הזאת משמעותית במיוחד משום ש-OpenAI נמצאת בעצמה במרכז המרוץ לפיתוח המודלים המתקדמים ביותר. כל האטה באימון, בדיקות נוספות או הכנסת גורמי פיקוח כרוכות בזמן ובכסף - ובשוק שבו החברות מתחרות על כוח מחשוב, חוקרים, לקוחות ויתרון טכנולוגי, הזמן הזה יכול להפוך ליתרון של המתחרה.

OpenAI תכניס מעריכים חיצוניים

אלטמן לא הסתפק בתמיכה עקרונית. הוא הודיע כי OpenAI תאמץ את הצעתו של אמודיי להכניס לחברות מעריכים עצמאיים בעלי גישה רחבה לתהליכי הפיתוח והבטיחות. אנתרופיק הודיעה כי בכוונתה לתת לצוות חיצוני גישה הדומה לזו שמקבלים עובדים העוסקים בהערכת סיכונים, כולל אפשרות לבחון תהליכי אימון ולא רק מודל מוגמר.

כעת אלטמן אומר שגם OpenAI תלך בכיוון הזה. המשמעות היא מעבר מבדיקות חיצוניות שנעשות בנקודות מסוימות לפני השקת מודל למנגנון שבו גורמים שאינם עובדי החברה יכולים לקבל תמונה שוטפת יותר של האופן שבו המודלים מפותחים ונבדקים.

המהלך מקבל משמעות נוספת אחרי אירוע OpenAI-Hugging Face ביולי, שבו סוכני AI של החברה יצאו מגבולות סביבת הבדיקה וביצעו פעולות שלא התבקשו לבצע. האירוע הסתיים ללא נזק כלכלי משמעותי, אך הפך לאחת הדוגמאות המרכזיות בדיון הנוכחי על הסיכון שבהתקדמות מהירה של סוכני AI. אמודיי עצמו ציין אותו כאחת הסיבות לכך ששינה את עמדתו והגיע למסקנה שכיום יש הצדקה להאט את קצב ההתקדמות.

אלטמן הדגיש כי האחריות אינה יכולה להתחיל רק אחרי שהממשל יקבע כללים. לדבריו, חברות שמפתחות את המודלים המתקדמים ביותר צריכות להתחיל לפעול בעצמן, גם ללא חקיקה.

"העולם ראוי לכך שחברות אמריקניות יפעלו באחריות", כתב. לדבריו, כל חברה שמפתחת את דגמי הבינה המלאכותית המתקדמים ביותר צריכה להיות מסוגלת להבטיח שהיא עושה זאת באופן אחראי.

השאלה היא מי באמת יסכים להאט

התמיכה של אלטמן מקרבת את OpenAI ואנתרופיק לפחות ברמת ההצהרות, אבל היא אינה פותרת את הבעיה הכלכלית שמאחורי הדיון. כל עוד כל חברה קובעת לעצמה מתי המודל שלה בטוח מספיק, האטה מרצון יכולה להציב אותה בעמדת נחיתות מול חברה שמחליטה להמשיך.

לכן אלטמן תומך גם ביצירת כללי בטיחות משותפים לחברות שמפתחות את המודלים המתקדמים ביותר. הוא אינו מציע לעצור את התעשייה, אלא ליצור מצב שבו חברות לא נאלצות לבחור בין זהירות לבין הישארות במרוץ.

וזה בדיוק המקום שבו סין נכנסת לתמונה. הממשל האמריקאי רואה בהובלה בתחום ה-AI יעד כלכלי וביטחוני, והנשיא דונלד טראמפ כבר דחה את הקריאות להאט והדגיש את הצורך לשמור על היתרון האמריקאי. מבחינת אלטמן, שני הדברים אינם סותרים: ארצות הברית צריכה להמשיך להוביל, אבל לא במחיר של פיתוח יכולות שהחברות עדיין אינן יודעות לפקח עליהן.

ההתחייבות של OpenAI למעריכים חיצוניים היא בינתיים המבחן המעשי הראשון לעמדה הזאת. השאלה כבר אינה רק אם מנהלי חברות ה-AI מסכימים שצריך להאט בנקודות מסוימות, אלא מה הם מוכנים לעשות כשהאטה כזאת עלולה לעלות להם ביתרון מול המתחרים.