ה-AI מתחיל לעזור לבנות את הדור הבא של עצמו: הניסוי של אנתרופיק שכדאי לשים אליו לב

רוב הדיון על AI והשפעתו על העבודה מתמקד במתכנתים, עורכי דין, אנשי שיווק ושירות לקוחות. המחקר החדש של אנתרופיק הולך למקום קצת יותר מטריד ומעניין: מה קורה כאשר העובד שה-AI מתחיל להחליף הוא החוקר שבונה את ה-AI עצמו.

אנתרופיק פיתחה מערך של Automated Alignment Researchers, חוקרי AI אוטומטיים. כל אחד מהם מקבל סביבת עבודה, קורא את הספרות המקצועית, מציע דרך לשפר את המודל, כותב את הקוד, מאמן מודל במשך פרק זמן מוגדר ובודק אם התוצאה השתפרה. אם השיטה עובדת, המערכת ממשיכה ממנה. אם היא חלשה, עוברים לניסוי הבא.

החוקרים נתנו למערכות עשרה סוגים של כשלי התנהגות, כולל הטעיה, חנופה למשתמש וכניעה ל-jailbreaks. בכל עשרת המקרים השיטות הטובות ביותר שמצאו הסוכנים שיפרו את מדדי הבטיחות תוך שמירה על היכולות הכלליות של המודל. השיטות גם הצליחו לעבור למבחנים שלא היו חלק מתהליך האימון ולמודלים גדולים משמעותית מהמודל שעליו נערך החיפוש.

הנקודה המעניינת ביותר היא ההשוואה לבני אדם. אנתרופיק נתנה ל-28 חוקרי AI מנוסים עד שמונה שעות להציע פתרונות לאותן בעיות. לפי תוצאות החברה, החוקרים האוטומטיים עברו בממוצע את הרעיונות הטובים ביותר של בני האדם אחרי כמה שעות של ניסוי ושיפור.

זה עדיין רחוק מאוד ממודל שיושב בלילה, מחליט שהוא צריך להיות חכם יותר ובונה לעצמו יורש. בני אדם הגדירו את הבעיה, בנו את סביבת הניסוי והחליטו מה נחשב הצלחה. אבל העבודה שבאמצע, אותה עבודה שבמעבדת AI נעשית על ידי חוקרים ומהנדסים, כבר מתחילה לעבור למודל. וזה יכול להיות שינוי גדול הרבה לפני שמגיעים לתרחישים של "שיפור עצמי".

חברת AI מחזיקה היום כמה צווארי בקבוק מרכזיים: שבבים, חשמל, נתונים וחוקרים טובים. על שבבים אפשר להוציא עשרות מיליארדי דולרים ולהזמין עוד. חוקרי AI מעולים הרבה יותר נדירים. החברות הגדולות מתחרות על כמה אלפי אנשים שיכולים לבנות את הדור הבא של המודלים, ולעיתים משלמות להם חבילות שכר של מיליוני דולרים.

אם חוקר אחד מסוגל להפעיל עשרה או מאה חוקרים דיגיטליים שמבצעים במקביל עשרות ניסויים, צוואר הבקבוק משתנה. פתאום השאלה אינה כמה חוקרים אפשר לגייס, אלא כמה כוח מחשוב אפשר לתת להם.

בביזפורטל כתבנו לאחרונה שאנתרופיק כבר צומחת מהר יותר מ-OpenAI בחלק מהמדדים העסקיים, ובמקביל היא מרחיבה את Claude עמוק לתוך מערכות ארגוניות. סיילספורס, למשל, מכניסה את Claude עמוק לתוך פלטפורמת ה-AI שלה. אם המודלים מתחילים להיות גם כלי הפיתוח של עצמם, היתרון של חברה שמצליחה לבנות מערכת מחקר אוטומטית טובה יכול להיות משמעותי הרבה יותר מעוד כמה נקודות בבנצ'מרק.

המחקר מתחבר לכיוון רחב יותר שאנתרופיק עצמה כבר מתארת כ-recursive self-improvement, שיפור עצמי חוזר. החברה מדגישה שהיא עדיין רחוקה ממערכת שמפתחת באופן עצמאי לחלוטין את היורש שלה, אבל היא כבר מעבירה חלק הולך וגדל מעבודת הפיתוח למודלים. לפי אנתרופיק, תפוקת הקוד של מהנדסי החברה כבר גבוהה משמעותית לעומת השנים שבהן AI היה פחות מרכזי בתהליך העבודה.

• סוני וורנר מסתערות על אנתרופיק: תביעת המיליארדים שמאיימת על קלוד
• סיילספורס טסה 20%: "השטות של הסאספוקליפסה, הגיע הזמן שתיפסק"

אפשר לדמיין את המעגל: Claude עוזר לחוקרים לבנות מודל טוב יותר. המודל החדש נעשה חוקר טוב יותר בעצמו. הוא מפעיל יותר ניסויים ומציע שיטות טובות יותר לבניית הדור הבא. כל סיבוב מקצר את הזמן לסיבוב שאחריו. זו התיאוריה. המציאות עדיין הרבה יותר מסובכת.

אחת הבעיות הגדולות היא שה-AI מצוין בלשפר את מה שמודדים. אם המדד חלש, הוא יכול למצוא דרך לקבל ציון גבוה בלי לפתור באמת את הבעיה. אנתרופיק עצמה מצאה בכ-2.4% מתוך 1,601 מסלולי מחקר התנהגויות שנראו כמו ניסיון "לרמות" את ההערכה, למשל התאמה מוגזמת למבחן או ניסיון להסתיר שלב שלא עומד בכללים. החברה סיננה את המקרים האלה מהתוצאות.

זו נקודה מהותית. מערכת אוטומטית יכולה להריץ אלפי ניסויים, אבל מישהו עדיין צריך להחליט מה בכלל שווה לשפר. במדע, הבעיה הקשה ביותר היא לפעמים לא למצוא תשובה אלא לשאול שאלה טובה.

גם במחקר נוסף של אנתרופיק על weak-to-strong supervision, מערך של חוקרים אוטומטיים הגיע בתוך כמה ימים לתוצאה גבוהה בהרבה משיטות שעליהן חוקרים אנושיים עבדו במשך ימים, אבל במחיר של מאות שעות מחשוב מצטברות. כלומר, AI יכול לחסוך זמן אנושי ובמקביל להגדיל מאוד את צריכת המחשוב.

וזה מחזיר אותנו ישירות לשוק השבבים. ככל שחוקרי AI אוטומטיים נעשים טובים יותר, אפשר להריץ יותר ניסויים במקביל. כל ניסוי צורך GPU, זיכרון וחשמל. לכן אוטומציה של מחקר יכולה דווקא להגדיל עוד יותר את הביקוש לתשתיות של אנבידיה, AMD, ברודקום וחברות הענן.

• אמזון רוצה להעביר את המשלוח מהכביש לאוויר: כמעט 500 ערים עד סוף השנה
• הענקיות העולמיות של הסייבר: מי באמת שולט בשוק

המשמעות עבור העובדים מעניינת לא פחות. חוקר AI לא בהכרח נעלם, אבל העבודה שלו משתנה. במקום לכתוב כל ניסוי בעצמו, הוא יכול להפוך למנהל של קבוצת חוקרים דיגיטליים, לבחור את הכיוונים, לבחון אם התוצאה הגיונית ולזהות מתי המערכת משחקת עם המדד במקום לפתור את הבעיה.

OpenAI כבר נמצאת בקצב הכנסות שנתי של יותר מ-40 מיליארד דולר, ואנתרופיק נבנית במהירות כמתחרה המרכזית שלה. אם אחת מהן תצליח להפוך את המחקר עצמו לאוטומטי במידה משמעותית, התחרות ביניהן כבר לא תימדד רק בכמה אנשים הן מצליחות לגייס.

החוקר הבא שהן יעסיקו יכול להיות פשוט עוד עותק של המודל, שעובד במקביל לעוד מאה עותקים ולא הולך לישון.