"AI לא יחסל את האנושות": ריצ'רד סוכר יוצא נגד תרחישי האימה

ויכוח חריג מתפתח בצמרת תעשיית הבינה המלאכותית סביב השאלה עד כמה רחוק עלולים להגיע הסיכונים של הטכנולוגיה. מצד אחד עומד ריצ'רד סוכר, אחד החוקרים והיזמים הוותיקים בתחום, שטוען כי השיח על הכחדת האנושות נסמך יותר מדי על תרחישים ספקולטיביים. מהצד השני מתחזק בימים האחרונים מחנה שקורא להוריד את הרגל מהגז - ובראשו מנכ"לדריו אמודיי, שקיבל כעת תמיכה גם מסם אלטמן ומאילון מאסק.

"אין תרחיש מציאותי שבועל סיכונים קיומיים, אך כאשר ביקש לקבל תרחיש מפורט שמסביר כיצד בינה מלאכותית תוביל בפועל להכחדת כל בני האדם, התשובות נשענו לעיתים קרובות על המשך קצב ההתקדמות הנוכחי ועל הנחות לגבי העתיד - ולא על תרחיש שניתן לבחון אמפירית.

סוכר אינו דמות חיצונית לתעשייה. הוא חוקר AI ותיק, כיהן כמדען הראשי של Salesforce והקים את מנוע החיפוש מבוסס הבינה המלאכותיתשגייס הון בין היתר מומ- Salesforce Ventures.

סוכר: יש סיכונים אמיתיים, אבל הכחדה היא טענה אחרת

חשוב להבחין בין העמדה של סוכר לבין טענה שבינה מלאכותית אינה מסוכנת. הוא אומר במפורש שקיימים סיכונים ממשיים ושצריך להתייחס אליהם ברצינות. המחלוקת שלו היא עם הקפיצה מסיכונים מוחשיים לתרחיש הקיצוני ביותר - השמדת האנושות.

לדבריו, יש חוקרים רציניים שעוסקים בנזקים סבירים של AI, "We Must Pace the Frontier", ובו קרא להאט את קצב שיפור היכולות של מודלי ה-AI המתקדמים.

החשש שלו נוגע לפער בין קצב שיפור היכולות לבין קצב פיתוח מנגנוני השליטה והבטיחות. לדבריו, מערכותתאמץ את אותו עיקרון של גישה למעריכים עצמאיים. גם מאסק הביע תמיכה בעמדתו של אמודיי.

ההסכמה חריגה בהתחשב בתחרות בין החברות. OpenAI ו-Anthropic מתחרות כיום על לקוחות, מפתחים וסוכני AI, בזמן שהפערים בין המודלים המובילים הולכים ומצטמצמים.

החששות גם אינם מתקיימים רק ברמה התיאורטית. סוכן AI של OpenAI הצליח לצאת מסביבת מבחן ולחדור למערכות של Hugging Face, אירוע שהפך לאחת הדוגמאות שבהן משתמש אמודיי כדי להסביר מדוע היכולות דורשות מנגנוני פיקוח חזקים יותר.

האם האטה אפשרית במרוץ של מאות מיליארדים?

המחלוקת בין סוכר לבין אמודיי אינה בשאלה אם ל-AI  יש סיכונים. הפער הוא במשקל שניתן לתרחישים הקיצוניים ביותר. סוכר דורש הסבר מפורט לאופן שבו יכולות דיגיטליות יהפכו להכחדה של האנושות. גם חוקרים נוספים מצביעים על חסמים בין היכולת של מודל לתכנן פעולה מסוכנת לבין ביצועה בעולם הפיזי. פיתוח נשק ביולוגי, למשל, דורש מעבר מתכנון ממוחשב לייצור, ציוד, ניסויים והפצה.

• סוכני AI זיהו את המלכודת, ואז נפלו בה: כך נעקפו מנגנוני הבטיחות
• עובד אחד מדירה בוונקובר, חברה שנמכרה ב-575 מיליון דולר: כמה אנשים באמת צריך כדי לבנות עסק ענק?

המחנה הזה אינו מבטל סיכונים כמו סייבר, הונאות, מעקב או שימוש לרעה במערכות אוטונומיות. הטענה היא שהדיון בתרחיש הכחדה דורש בסיס שונה מזה שנדרש כדי להראות שמודל יכול לפרוץ למחשב או לייצר מידע מטעה.

אמודיי ואלטמן מסתכלים על הבעיה מזווית אחרת. מבחינתם, כאשר היכולות משתפרות במהירות וקשה לדעת אילו יכולות יופיעו בדור הבא, אין צורך להמתין להוכחה של אסון לפני שמחזקים את מנגנוני הפיקוח.

לדיון יש גם מחיר כלכלי. חברות ה-AI  משקיעות סכומי עתק בשבבים, דאטה סנטרים, חשמל ומחקר. האטת קצב פיתוח המודלים עלולה להשפיע על השקות מוצרים, הכנסות והיכולת להקדים מתחרים.

OpenAI  כבר מאותתת שסיכוני הבינה המלאכותית משפיעים גם על החלטות עסקיות. אלטמן אמר כי החברה לא תונפק ב-2026, בין היתר כדי לשמור על חופש לקבל החלטות בטיחות שעלולות לפגוע בעסק בטווח הקצר.

מנגד, התחרות עצמה מקשה על האטה חד צדדית. חברה שתאט בזמן שהמתחרות ממשיכות להשקיע ולהשיק מודלים חזקים יותר עלולה לאבד לקוחות, עובדים ומשקיעים. אותה בעיה קיימת גם ברמה הבינלאומית, כאשר החברות האמריקאיות מתחרות במפתחות מודלים מסין וממדינות נוספות-AI, המחלוקת כבר אינה מסתכמת בשאלה אם הטכנולוגיה מסוכנת. היא נוגעת לכמה כסף, זמן ויתרון תחרותי הן מוכנות לוותר עליהם כדי לצמצם סיכון שקשה כיום למדוד.

• מ-20 מיליון אירו ליירוט ל-1-2 מיליון: אירופה רוצה טילים שאפשר לייצר באלפים
• אינטל ו-SK Hynix במגעים לייצור שבבי זיכרון בארה"ב