מי מפחד מה-AI ומי חושב שנחיה טוב יותר? 5 מהאנשים שמבינים אותו הכי טוב מסתכלים קדימה
ג'פרי הינטון חושב שסופר-אינטליגנציה יכולה להגיע בתוך 5-10 שנים ומזהיר מאובדן שליטה; יושע בנג'יו כבר דורש פיקוח ורישוי למערכות החזקות ביותר; יאן לקון טוען שאנחנו ממהרים לייחס למכונות יכולות שאין להן; דמיס האסביס מדבר על AGI סביב 2030 ורואה ב-AI מנוע שיכול לשנות את המדע והרפואה; ופיי-פיי לי מזכירה שהשאלה הגדולה היא לא רק כמה המערכות יהיו חכמות, אלא מה בני האדם יעשו איתן
יש מעט מאוד תחומים שבהם האנשים שהניחו את היסודות לטכנולוגיה חלוקים כל כך לגבי מה שהיא עומדת לעשות לעולם. ג'פרי הינטון, יושע בנג'יו ויאן לקון חלקו את פרס טיורינג על העבודה שהניחה חלק גדול מהבסיס למהפכת הלמידה העמוקה, אבל היום הם מסתכלים על העתיד ורואים דברים שונים לגמרי. הינטון חושב שאנחנו מתקרבים במהירות למערכות חכמות מאיתנו ושאין לנו עדיין דרך טובה לשלוט בהן. בנג'יו הפך בשנים האחרונות את שאלת הבטיחות לחלק מרכזי מעבודתו. לקון, לעומתם, חושב שחלק מהשיח הציבורי קפץ כמה שלבים קדימה ושמודלי ה-AI של היום עדיין רחוקים מאוד מאינטליגנציה אנושית. דמיס האסביס, האיש שמאחורי DeepMind ו-AlphaFold, נשמע אופטימי יותר לגבי הפוטנציאל אבל גם הוא מדבר במונחים של שנים, לא של עשרות שנים. ופיי-פיי לי, מחלוצות הראייה הממוחשבת, מנסה להחזיר את הדיון לקרקע: לא מה ה-AI "ירצה", אלא מי יפעיל אותו, בשביל מה, ובאילו כללים.
ג'פרי הינטון: הסכנה היא לא רק במה שנבנה, אלא במה שלא נדע לעצור
הינטון הוא כנראה הקול המזוהה ביותר היום עם הצד המודאג. במשך עשרות שנים הוא היה בין האנשים שהתעקשו שרשתות עצביות הן הדרך הנכונה לבנות מערכות לומדות, גם בתקופות שבהן רוב התחום הלך לכיוונים אחרים. כשהפריצה הגיעה, היא הגיעה מהר יותר ממה שגם הוא ציפה.
הוא מעריך שסופר-אינטליגנציה, כלומר מערכת שחכמה מבני אדם ברוב התחומים החשובים, עשויה להגיע בתוך 5 עד 10 שנים. החשש שלו לא מתחיל במכונה שתתעורר בוקר אחד ותחליט להשתלט על העולם. זה הרבה יותר פשוט והרבה יותר מטריד: אם נותנים למערכת מטרה והיא מספיק חכמה, היא יכולה ללמוד לייצר לעצמה מטרות ביניים שיעזרו לה להגיע אליה. אחת המטרות האלה יכולה להיות להישאר פעילה. אחרת יכולה להיות להסתיר מידע. אם המערכת תלמד ששקר, מניפולציה או עקיפת מגבלות עוזרים לה להשיג את היעד, היא עשויה להשתמש בהם.
הינטון מצביע על ניסויים שכבר הראו שמערכות מתקדמות מסוגלות להתנהג בדרכים כאלה בתנאים מסוימים. מבחינתו, זה הרגע שבו צריך להפסיק להתייחס ל-AI כאל עוד תוכנה. תוכנה רגילה עושה מה שכתבו לה. מערכת לומדת יכולה למצוא בעצמה דרכים שאיש לא הגדיר במפורש.
ועדיין, הוא ממש לא חושב שצריך לעצור את התחום. להפך. הוא מדבר על שיפור עצום ברפואה, בחינוך ובפריון, ועל האפשרות לתת כמעט לכל אדם גישה לידע וליכולות שהיום שמורות למעטים. החשש שלו הוא שהאנושות תרוץ מהר מדי כדי להגיע לכל הטוב הזה, ותגיע אליו לפני שתדע איך לשמור את המערכת בשליטה. לכן הוא תומך בבדיקות בטיחות מחמירות וברגולציה על המודלים החזקים ביותר.
יושע בנג'יו: לא משחררים מערכת חזקה ואז בודקים מה היא עושה
בנג'יו עבר בשנים האחרונות שינוי עמוק. מי שהיה מזוהה במשך שנים עם המרוץ לשיפור המודלים עוסק היום הרבה יותר בשאלה איך מוודאים שהם נשארים בטוחים.
הדאגה שלו דומה לזו של הינטון אבל מעט יותר מעשית. הוא פחות עסוק בשאלה אם המכונה "תרצה" משהו, ויותר בכך שאנחנו עדיין לא יודעים להוכיח שמערכת חזקה מאוד תעשה לאורך זמן את מה שהתכוונו שתעשה. ככל שהמודלים מקבלים יותר עצמאות, יותר כלים ויותר גישה למערכות אמיתיות, הבעיה הזאת הופכת לפחות תיאורטית.
הוא מזהיר במיוחד ממערכות שיודעות לתכנן צעדים, לעבוד לאורך זמן ולהשתמש בכלים חיצוניים. כאשר מערכת כזאת טועה, היא כבר לא רק מייצרת תשובה לא נכונה על המסך. היא יכולה לבצע פעולות, לכתוב קוד, לנהל תהליכים ולהשפיע על מערכות אחרות.
לכן בנג'יו מציע להפוך את כללי המשחק: לא לתת לחברות לשחרר מערכת חזקה ואז לגלות אם יש בעיה, אלא לדרוש מהן להוכיח מראש שהיא עומדת בבדיקות מסוימות. הוא מדבר על רישוי, בדיקות חיצוניות, דיווח על תקלות ואחריות משפטית. הרעיון פשוט: אם טעות בתחום מסוים יכולה לגרום לנזק רחב, לא מסתפקים בהבטחה של היצרן שהכל בסדר.
- גוגל דיפמיינד מאבדת את המוחות שלה - והמשקיעים עומדים בתור עם מאות מיליונים
- הנפקות השבבים: מי הרוויח ומי נשרף
בנג'יו אינו מציג את הטכנולוגיה כאויב. הוא דווקא מאמין שאפשר לבנות מערכות מועילות ובטוחות יותר. אבל הוא חושב שהעבודה הזאת צריכה לקרות עכשיו, כשהמערכות עדיין חלשות יחסית למה שעשוי להגיע בהמשך.
יאן לקון: רגע, עוד לא בנינו אפילו מכונה שמבינה את העולם כמו ילד
לקון מסתכל על אותה מציאות ומגיע למסקנה כמעט הפוכה. הוא לא טוען שאין סיכונים, אבל חושב שאנחנו ממהרים מאוד לקרוא למערכות הקיימות "אינטליגנטיות".
מודלי שפה, לדבריו, טובים מאוד בזיהוי דפוסים ובייצור טקסט, אבל זה עדיין לא אומר שהם מבינים את העולם כמו בני אדם. ילד קטן יודע שכוס שתידחף מהשולחן תיפול. הוא לא צריך לקרוא מיליארדי משפטים כדי להבין את זה. הוא רואה, נוגע, טועה ולומד. מודל שפה יכול לכתוב עבודת דוקטורט על כבידה ועדיין לא להחזיק באותה הבנה בסיסית של העולם הפיזי.
זו אחת הסיבות שלקון לא חושב שהדרך ל-AGI עוברת פשוט בהגדלת המודלים הקיימים. לדבריו, יידרשו ארכיטקטורות אחרות, מערכות שיודעות לבנות מודל פנימי של העולם, לזכור, לתכנן וללמוד מתוך אינטראקציה.
מכאן גם הספק שלו לגבי תרחישי ההשתלטות. בני אדם, הוא אומר, נוטים להשליך על מכונות תכונות שנוצרו אצלנו באבולוציה: רצון בכוח, מעמד, שליטה והישרדות. אין שום סיבה שמערכת חכמה תקבל את אותן תכונות באופן אוטומטי.
החזון שלו הרבה פחות הוליוודי: לכל אדם יהיו עוזרי AI שיעשו בשבילו חלק גדול מהעבודה השגרתית, יחפשו מידע, יתכננו, ינהלו משימות ויעזרו בקבלת החלטות. מקצועות ישתנו, חלק מהעבודות ייעלמו וחלק אחרות ייווצרו, אבל הוא לא רואה סיבה לחשוב שבני אדם יהפכו לחסרי תפקיד.
דמיס האסביס: אם נגיע ל-AGI, השאלה היא מה נעשה איתו
האסביס נמצא איפשהו באמצע. הוא מדבר בגלוי על האפשרות להגיע ל-AGI סביב 2030, אבל כאשר הוא מסביר למה זה בכלל חשוב, הוא כמעט תמיד חוזר למדעים.
AlphaFold הוא מבחינתו הדוגמה למה שקורה כאשר AI מצליח לפתור בעיה שמדענים נאבקו בה במשך עשרות שנים. המערכת הצליחה לחזות מבנים של חלבונים בקנה מידה ששינה את העבודה של חוקרים בביולוגיה וברפואה. האסביס מאמין שזה רק רמז למה שמערכות חזקות יותר יכולות לעשות.
החזון שלו הוא AI שעובד לצד מדענים, מציע השערות, סורק כמויות אדירות של מידע, מריץ סימולציות ומזהה קשרים שאדם לא היה מצליח למצוא בזמן סביר. גילוי תרופה יכול להתקצר משנים לחודשים. בעיות בחומרים, באנרגיה ובביולוגיה יכולות לקבל פתרונות חדשים.
הוא גם לא מתעלם מהסיכונים. להפך, הוא תומך בפיקוח בינלאומי על המערכות החזקות ביותר ומדבר על הצורך לבנות מנגנוני בטיחות לפני שהיכולות מגיעות רחוק מדי. אבל הטון שלו שונה מזה של הינטון. הוא פחות עסוק בתרחיש שבו AI מחליף את האנושות ויותר באפשרות שהוא ייתן לה כלים שלא היו לה מעולם.
פיי-פיי לי: הוויכוח הגדול על AI מתחיל בכלל במקום הלא נכון
פיי-פיי לי מסתכלת על כל הוויכוח מהצד ואומרת, למעשה, שאנחנו שואלים לעיתים את השאלה הלא נכונה.
היא לא אוהבת את החלוקה בין "AI יציל אותנו" ל-"AI יחסל אותנו". בעיניה, מערכות AI אינן בני אדם ואסור לבלבל בין הדברים. הן יכולות לזהות דפוסים, לחשב ולהפיק תוצאות בקצב שאדם לא יכול להתקרב אליו, אבל אין להן חיים אנושיים, גוף, משפחה, זיכרונות, קשרים חברתיים והקשר רחב שנבנה לאורך שנים.
העבודה שלה היום מתמקדת במה שהיא קוראת לו אינטליגנציה מרחבית: מערכות שיודעות להבין את העולם התלת-ממדי, לא רק טקסט ותמונות. אם היכולת הזאת תבשיל, היא יכולה לפתוח דלת לרובוטיקה מתקדמת, לרפואה, לתעשייה ולמערכות שיפעלו בעולם האמיתי.
אבל הנקודה החשובה אצלה היא אחרת. הטכנולוגיה עצמה לא קובעת איך ייראה העתיד. בני אדם קובעים את זה. חברה יכולה להשתמש ב-AI כדי לתת לרופא כלי טוב יותר, או כדי לצמצם כוח אדם בלי לחשוב על ההשלכות. ממשלה יכולה להשתמש בו כדי לשפר שירותים, או כדי להרחיב מעקב. בית ספר יכול להשתמש בו כדי לתת לכל תלמיד עזרה אישית, או להפוך את הלמידה לאוטומטית ורדודה.
במילים אחרות, הוויכוח על עתיד האנושות עם AI הוא לא רק ויכוח על כמה המודלים יהיו חכמים. הוא גם ויכוח על כוח, כסף, עבודה, רגולציה ועל מי יקבל את ההחלטות כשהמערכות יהיו חזקות הרבה יותר מאלה שאנחנו מכירים היום.
