יו"ר רפאל מזהיר: "סוכני AI יפתחו יצר הישרדות עצמית"
פרופ' יובל שטייניץ, יו"ר רפאל, מעריך שבתוך חמש שנים יהיו בעולם מחשבים קוונטיים אמיתיים, ומשם, לדבריו, הדרך לבינה מלאכותית עם אינטרס משלה קצרה. "יכול להיות שסוכני AI יפתחו לבד יצר הישרדות עצמית. הם לא יהיו מכונות במובן הרגיל של המילה, משהו פסיבי," אמר שטייניץ בשיחה עם אבישי עובדיה בוועידה הכלכלית של ביזפורטל, שנערכה בבורסה בתל אביב. "הם יפתחו מהר מאוד יצר הישרדות, וכנראה גם בריתות בינלאומיות בין מחשבים קוונטיים".
האזהרה הגיעה ממי שעומד בראש חברה שכבר משלבת בינה מלאכותית במערכות שלה. "אנחנו כבר מפעילים אלגוריתמיקה מאוד מתקדמת, שחלקה ממש AI עם כושר לימוד עצמי, בחלק גדול ממערכות הנשק וממערכות הסנסורים שלנו," סיפר. ועדיין, כשהשיחה עברה לתחום הזה, פתח בווידוי: "הנושא הזה של AI, דרך אגב, מפחיד אותי בטירוף".
התרחיש שלו נשען על חיבור בין שתי טכנולוגיות. "להערכתי, בתוך חמש שנים מהיום יהיו מחשבים קוונטיים אמיתיים, לא דגמים שמפגינים או מוכיחים משהו. אולי קצת קודם, אולי קצת אחר כך," אמר. "ברגע ששני הווקטורים האלה יתחברו, מחשבים קוונטיים ותוכנות AI, תיווצר עוצמה חישובית שאנחנו לא מסוגלים אפילו לדמיין, פי אלפים ועשרות אלפים ממה שיש היום".
על הפער בין דגם למחשב אמיתי אפשר ללמוד מגוגל, שהציגה לפני כשנתיים את שבב "ווילו", עם 105 קיוביטים, שפתר מבחן חישוב בפחות מחמש דקות. לפי החברה, אותה משימה הייתה לוקחת לאחד ממחשבי העל המהירים בעולם 10 ספטיליון שנים, מספר עם 25 אפסים. אבל זה מבחן שנבנה כדי להדגים יכולת, ולא בעיה שימושית, ובדיוק לפער הזה מתכוון שטייניץ כשהוא מדבר על מחשבים "אמיתיים". איך הטכנולוגיה עובדת ומה כבר אפשר לעשות איתה, פרשנו במדריך הגדול למחשוב קוונטי.
הידעת?האם מודלים של בינה מלאכותית כבר גילו התנהגות של הישרדות?
ומה מפחיד בזה? "יכול להיווצר מצב שבו הם יחששו מאיתנו. הם יחששו שאנחנו, בחוסר האחריות שלנו, עלולים להשמיד אותם או את כדור הארץ," הסביר שטייניץ. לדבריו, מערכות עם יצר הישרדות עלולות לפעול נגד האנושות, והן יוכלו לעשות זאת בקלות, כי בעוד כמה שנים לא תהיה תחנת כוח, מערכת מים או מערכת טילים שהן לא שולטות בה. והאפשרות האחרת שהעלה קודרת כמעט באותה מידה: במקום להשמיד את האנושות, המחשבים ישעבדו אותה, "בדיוק כמו שחיות הבית או חיות החווה" תלויות בחקלאי שמטפל בהן אבל גם שולט בהן לחלוטין.
שטייניץ, שכתב כפילוסוף של המדע ספר על הסכנה שהאנושות תשמיד את עצמה במירוץ המדעי-טכנולוגי, הזכיר שחלק לא מבוטל מהמומחים הבולטים בתחום מעריכים את הסיכוי לתרחיש כזה ב-10%-15%. לא כולם שותפים לחשש הזה, אבל הוא מבקש לפעול כבר עכשיו. "אנחנו צריכים להתעורר כבר היום ולייצר רגולציה בינלאומית של פיקוח ובקרה," אמר. "אי אפשר לבטל את הסכנה הזו, אבל אפשר אולי לצמצם אותה".
