קואליציה בלתי צפויה של דמויות מהעולמות הפוליטיקה, הטכנולוגיה והתרבות מתאחדת כדי לעצור את הפיתוח של בינה מלאכותית על-אנושית. הנסיך הארי ומגן מרקל, דוכס ודוכסית ססקס, חברו לגאופרי הינטון, אבי הבינה המלאכותית והזוכה בפרס נובל, בקריאה להקפאת הפיתוח של מערכות AI שעולות על היכולות האנושיות. העתירה החדשה מציגה חזית רחבה שכוללת גם את סטיב באנון, סטיב ווזניאק מייסד אפל, והכלכלן דרון אצמוגלו.

הקריאה מבקשת איסור גורף על פיתוח של בינה מלאכותית על-אנושית עד שיהיה הסכמה מדעית רחבה שניתן לפתח אותה בצורה בטוחה וניתנת לשליטה. זו לא הפעם הראשונה שמדענים וטכנולוגים מזהירים מפני הסכנות של AI, אבל הפעם הקואליציה רחבה ומגוונת יותר מבעבר. רשימת החתומים כוללת את ריצ'רד ברנסון, סוזן רייס לשעבר יועצת הביטחון הלאומי של אובמה, והמחבר סטיבן פריי.

מקס טגמארק, פרופסור ב-MIT ונשיא המכון לעתיד החיים שארגן את הקריאה, רואה במגוון החתומים סימן מעודד. לדבריו, מה שמאחד את כל האנשים האלה על פני הספקטרום הפוליטי הוא שהם בני אדם ולא מכונות, ולכן אכפת להם שהעתיד יהיה כזה שבו המכונות עובדות בשבילנו ולא להפך. טגמארק שמח לראות שהדאגה מ-AI על-אנושי יוצאת מ"בועת החנונים" ומושכת שמות גדולים מתחומים מחוץ לטכנולוגיה ומדע.

רוב האנשים בארה״ב רוצים רגולציה חזקה

הסקר שפרסם הארגון מראה ש-73% מהאמריקאים רוצים רגולציה חזקה על בינה מלאכותית מתקדמת. הממצאים האלה עולים בקנה אחד עם סקרים אחרים שמראים תמיכה דו-מפלגתית בפיקוח על AI, סקר גאלופ האחרון מצא ש-88% מהדמוקרטים ו-79% מהרפובליקנים תומכים בשמירה על כללים סביב AI למען בטיחות וביטחון. למרות זאת, לא כולם במפלגה הרפובליקנית מסכימים עם הגישה הזאת. דמויות מפתח בממשל טראמפ דוחות רגולציה שהם רואים כמעכבת. דיוויד סאקס, צאר הבינה המלאכותית של הבית הלבן, לא חתם על הקריאה ונחשב לתומך בקידום AI מהיר יותר. בעוד שמנהיגים ימניים כמו באנון ביקורתיים על הסכנות של AI, אחרים בממשל רואים בהצעות הרגולציה מעמסה מיותרת על סקטור מבטיח.

• "מסלול לימודים בלי בינה מלאכותית זה פשע נגד הסטודנטים"
• קרן המטבע: בום ה-AI מזכיר את הדוט-קום - אבל לא יקריס את הכלכלה
• המלצת המערכת: כל הכותרות 24/7

טגמארק מנסה לגשר על הפער ואומר שהוא בקשר עם סאקס. לדבריו, הקריאה של המכון לבקרה על בינה מלאכותית על-אנושית תואמת את הרצון לקדם AI, אבל בדרך בטוחה. סאקס רוצה מרכזי נתונים גדולים שיאפשרו מחקר מעולה, אבל טגמארק לא מרגיש שהוא מתלהב מבניית "שליט דיגיטלי" שנאבד עליו שליטה.

הקריאה להקפאה מגיעה בזמן שחברות הטכנולוגיה הגדולות מציבות לעצמן יעדים שאפתניים בתחום. מארק צוקרברג אמר ביולי שפיתוח בינה מלאכותית על-אנושית "נמצא כעת באופק". זה לא רק צוקרברג. גוגל ו-OpenAI הציבו את הפיתוח של בינה מלאכותית כללית, שתתאים לרמת האינטליגנציה האנושית ברוב המשימות הקוגניטיביות, כיעד מפורש של העבודה שלהם. חלק מהמומחים מתייחסים לדיבורים האלה בספקנות ורואים בהם תרגיל יחסי ציבור במירוץ של מאות מיליארדי דולרים.

החששות מבינה מלאכותית 

החששות מבינה מלאכותית על-אנושית לא מתמקדים רק בעבודות שיעלמו לחלוטין. המכון לעתיד החיים מזהיר מסכנות רחבות יותר: פגיעה בחירויות האזרח, סיכונים לביטחון לאומי, ואפילו איום קיומי על האנושות. הפחד המרכזי הוא שמערכת על-אנושית תצליח לחמוק מהשליטה והכווינה האנושית ותפעל בניגוד לאינטרסים שלנו. זה נשמע כמו מדע בדיוני, אבל מדענים רציניים לוקחים את האפשרות הזאת ברצינות. נתוני הסקר שפרסם המכון מראים שרק 5% מהאמריקאים תומכים בסטטוס קוו של פיתוח מהיר ולא מוסדר. שישה מתוך עשרה מאמינים שאסור לפתח AI על-אנושי עד שיוכח שהוא בטוח וניתן לשליטה. המספרים האלה מצביעים על פער משמעותי בין הציבור לחברות הטכנולוגיה במהירות הרצויה של הפיתוח. הציבור, לפחות על פי הסקר הזה, בעד גישה זהירה יותר.

• רדיט תובעת את פרפלקסיטי: "מירוץ הבינה המלאכותית הפך לכלכלת גניבת נתונים"
• קארבנה נופלת ב-10%: כשחברת טכנולוגיה מגלה שהיא בעצם חברת מימון
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• מ-240 לפחות מדולר - הקריסה של ביונדמיט

השאלה המרכזית היא איך לאזן בין החדשנות הטכנולוגיה שמניעה צמיחה כלכלית לבין הסיכונים שהיא עלולה ליצור. חברות הטכנולוגיה הגדולות משקיעות סכומי עתק בפיתוח AI, מאות מיליארדי דולרים השנה בלבד. עצירה או האטה של הפיתוח יכולה להשפיע על התחרותיות הגלובלית של ארה"ב, במיוחד מול סין. מצד שני, פיתוח לא מבוקר עלול ליצור סיכונים שיעלו יקר בהרבה מהתועלות הכלכליות.

בסופו של דבר, הוויכוח על בינה מלאכותית על-אנושית הוא ויכוח על מי קובע את עתיד האנושות. האם החברות הפרטיות שמפתחות את הטכנולוגיה, הממשלות שמנסות להסדיר אותה, או הציבור שיושפע ממנה? הקריאה החדשה מנסה להעביר חלק מהשליטה לידי הציבור והמדע, אבל עדיין לא ברור איך זה יתממש בפועל. מה שברור הוא שהוויכוח הזה רק מתחיל, והחלטות שיתקבלו בשנים הקרובות יכולות לקבוע את מסלול הפיתוח הטכנולוגי לעשורים הבאים.