האם הבינה המלאכותית באמת מסוכנת לרוב האנושות?
הדיון על הסיכון שבבינה מלאכותית מתמקד בדרך כלל בשאלה מה יקרה אם מערכות חכמות יקבלו יותר כוח. אבל לפני שמניחים שהחלופה האנושית בטוחה יותר, כדאי לבחון מי מחזיק כיום בכוח, כיצד מתקבלות החלטות ועד כמה הן באמת משרתות את רוב הציבור
בינה מלאכותית הדיון הציבורי על בינה מלאכותית הולך ונעשה דרמטי יותר. לצד ההתלהבות מהאפשרויות שהיא פותחת ברפואה, במדע, בחינוך ובכלכלה, נשמעת אזהרה חמורה בהרבה: ייתכן שבעוד שנים אחדות יתקיימו מערכות שאינן אנושיות, שיהיו בעלות יכולות אינטלקטואליות העולות על אלו של בני אדם בתחומים רבים, ושיוכלו לקבל החלטות ולבצע פעולות במידה הולכת וגוברת של עצמאות.
בספטמבר 2026 הזהירו חוקרים כי אוטומציה של מחקר הבינה המלאכותית תאיץ מאוד את קצב שיפור המערכות ותיצור מצב שבו הפיקוח האנושי יתקשה לעמוד בקצב. לצד זאת מודגשת גם אי הוודאות הגדולה לגבי לוחות הזמנים והסבירות של תרחישים כאלה.
זהו אולי הסיכון העמוק ביותר: לא שמחשב יחשב מהר מאיתנו, אלא שמערכת לא אנושית, המסוגלת לנתח כמויות מידע שאף אדם אינו מסוגל לעבד, תשתתף בקבלת החלטות בעלות השלכות על מיליוני בני אדם, ואולי תהיה אינטליגנטית בהרבה מן האנשים שאמורים לפקח עליה.
יש הטוענים כי הסכנה הקיצונית ביותר היא שמערכת בינה מלאכותית תקבל בעתיד החלטות שיגרמו לנזקים עצומים ואף, בתרחישי קיצון, לקץ האנושות. אולם גם כאן ראוי לזכור שהיכולת לגרום להרס המוני אינה חדשה ואינה ייחודית למכונות. ההיסטוריה האנושית כוללת מנהיגים שכוחם והחלטותיהם הביאו למותם של מיליונים. תחת הנהגתו של אדולף היטלר ביצע המשטר הנאצי את השואה, שבה נרצחו שישה מיליון יהודים, לצד עשרות מיליוני קורבנות נוספים.
כיבושיו של ג'ינגיס חאן והאימפריה המונגולית לוו אף הם בהרג המוני, אף שהערכות מספר הקורבנות בתקופה זו אינן ודאיות. גם בעידן הנוכחי החלטות של מנהיגים עלולות לחולל מלחמות והרס רחבי היקף: הפלישה הרוסית לאוקראינה, שנפתחה בהוראת נשיא רוסיה ולדימיר פוטין, הביאה למלחמה מתמשכת ולאבדות כבדות. אין בכך כדי להשוות בין המנהיגים הללו או בין היקפי מעשיהם, אלא להצביע על עובדה פשוטה: עצם היותו של מקבל ההחלטות אדם אינה ערובה לכך שהחלטותיו יהיו מוסריות, רציונליות או בטוחות לאנושות.
לצד הסיכון הזה קיימים סיכונים מוחשיים ומיידיים יותר: אובדן מקומות עבודה ושינויים חריפים בשוק העבודה, ריכוז כוח בידי חברות ומדינות המחזיקות במודלים ובתשתיות המחשוב, מעקב המוני, דיסאינפורמציה, מתקפות סייבר, נשק אוטונומי ופגיעה בפרטיות. אבל כאן ראוי לשאול שאלה שכמעט אינה נשאלת: בהשוואה למה, ומי מקבל את ההחלטות היום?
מי מקבל את ההחלטות כיום?
לפני שמניחים שקבלת החלטות בידי מערכת לא אנושית היא בהכרח התרחיש הגרוע ביותר, כדאי להתבונן בעולם שבו בני אדם מקבלים את כל ההחלטות. בצפון קוריאה מתקיים משטר חד-מפלגתי טוטליטרי שושלתי, עם מעקב נרחב, מעצרים שרירותיים, ענישה קשה על עבירות פוליטיות והיעדר חופש תקשורתי. איראן היא משטר סמכותני תיאוקרטי המקיים בחירות, אך מועמדים מסוננים בידי מועצת שומרי החוקה, והסמכות העליונה נתונה למנהיג העליון ולמוסדות שאינם נבחרים. אפשר להוסיף לדיון משטרים אחרים שבהם כוח פוליטי רב מרוכז בידי קבוצה מצומצמת.
ומכאן מתבקשת שאלה מטרידה: האם אזרח מן השורה בצפון קוריאה או באיראן בהכרח היה רואה מערכת בינה מלאכותית עצמאית, הפועלת לפי כללים שקופים של זכויות אדם ורווחת הציבור, כמסוכנת יותר מן המערכת הפוליטית שמקבלת כיום החלטות עבורו? אין לשאלה הזאת תשובה עובדתית פשוטה. היא תלויה לחלוטין בשאלה מי תכנת את המערכת, מהן מטרותיה, מי מפקח עליה והאם ניתן לערער על החלטותיה. אבל עצם השאלה חושפת הנחה סמויה בדיון: כאילו החלופה לבינה מלאכותית היא תמיד שלטון אנושי חכם, הוגן וחסר אינטרסים.
ומה בדמוקרטיות הקפיטליסטיות? האם מצב האזרחים טוב יותר תחת משטר החלטות שבו בני אדם קובעים, לעומת קבלת החלטות בידי בינה מלאכותית? תלוי את מי שואלים. בכלכלות קפיטליסטיות חלק ניכר מן האוכלוסייה חי בתנאים כלכליים נמוכים בהרבה מן הממוצע. הנתונים המתפרסמים מצביעים על ריכוז משמעותי מאוד של הון בידי העשירון העליון, המחזיק בכ-69.5% מהעושר הפרטי בארצות הברית, בכ-63.7% בישראל, בכ-59.7% בצרפת ובכ-57.1% בבריטניה. וזהו עושר, לא שכר. מדובר בדירות ובתים, קרקעות, מניות, חברות, חסכונות ונכסים פיננסיים. הון כזה גם יכול לעבור בירושה מדור לדור.
- הפחד מה-AI עולה לעובדים בשכר: למה דווקא עכשיו כדאי לבקש העלאה
- ניתוח: 1873, 1929, 2000 ועכשיו AI - מה הבועות הקודמות מלמדות על הערכות המומחים?
דרך נוספת להמחיש את הפער היא להשוות את שכרו של העובד החציוני, העובד שחמישים אחוזים מן העובדים משתכרים פחות ממנו, לחלקו בהכנסה הלאומית אילו זו הייתה מחולקת באופן שווה בין כלל המועסקים. לצורך ההמחשה נגדיר כאן מדד פשוט שאינו מדד רשמי של הלמ"ס: "הכנסה לאומית לעובד" - ההכנסה הלאומית הגולמית של ישראל מחולקת במספר המועסקים.
בשנת 2024 היו בישראל 4.371 מיליון מועסקים. ההכנסה הלאומית הגולמית של ישראל עמדה על כ-539.3 מיליארד דולר במחירים שוטפים. חלוקת ההכנסה הלאומית במספר המועסקים נותנת הכנסה לאומית מחושבת של 123.4 אלף דולר למועסק לשנה, שהם בקירוב כ-455 אלף שקלים לפי שער החליפין. באותה שנה עמד השכר החציוני לשכיר על כ-10,368 שקל לחודש, כלומר 124,410 שקלים לשנה. לפיכך, השכר השנתי של העובד השכיר החציוני היה כ-27.3% בלבד מן "ההכנסה הלאומית לעובד" המחושבת. הממוצע הלאומי, אם כן, אינו מתאר בהכרח את מצבו הכלכלי של האדם החציוני.
ההכנסה והעושר אינם מתחלקים באופן שווה, והפער בין החציון לבין הממוצע המחושב הוא חלק מרכזי בהבנת חלוקת המשאבים. ואז מגיעה השאלה הקשה באמת: כאשר מזהירים אותנו מפני עולם שבו אלגוריתמים יקבלו החלטות במקום בני אדם, ראוי לשאול מי הם בדיוק אותם בני אדם שמקבלים את ההחלטות כיום. האם מדובר באזרח החציוני? או בפוליטיקאים, פקידים, בעלי חברות, בעלי הון, קבוצות לחץ, איגודים, תורמים, בעלי אמצעי תקשורת ושחקנים אחרים שלכל אחד מהם אינטרסים משלו?
מכאן אפשר להעלות ניסוי מחשבתי: נניח שהייתה קיימת מערכת בינה מלאכותית שאינה בבעלות מיליארדר, ממשלה או תאגיד, שמטרותיה נקבעו בחוקה דמוקרטית, שכל שיקוליה ניתנים לביקורת, שכל אזרח יכול לערער על החלטותיה, ושמטרתה המפורשת היא למקסם לאורך זמן את רווחתם וזכויותיהם של כלל האזרחים, ולא של קבוצה מסוימת. האם חמישים האחוזים הנמצאים מתחת לחציון ההכנסה, או אף קבוצה גדולה בהרבה הכוללת אולי שבעים או שמונים אחוזים מהאוכלוסייה שאינה שייכת לעשירונים העליונים, היו בהכרח מתנגדים לכך?
אין לנו נתונים המאפשרים לענות על השאלה הזאת, אבל עדיין ניתן לשאול: האם אדם שאין לו הון משמעותי, שאינו בעל תאגיד, שאינו מממן מפלגות ואינו מפעיל קבוצת לחץ, היה מעדיף שכללים המשפיעים על חייו ייקבעו בידי מערכת שאינה יכולה להתעשר, להוריש נכסים לילדיה או לקבל תרומה מבעל אינטרס? ומתעוררת שאלה חריפה עוד יותר: כאשר אנחנו מדברים על "הסיכון של הבינה המלאכותית לאנושות", האם הסיכון מתחלק באופן שווה בין כל בני האדם, או שחלק מן הפחד נובע גם מן האפשרות שמוסדות וקבוצות המחזיקים כיום בכוח פוליטי וכלכלי יאבדו חלק ממנו? זו שאלה לגיטימית. אך אסור שהיא תוביל למסקנה ההפוכה, שלפיה שליטת הבינה המלאכותית תהיה בהכרח טובה יותר.
גם לבינה מלאכותית יש בעלי בית
מערכת בינה מלאכותית אינה נוצרת בחלל ריק. מישהו מאמן אותה, מישהו מספק לה מידע, מישהו מגדיר את מטרותיה, מישהו מחזיק במחשבים שעליהם היא פועלת ומישהו מחליט מתי מותר לה לקבל החלטה.
אם אותם מוקדי כוח כלכליים ופוליטיים המחזיקים כיום בהשפעה יהיו גם הבעלים של מערכות הבינה המלאכותית, ייתכן שלא נקבל חלופה לריכוז הכוח אלא מכשיר יעיל מאין כמוהו להנצחתו.
הסכנה, אם כן, אינה מתמצה בשאלה אם אדם או מכונה יקבלו את ההחלטה. השאלות החשובות יותר הן: מי קובע את המטרה? מי מפקח על מקבל ההחלטה? בפני מי הוא חייב לתת דין וחשבון? האם ניתן לערער על החלטתו? האם האזרחים יכולים להחליף את המערכת? והאם זכויות הפרט מוגנות?
ייתכן שהוויכוח הגדול של העשורים הקרובים לא יהיה "בני אדם נגד בינה מלאכותית". הוא יהיה ויכוח על חלוקת הכוח ועל דרכי השליטה בפעילות הבינה המלאכותית. במשך אלפי שנים נשאלה השאלה מי מבני האדם ראוי לשלוט: מלך, כוהן, בעל רכוש, מפלגה, פרלמנט או הציבור כולו. לראשונה בהיסטוריה עשויה להתווסף אפשרות חדשה - מערכת שאינה אדם.
אין סיבה להניח מראש שמערכת כזאת תהיה מוסרית יותר מבני אדם. אבל באותה מידה, אין הצדקה להניח שעצם העובדה שמקבל ההחלטות הוא אדם מבטיחה שהחלטתו תהיה מוסרית, נטולת אינטרסים או מכוונת לטובת הרוב.
לכן השאלה המעניינת איננה רק "האם בינה מלאכותית עלולה לשלוט בנו". השאלה המקדימה היא: מי שולט בנו היום, לטובת מי מתקבלות ההחלטות - ומדוע אנחנו מניחים שהחלופה האנושית היא בהכרח הטובה ביותר?
