האפיפיור יוצא נגד ה-AI: “אסור לתת לטכנולוגיה לשלוט באנושות”

האפיפיור ליאו מציב את הבינה המלאכותית במרכז סדר היום של הכנסייה הקתולית, ובוחר לעשות זאת כבר באיגרת הראשונה והחשובה של כהונתו. במסמך חדש בשם Magnifica Humanitas, הוא מזהיר מפני "תרבות של כוח" שמלווה את ההתפתחות המהירה של AI, וקורא להטיל על הטכנולוגיה מגבלות אתיות מחמירות, במיוחד בכל הנוגע לשוק העבודה, למלחמות, לריכוז כוח כלכלי וליכולת של מספר קטן של חברות לשלוט בתשתיות דיגיטליות שמשפיעות על חיי מיליארדי בני אדם.

האיגרת הזו, או בשמה הכנסייתי אנציקליקה, אינה עוד הודעה שגרתית של הוותיקן. מדובר באחד מסוגי המסמכים החשובים ביותר שמפרסם אפיפיור, כזה שמיועד לכנסייה הקתולית ולכ-1.4 מיליארד מאמיניה, ובדרך כלל מסמן את סדרי העדיפויות הרעיוניים והמוסריים של כהונתו. 

אנציקליקות מתפרסמות סביב סוגיות שהאפיפיור רואה כבעלות חשיבות רחבה לחברה האנושית, ולכן הבחירה של ליאו להקדיש את המסמך המרכזי הראשון שלו לבינה מלאכותית, מלחמות, עבדות חדשה וריכוז כוח טכנולוגי אינה מקרית. היא מסמנת שה-AI כבר אינה נתפסת רק כנושא של מהנדסים, יזמים, משקיעים ומנהלי חברות, אלא כשאלה מוסרית, חברתית וכלכלית רחבה הרבה יותר.

האפיפיור האמריקאי הראשון

ליאו, שנבחר לאפיפיור לפני שנה, במאי שעבר ונחשב לאפיפיור הראשון שנולד בארה"ב, כבר אמר זמן קצר אחרי בחירתו כי הוא רואה בבינה המלאכותית את האיום הגדול ביותר על האנושות כיום. כעת הוא מעגן את האמירה הזו במסמך רשמי, מהסוג שנועד ללוות כהונה שלמה. במילים פשוטות, האפיפיור לא מתייחס ל-AI כעוד טרנד טכנולוגי או כעוד תחום שמתפתח מהר מדי, אלא כאחת השאלות המרכזיות של התקופה: האם הטכנולוגיה תמשיך לשרת את האדם, או שהאדם יהפוך לחלק ממערכת שמודדת אותו, מחליפה אותו, מדרגת אותו ומנהלת אותו.

המסר של ליאו אינו אנטי-טכנולוגי במובן הפשוט. הוא לא קורא לעצור את פיתוח הבינה המלאכותית, וגם לא מציג אותה כרוע מוחלט. להפך, הוא מנסה לשרטט קו עדין יותר, כזה שמכיר בפוטנציאל של AI אבל מזהיר מפני הדרך שבה היא מתפתחת כיום: במהירות גבוהה, תחת לחצים מסחריים וגיאופוליטיים כבדים, ובמידה רבה מחוץ לפיקוח ציבורי ברור. לדבריו, “לפרק את הבינה המלאכותית מנשקה” אין פירושו לדחות את הטכנולוגיה, אלא למנוע ממנה להתפתח מתוך היגיון של תחרות חמושה ושליטה. בניסוח החריף שלו: “אסור לתת לטכנולוגיה לשלוט באנושות”.

אחד החלקים המרכזיים באיגרת נוגע לשימוש בבינה מלאכותית במלחמה. האפיפיור כותב כי העולם עד ל"חזרה מדאיגה" של מלחמה ככלי בפוליטיקה הבינלאומית, ומזהיר כי AI מסייעת ל”נרמול של מלחמה”. לכן, הוא כותב, פיתוח ושימוש בבינה מלאכותית בשדה הקרב חייבים להיות כפופים ל”מגבלות האתיות המחמירות ביותר”, כדי להבטיח שמירה על כבוד האדם וקדושת החיים, וכדי למנוע מרוץ חדש לפיתוח כלי נשק אוטונומיים.

הנקודה הזו חשובה במיוחד משום שהאופי של מערכות צבאיות מבוססות AI שונה מכלי נשק רגילים. אם בעבר גם מערכות מתקדמות דרשו במקרים רבים החלטה אנושית ישירה, הרי שכיום מערכות אוטונומיות מסוגלות לנתח מידע, לבחור מטרות, להמליץ על פעולה ולעתים גם לפעול במהירות שמצמצמת מאוד את מרחב השיקול האנושי. ליאו מזהיר כי חלק ממערכות הנשק האוטונומיות נמצאות “כמעט מעבר לכל יכולת אנושית לשלוט בהן”. מבחינתו, זו אינה רק בעיה טכנולוגית, אלא קו אדום מוסרי: ככל שהמלחמה מתרחקת מהחלטה אנושית ישירה, כך גדלה הסכנה שהאדם יהפוך לנתון בתוך מערכת חישובית.

עמק הסיליקון על הכוונת

אחת הביקורות המרכזיות של האפיפיור מופנית למעשה לעמק הסיליקון ולמבנה הכוח החדש שנוצר סביב הבינה המלאכותית. הוא מזהיר כי השליטה במערכות דיגיטליות, בתשתיות ובנתונים “אינה נמצאת בידי מדינות אלא בידי שחקנים כלכליים וטכנולוגיים גדולים”. כאשר כוח כזה מרוכז “בידי מעטים”, הוא עלול להפוך לאטום, להתחמק מפיקוח ציבורי ולייצר “תלויות, הדרות, מניפולציות ואי-שוויון” מסוג חדש.

את המסר הזה האפיפיור לא הציג רק בפני אנשי כנסייה. באירוע הצגת האיגרת בוותיקן ישב לצדו גם כריסטופר אולה, ממייסדי Anthropic, אחת מחברות ה-AI הבולטות בארה"ב. הנוכחות שלו נתנה לאירוע משמעות רחבה יותר: זו לא הייתה רק הצהרה מוסרית של הוותיקן על הסכנות שבבינה מלאכותית, אלא גם שיחה ישירה עם התעשייה שמפתחת את הטכנולוגיה בפועל. במובן הזה, אולה ייצג בדיוק את הזירה שאליה מכוונת חלק מהביקורת של האפיפיור, חברות פרטיות שמחזיקות במודלים, בדאטה, בכוח המחשוב וביכולת לעצב את כללי המשחק של הכלכלה הדיגיטלית.

אולה עצמו חיזק את הקו הזה כשאמר כי פיתוח AI אינו יכול להישאר באחריות חברות הטכנולוגיה בלבד, וקרא לפיקוח רחב יותר מצד מנהיגים דתיים, ממשלות וחברה אזרחית. הוא הזהיר כי קיימת “אפשרות ממשית” שבינה מלאכותית תחליף עובדים “בקנה מידה רחב מאוד”, והוסיף כי אם תרחיש כזה יתממש, התמיכה במי שיאבדו את עבודתם תהיה “חובה מוסרית בממדים היסטוריים”.

זו אמירה משמעותית דווקא משום שהיא מגיעה מתוך התעשייה עצמה. חברות AI פועלות כיום בתוך מערכת תמריצים שמושכת אותן קדימה במהירות: הן צריכות לגייס הון, למשוך טאלנטים, להשיג כוח מחשוב, לסגור עסקאות ענן, להתחרות במודלים אחרים ולהראות למשקיעים שההשקעות האדירות מתחילות לייצר ערך. אבל אותה מערכת תמריצים לא בהכרח יודעת להתמודד עם השאלות הרחבות יותר: מה יקרה לעובדים שיוחלפו? מי אחראי לנזק שנגרם משימוש לרעה במודל? כיצד מונעים מניפולציות פוליטיות? ומה עושים כאשר כלכלה שלמה מתחילה להישען על מערכות שאינן שקופות לציבור?

האפיפיור חיבר את הדיון הזה גם להיסטוריה רחבה יותר של עבדות וניצול. באותה איגרת הוא מתנצל על העיכוב הארוך של הכנסייה בגינוי העבדות, ומתאר זאת כ”פצע בזיכרון הנוצרי”. הוא כותב כי “אי אפשר שלא לחוש צער עמוק” מול הסבל וההשפלה שחוו בני אדם רבים, ומבקש מחילה בשם הכנסייה. החיבור בין העבדות ההיסטורית לבין מה שהוא מכנה “צורות חדשות של עבדות” בכלכלה הדיגיטלית אינו מקרי. ליאו מבקש לומר שגם בעידן של מודלים מתקדמים, אלגוריתמים, ענן ואוטומציה, השאלה הבסיסית נשארת אותה שאלה: האם האדם עומד במרכז, או שהוא הופך לאמצעי בתוך מערכת ייצור, שליטה ורווח.