מומחי ה-AI מזהירים מסוף העולם - אז למה הם ממשיכים לבנות את המכונה?

יש משהו כמעט בלתי נתפס בדיון שמתנהל כיום סביב הבינה המלאכותית. אותם חוקרים, יזמים ומנהלים שבונים את המערכות החזקות בעולם הם גם אלה שמזהירים מפניהן. מצד אחד, הם מדברים על רפואה טובה יותר, קוד מהיר יותר, מדע מואץ, פריון גבוה ופתרון בעיות שבעבר נראו בלתי פתירות. מצד שני, בסקרים ובגילויי דעת הם מודים שהטכנולוגיה עלולה לצאת משליטה, לשמש להפצת מידע שקרי, לפגוע בדמוקרטיות, להעצים משטרים סמכותניים, ובתרחישים הקיצוניים ביותר - לאיים על עצם קיומה של האנושות.

הנתון שמטלטל את השיח מגיע מסקר רחב בקרב 2,778 חוקרי AI שפרסמו מחקרים בכנסים מובילים בתחום. לפי הסקר, חלק גדול מהחוקרים מעריך שיש הסתברות ממשית לתרחיש רע במיוחד. בין 38% ל-51% מהמשיבים נתנו סיכוי של לפחות 10% לכך ש-AI מתקדם יוביל לתוצאה חמורה כמו הכחדת האנושות, ומספר משמעותי מהם נתן לפחות 5% לתרחיש קיצוני כזה. במקביל, 70% מהחוקרים אמרו שצריך להעניק עדיפות גבוהה יותר למחקר בטיחות AI. זה כבר לא דיון של שוליים טכנולוגיים. זה מגיע מתוך ליבת המקצוע.

גם השמות הגדולים ביותר בתחום כבר אינם מדברים רק על הזדמנות. ג'פרי הינטון, מהדמויות המזוהות ביותר עם למידה עמוקה, העלה בעבר את הערכת הסיכון שלו לתרחיש הכחדה כתוצאה מ-AI לטווח של 10%-20% בתוך כמה עשורים. יושוע בנג'יו, עוד אחד מאבות התחום, מזהיר מפני מערכות אוטונומיות שיפתחו יכולת תכנון, הסתרה ושימור עצמי. מנגד, יש גם חוקרים בכירים כמו יאן לקון ממטא שמרגיעים וטוענים שהפחדים מוגזמים, ושמערכות AI יוכלו דווקא לעזור לאנושות להתמודד עם אתגרים גדולים.

אבל עצם קיומו של ויכוח כזה בין האנשים שבנו את התחום צריך להטריד. אם מומחים בגשר אומרים שיש סיכוי של כמה אחוזים שהגשר יקרוס, אף אחד לא היה ממהר לפתוח אותו לתנועה. אם רופאים היו אומרים שלתרופה יש סיכוי דו-ספרתי לאסון, הרגולטור היה עוצר הכל. ב-AI, לעומת זאת, ההשקות נמשכות, המודלים גדלים, חברות מגייסות מאות מיליארדים, וממשלות בונות תשתיות מחשוב כאילו מדובר במירוץ חלל חדש.

אז למה ממשיכים?

התשובה הראשונה היא כסף. AI כבר הפך לאחד הסיפורים הכלכליים הגדולים בעולם. אנבידיה, מיקרוסופט, גוגל, אמזון, מטא, OpenAI, Anthropic ומאות חברות נוספות בונות סביבו שווקים חדשים. דאטה סנטרים, שבבים, חשמל, זיכרון, ענן, תוכנה, שירותים ארגוניים, אבטחה, קוד, פרסום, חיפוש - כל שרשרת הערך של הטכנולוגיה משתנה. חברה שתעצור מרצון עלולה לראות מתחרה תופסת את השוק.

התשובה השנייה היא פוליטית. AI כבר נתפס בארה"ב ובסין כתשתית אסטרטגית. כמו גרעין, חלל, שבבים וסייבר, זו טכנולוגיה שמעניקה כוח. מי שמוביל ב-AI יכול לשפר מודיעין, לנתח כמויות עצומות של מידע, לבנות מערכות נשק חכמות יותר, לנהל כלכלה יעילה יותר, לשלוט בדאטה ולייצר יתרון תעשייתי. לכן גם מי שמפחד מהטכנולוגיה מתקשה לעצור. החשש בוושינגטון פשוט: אם ארה"ב תאט, סין תאיץ. בבייג'ינג החשש הפוך: אם סין תאט, המערב יקבע את הכללים, המודלים, התשתיות והסטנדרטים.

זהו מירוץ חימוש, גם אם הוא עטוף במילים רכות יותר. במקום ראשי נפץ יש מודלים. במקום טילים בין-יבשתיים יש דאטה סנטרים. במקום אורניום מועשר יש שבבי HBM ו-GPU. במקום סילו במדבר יש חוות שרתים שצורכות חשמל בכמויות של ערים. מדינות מבינות שמי שיחזיק במערכות החזקות ביותר יוכל להשפיע על צבא, כלכלה, מדע, רפואה, פיננסים, תעמולה וחינוך. לכן אף מעצמה לא רוצה להיות הראשונה שעוצרת.

זה גם מסביר למה קריאות לפיקוח בינלאומי נשמעות הגיוניות, אבל קשה מאוד ליישם אותן. בהסכמי נשק גרעיני אפשר לספור מתקנים, טילים וחומר בקיע. ב-AI הכל מורכב יותר: קוד עובר בין מדינות, מודלים דולפים, חוקרים עוברים חברות, שבבים נמכרים דרך שרשראות אספקה, ויכולות חדשות יכולות להופיע בתוך חודשים. קשה לפקח על משהו שנראה כמו תוכנה, אבל מתנהג כמו תשתית כוח.

המרוץ העסקי מחריף את הבעיה. OpenAI ו-Anthropic רוצות להראות למשקיעים שהן יכולות להפוך שימוש עצום לרווח. גוגל ומטא רוצות לשמור על שליטה בחיפוש, פרסום ורשתות חברתיות. אמזון ומיקרוסופט רוצות למכור ענן ושבבים. אנבידיה נהנית מהביקוש האדיר למחשוב. כל אחת מהחברות האלה יכולה לומר לעצמה שהיא פועלת באחריות, אבל יחד הן דוחפות את הגבול קדימה במהירות שאף רגולטור כמעט לא מצליח להדביק.

• צו הפיקוח על בינה מלאכותית נעצר בקו הסיום - שעות לפני החתימה
• כסף גדול זורם, מניות מתעוררות וההזדמנות הבאה כבר כאן - ה-AI משנה את עולם הרפואה

הפרדוקס הוא שהסיכון עצמו הפך לסיבה להמשיך. אם חברה או מדינה מאמינה ש-AI עלול להיות מסוכן בידיים הלא נכונות, היא משכנעת את עצמה שהיא חייבת לפתח אותו קודם, כדי לוודא שהגרסה "הנכונה" תנצח. זה טיעון מוכר מכל מירוץ חימוש: הנשק מסוכן, לכן אסור לתת ליריב להחזיק בו לבד.

בין מדע, פחד ושוק הון

הסקר בקרב חוקרי ה-AI אינו אומר שסוף העולם קרוב. הוא כן אומר שאי אפשר להתייחס לחששות כאל מדע בדיוני. כשחלק משמעותי מהמומחים נותן הסתברות ממשית לתרחישי קצה, וכאשר אותם מומחים גם מסכימים שצריך להשקיע יותר בבטיחות, הדיון משתנה. השאלה אינה אם AI מסוכן או מועיל. הוא גם וגם. השאלה היא מי שולט בקצב.

הבעיה היא שבינתיים הקצב נקבע בעיקר על ידי שוק ההון והמאבק בין מעצמות. כל עוד המניות עולות, הלקוחות משלמים, המדינות חוששות לפגר, והחברות מצליחות לגייס סכומי עתק, קשה לראות עצירה אמיתית. ייתכנו רגולציות, מבחני בטיחות, חובות דיווח, הגבלות יצוא שבבים ופיקוח על מודלים חזקים. אבל עצירה כוללת של המרוץ דורשת רמת אמון בינלאומית שכמעט אינה קיימת כיום.

ולכן התשובה לשאלה "למה הם ממשיכים?" היא אולי התשובה הכי מטרידה: כי כולם מפחדים לעצור ראשונים. החברות מפחדות לאבד שוק. המדינות מפחדות לאבד עליונות. המשקיעים מפחדים לפספס את המהפכה. והחוקרים, גם אלה שמזהירים, עובדים בתוך מערכת שמתגמלת פריצות דרך יותר משהיא מתגמלת בלמים.

כך נבנה אחד הפרדוקסים הגדולים של התקופה: הטכנולוגיה שמבטיחה להפוך את האנושות לחכמה, יעילה ובריאה יותר, מתפתחת בקצב שחלק ממפתחיה עצמם מתקשים להצדיק. זה לא אומר שהקטסטרופה בדרך. זה כן אומר שהעולם מנהל את אחד הניסויים הגדולים בתולדותיו בזמן אמת, בלי הסכמה ברורה על גבולות, ועם תחושה הולכת וגוברת שאף אחד לא באמת מחזיק בהגה לבד.

• ה-AI היה זול מדי - ועכשיו מגיע החשבון; האם עליית מחירים בדרך?
• משימוש עצמי למכירות לחיצוניים - אמזון תמכור שבבי AI; איום ישיר עם אנבידיה