בתעשייה חוששים: האם הבינה המלאכותית עלולה לצאת משליטה?

חזון הבינה המלאכותית הבטיח מהפכה שתשפר כל היבט בחיינו, אך בשנה האחרונה המבט המשתאה התחלף בקמטי דאגה: מנהלי ענקיות הטכנולוגיה, אלו שעומדים בחזית הפיתוח, כבר לא מסתפקים בהצהרות על קדמה; הם מתייצבים מול המצלמות ומזהירים מפני תרחישי אימה - החל מפרצות אבטחה חסרות תקדים ועד למערכות שעלולות לקבל החלטות עצמאיות ומסוכנות. אך האם אנחנו באמת ניצבים בפני איום קיומי, או שמדובר בבהלה מוגזמת שנועדה לשרת אינטרסים של רגולציה ושליטה בשוק ואיפה באמת עובר הגבול בין דמיון למציאות?

בשנים האחרונות השיח סביב בינה מלאכותית עבר משלב של התלהבות מפוטנציאל כלכלי, דרך דיון תיאורטי על סכנות ועד לחשש אמיתי. יותר ויותר בכירים בתעשייה מדברים על מצב שבו מערכות AI מתקדמות מבצעות משימות שלמות באופן עצמאי, בלי צורך בהתערבות ישירה של בני אדם. זה כבר לא רק כלי פשוט, אלא סוכן דיגיטלי שפועל לבדו, ללא מצפן מוסרי. החשש המרכזי אינו "מרד מכונות" כמו בסרטים, אלא שימוש לרעה על ידי גורמים עוינים. מדינות, ארגוני פשיעה או קבוצות טרור יכולים לקחת טכנולוגיה שפותחה לטובת עסקים ולהפוך אותה לנשק. זה כבר קורה בשטח, והנתונים מראים עלייה משמעותית.

פריצות, לייזרים ביולוגיים וסיכוני סייבר

מודלים מתקדמים של בינה מלאכותית מסוגלים לאתר חולשות אבטחה בקנה מידה שלא נראה קודם. השבוע חשפה חברת אנת'רופיק את מה שאולי מסתמן כנקודת המפנה: מודל ניסיוני בשם קלוד מיתוס פריוויו זיהה אלפי פרצות חמורות במערכות הפעלה ודפדפנים מובילים - כולל באג בן 27 שנה במערכת ההפעלה OpenBSD, הידועה כאחת הבטוחות בעולם, ופרצה בת 16 שנה בספריית הווידאו FFmpeg שעמדה בפני חמישה מיליון בדיקות אוטומטיות, בלי שהתגלתה. "המודל הזה יכול ליצור ניצולי פרצה מתוך שלוש, ארבע ולפעמים חמש חולשות ברצף שנותנות תוצאה מתוחכמת מאוד", אמר אחד החוקרים בצוות של אנתרופיק. "בשבועות האחרונים מצאתי יותר באגים מאשר בכל ימי חיי גם יחד".

• הביקוש לשבבי AI לא נבלם: TSMC מפתיעה למרות המלחמה
• זו קרן השורט שקיבלה השנה יותר כסף מקרנות על טסלה ומיקרוסופט
• המלצת המערכת: כל הכותרות 24/7

בעקבות זאת קיבלה אנת'רופיק החלטה יוצאת דופן: לא לשחרר את המודל לציבור הרחב, אלא להעביר גישה אליו ל-40 ארגוני תשתית קריטיים בלבד, תחת פרויקט "גלאסווינג" (Glasswing). "בהינתן קצב ההתקדמות של הבינה המלאכותית, לא ייקח זמן רב עד שיכולות כאלה יתפשטו, ייתכן שמעבר לשחקנים שמחויבים לפרוס אותן בצורה בטוחה", הזהיר ראש צוות הסייבר של אנתרופיק. "הנזק - לכלכלות, לביטחון הציבורי ולביטחון הלאומי - עלול להיות חמור".

בעקבות החדשות כונסה ישיבת חירום שיזמו מזכיר האוצר האמריקאי סקוט בסנט ויו"ר הפד ג'רום פאואל, ובה השתתפו מנכ"לי הבנקים הגדולים בוול סטריט - כולל סיטי, מורגן סטנלי, בנק אוף אמריקה, וולס פארגו וגולדמן זאקס - לדיון על סיכוני הסייבר שמציב המודל החדש. 

מצד אחד, הממצאים עוזרים לחברות לתקן את החולשות, אבל מצד שני, זה פותח פתח לשימוש זדוני אם היכולות מגיעות לידיים הלא נכונות - ואנת'רופיק עצמה גילתה מקרה תקיפת סייבר שבו קבוצה סינית ממומנת על ידי המדינה ביצעה פעולות על כ-30 יעדים, תוך שימוש ב-AI ברמת ביצוע אוטונומית של 90-80 אחוז.

• סיסקו רוצה את אסטריקס הישראלית: עסקה של 250 עד 350 מיליון דולר
• ארטמיס 2 חזרה בשלום מהירח: נאס"א קיבלה הישג היסטורי - ועכשיו המבחן האמיתי מתחיל
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• ענקיות ה AI מתאחדות נגד סין: חוששים מהתקדמות ה-AI בסין

נתונים עדכניים מראים זינוק של 16.7% בסריקות אוטומטיות של תוקפים במרחב הסייבר, לעומת השנה הקודמת. מדי חודש מתועדות מיליארדי סריקות שמחפשות פרצות, כ-36,000 בשנייה, והרבה מהן מונעות על ידי AI. פשיעת סייבר משתמשת בכלים האלה כדי לשפר פישינג, להימנע מבקרות ולהתחמק מזיהוי.

להרחבה: בגלל ה-AI - זינוק במספר תקיפות הסייבר האוטומטיות

החשש מתרחב מעבר לסייבר. יש דאגה גוברת משימוש ב-AI לפיתוח חומרים מסוכנים או פתוגנים חדשים. היכולת של המודלים לנתח כמויות עצומות של נתונים ולתכנן תהליכים מורכבים מורידה את החסמים הטכניים. מה שבעבר הצריך צוות מדענים גדול ומעבדות יקרות, יכול להיעשות כיום באמצעים דלים ובמהירות גבוהה בהרבה.

מערכות AI עדיין אינן "חושבות" כמו בני אדם, אבל הן מציגות התנהגויות לא צפויות. הן סובלות מהטיות, מטעויות ולפעמים אפילו "עוקפות" כללים שהוטמעו בהן. במקרים מסוימים הן מראות יכולות כמו הטעיה או הפצה עצמית, מה שמקשה את השליטה.

סוכני AI פועלים לבד - והם לא צפויים

השינוי הגדול הוא המעבר ל"סוכני AI" - מערכות בינה מלאכותית שמבצעות תהליכים שלמים באופן אוטונומי. הן יוזמות פעולות, מקבלות החלטות ומשנות את הסביבה שלהן. מנהלים בחברות סייבר גדולות מציינים שהסיכון כאן כולל גם טעויות ופעולות בלתי מבוקרות שיכולות לפגוע במערכות רגישות.

להרחבה: מנכ״ל קראודסטרייק: סוכני AI הם בלתי צפויים

דוחות עדכניים מראים ש-91% מהחברות כבר משתמשות בבינה מלאכותית, אבל רק חלק קטן מצליח להפיק באמצעותה רווח אמיתי. 67% מהמנהלים מציינים סיכוני אבטחה ופרטיות כאיום המרכזי. זה כולל דליפת נתונים, מניפולציות ומחסור בשליטה על סוכנים פנימיים.

קריאה לשיתוף פעולה בין מעצמות

אחד הפתרונות שמוזכרים שוב ושוב הוא הצורך בשיתוף פעולה בינלאומי. אף מדינה אינה יכולה להתמודד לבד עם האתגר. במיוחד מדובר על ההכרח בתיאום בין ארצות הברית לסין, שמובילות את התחום. הרעיון הוא לקבוע כללים ברורים לפיתוח, בדיקה והפצה של מערכות מתקדמות, כדי למנוע זליגה של יכולות מסוכנות. כאן מתחילה הבעיה: התחרות הכלכלית והטכנולוגית חזקה. חברות מעטות מחזיקות כיום בכוח עצום - אופן AI,  אנת'רופיק, גוגל, דיפמיינד ואחרות. חלק מהבכירים עצמם מודים שהריכוז הזה בריא, כי הוא משאיר את השליטה בידיים פרטיות.

דריו אמודאי, מנכ"ל אנת'רופיק, טוען שחלק מחברות הבינה המלאכותית לוקחות סיכונים גדולים מדי בהיקפי ההשקעות והפיתוח, ומעלות את רמת הסיכון הכוללת. אחד המפתחים בתחום מדגיש אף הוא שהבינה המלאכותית מתקדמת מהר מדי ויכול להוביל לאובדן שליטה אם העניין לא יטופל נכון. מומחה מוביל נוסף קורא לרגולציה בינלאומית, כדי להבטיח שהטכנולוגיה לא תגיע לידיים שישתמשו בה לרעה. "אנחנו לא מדברים על העתיד הרחוק", הוא הבהיר בשנה שעברה בוועדת הסנאט האמריקאית. "הסיכונים הם ממשיים ומיידיים, ואנחנו חייבים לפעול ללא דיחוי".

בין אזהרות למציאות: ישראל חשופה במיוחד

לצד האזהרות, יש קולות שמנסים להנמיך את הלהבות. חלק מהמומחים אומרים שהסיכונים מוצגים לפעמים בצורה קיצונית מדי, ושיש אינטרס כלכלי להדגיש אותם - כדי להצדיק השקעות ענק או להאט מתחרים. הם מציינים שהדגש צריך להיות על סיכונים מיידיים כמו הטיות, פרטיות ומידע כוזב, ולא רק על תרחישי קיצון עתידיים.

עם זאת, הנתונים בשטח מראים שההתקדמות מהירה. לפי דוחות עדכניים, שוק אבטחת הסייבר מבוסס AI צומח בקצב של 31% בשנה וצפוי להגיע ל-234 מיליארד דולר עד 2032. חברות סייבר כבר רואות ביקוש גבוה לפתרונות שמתמודדים עם איומים חדשים כמו דליפות מידע מסוכנות ו"הזרקת" פרומפט (prompt injection) - טכניקת תקיפה נגד מודלי שפה, שבה משתמש מרמה את המודל כדי שיעקוף את מגבלות הבטיחות שלו עצמו ויבצע פעולות שלא נועד לעשות.

להרחבה: מנכ״ל אנתרופיק מזהיר: חלק מחברות הבינה המלאכותית לוקחות סיכונים גדולים מדי

בישראל, שבה תעשיית ההייטק היא מנוע צמיחה מרכזי, החשש הזה רלוונטי במיוחד. חברות מקומיות משלבות AI במהירות, אבל גם נדרשות להתמודד עם הפערים באבטחה. ארגונים רבים מגבילים שימוש בכלים פנימיים בגלל חשש מדליפות או חשיפה. התמונה הכוללת מורכבת. מצד אחד, הבינה המלאכותית מביאה להתקדמות מהירה בכל תחומי החיים - מרפואה ועד פיננסים. מצד שני, היכולת שלה לפעול באופן עצמאי ולהיות מנוצלת לרעה יוצרת אי ודאות אמיתית. השליטה במערכות האלה הופכת לאתגר מרכזי, והדיון סביב הסיכונים רק מתחיל להתרחב.

בשנים הקרובות הנושא הזה צפוי להישאר בראש סדר היום - גם ברמה העסקית וגם ברמה המדינית. חברות יצטרכו להשקיע יותר באבטחה, מדינות יצטרכו לבנות מסגרות רגולטוריות, והתעשייה כולה תצטרך למצוא איזון בין חדשנות לבין זהירות. הבינה המלאכותית כאן כדי להישאר, והשאלה היא לא אם היא תשנה את העולם - אלא איך נשמור על השליטה בה.