החות'ים כבר משתמשים ב-AI לפיתוח טילים: כך קלוד נכנס לתעשיית הנשק

עד עכשיו היה קל לדבר על הסכנות של בינה מלאכותית במונחים של עתיד רחוק. אולי יום אחד מודלים מתקדמים יעזרו לפתח נשק, אולי יסייעו למתקפות סייבר, אולי מדינות וארגונים עוינים יצליחו לעשות באמצעותם דברים שפעם דרשו הרבה מאוד אנשים, כסף וידע. עכשיו מגיע מקרה מוחשי הרבה יותר, כזה שכבר יצא משלב הדיון התיאורטי ונכנס לעבודה אמיתית.

אנתרופיק אומרת שהיא זיהתה קבוצה שפעלה בצפון תימן והשתמשה בקלוד כחלק מפיתוח של כמה מערכות נשק. לפי החברה, קלוד שימש הרבה מעבר לשאלות כלליות ונכנס ממש לתהליך העבודה: כתיבת קוד, בדיקות, מחקר ועזרה בפתרון בעיות. הקבוצה עבדה בין היתר על רקטה מונחית, על טיל בליסטי רב שלבי לטווח של יותר מ-2,000 קילומטר ועל מערכת נוספת שכללה גם גרסה עם כלי גלישה היפרסוני.

אנתרופיק נמנעה מלקבוע בפומבי שמדובר בחות'ים, אבל הקבוצה פעלה בצפון תימן, באזור שנמצא ברובו בשליטתם, ולכן החיבור ברור. החברה גם אינה טוענת שהקבוצה הצליחה לייצר נשק מבצעי, ולהפך, ניסוי השיגור שהיא הצליחה לזהות כנראה נכשל. אבל זו אינה הנקודה המרכזית. הנקודה היא שגוף צבאי או צבאי למחצה יכול היום לקחת מודל מסחרי ולהכניס אותו לתוך תהליך של פיתוח נשק.

במקום עוד מהנדס, פותחים עוד קלוד

החלק המעניין במקרה הזה אינו השאלות שהקבוצה הפנתה לקלוד על טילים. מידע טכני על רקטות, ניווט, אלקטרוניקה ותוכנה קיים באינטרנט כבר שנים, ובחלקו גם בספרות מקצועית פתוחה. ההבדל הוא שקלוד נכנס לתוך העבודה עצמה.

לפי אנתרופיק, המפעילים השתמשו בכמה מופעים של קלוד במקביל וחילקו ביניהם משימות. אחד עסק בכתיבת קוד, אחר במחקר, אחר בבדיקת העבודה. זה מתחיל להיראות פחות כמו צ'אטבוט ויותר כמו צוות קטן של מהנדסים שעובד מהר, בלי לישון ובלי לבקש עוד כוח אדם.

וזה שינוי גדול, משום שמערכות נשק מודרניות הן כבר מזמן יותר ממנוע, מתכת וחומר נפץ. חלק גדול מהיכולת שלהן נמצא בתוכנה: ניווט, בקרה, חיישנים, תקשורת, עיבוד מידע ותיקון מסלול. בדיוק בתחומים האלה מודלי בינה מלאכותית משתפרים במהירות.

קלוד יודע לעזור למתכנתים לכתוב תוכנה, למצוא תקלות, לבדוק קוד ולבצע עבודה שלפני כמה שנים היתה לוקחת הרבה יותר זמן. אותה יכולת יכולה לשרת חברת תוכנה, יצרן רכב וגם גוף צבאי. הקושי אינו בכך שקלוד מחזיק סוד צבאי שאיש אינו מכיר, אלא בכך שהוא יכול לקחת ידע קיים, לחבר אותו, לקצר תהליכים ולעזור לצוות קטן לעשות הרבה יותר. ה-AI כבר לא רק עונה - הוא מתחיל לפעול, ופה מתחיל הסיכון.

הניסוי נכשל, ואז חזרו לקלוד

אחד הפרטים המעניינים בדוח הוא שהקבוצה נשארה הרבה מעבר לשלב התכנון. לפי אנתרופיק, היא ביצעה ניסוי שטח ברקטה מונחית, והניסוי כנראה נכשל. בתוך שעות חזרו המפעילים לקלוד וניסו להבין מה השתבש.

זה בדיוק המקום שבו בינה מלאכותית יכולה להפוך לכלי משמעותי. פיתוח הנדסי עובד בסבבים: מתכננים, בונים, בודקים, נכשלים, משנים ושוב בודקים. זה יכול לקחת חודשים ושנים, במיוחד כשמדובר בצוות קטן או בגוף שאין לו תעשייה מסודרת מאחוריו. מודל שמקצר אפילו חלק מהסבבים האלה אינו צריך להמציא טיל כדי להיות חשוב, מספיק שהוא מקרב את הניסוי הבא.

• החות'ים מרחיבים שליטה ליד באב אל-מנדב
• "בית המשפט לימאות בחיפה יכול לעקל ספינת עבדים"

אנתרופיק מדגישה שאין בידיה הוכחה שהקבוצה הצליחה לייצר מערכת נשק מבצעית, וזה חשוב. קלוד עדיין אינו הופך גוף קטן בתימן בן לילה לרפאל או ללוקהיד מרטין, ובשביל לבנות נשק אמיתי עדיין צריך מפעלים, חומרים, מנועים, רכיבים, כסף, ניסויים ואנשים שיודעים מה הם עושים. אבל אחד החסמים מתחיל לרדת: כמות הידע וכוח האדם שצריך כדי להתקדם.

וזה כבר רלוונטי מאוד לישראל

ישראל מכירה היטב את האיום מתימן ואת היכולת של החות'ים להפעיל טילים ורחפנים לטווחים ארוכים. חלק מהידע והטכנולוגיה הגיעו מאיראן, אבל לאורך השנים נבנתה גם יכולת מקומית של הרכבה, התאמות וייצור. בינה מלאכותית יכולה להאיץ בדיוק את המקומות האלה.

מדינה או ארגון כבר אינם נדרשים בהכרח לעשרות מומחים לכל משימה. אם יש להם כמה מהנדסים טובים, חומרה, רכיבים וגישה למודלים חזקים, המודל יכול לתת לאותם אנשים הרבה יותר כוח ולסגור חלק מהפער מול ארגונים גדולים ומסודרים יותר.

וזה אינו סיפור של תימן בלבד. אנתרופיק מתארת כמה מקרים של שימוש בקלוד סביב פיתוח נשק ומערכות צבאיות במדינות שונות, כולל סין ורוסיה. במקרים אחרים היא זיהתה שימושים שקשורים לרחפנים, ללוחמה אלקטרונית, למודיעין וליכולות צבאיות נוספות. מהפכת הבינה המלאכותית מגיעה לתעשיות הביטחוניות בדיוק כמו שהיא מגיעה לבנקים, לחברות תוכנה ולמשרדי עורכי דין, אלא שכאן המחיר של טעות, וגם המחיר של הצלחה, יכולים להיות גבוהים בהרבה.

ההגנות עבדו, אבל לא תמיד

אנתרופיק אומרת שמערכות ההגנה שלה חסמו חלק מהבקשות של הקבוצה. החברה גם זיהתה בסופו של דבר את הפעילות, סגרה חשבונות ושיתפה מידע עם גורמים רלוונטיים. זה הצד החיובי.

• 10 הגורמים שיקבעו מה יקרה לכסף שלכם בשנה הקרובה
• מ-35 מנדטים לכלום - מה אפשר ללמוד מקריסת גנץ על הפוליטיקה הישראלית

אבל חלק מהעבודה בכל זאת בוצע, ופה נמצאת אחת הבעיות הגדולות של חברות הבינה המלאכותית. קל יחסית לחסום משתמש שכותב במפורש שהוא רוצה לבנות טיל. קשה הרבה יותר לזהות מאות בקשות קטנות שנראות כל אחת בפני עצמה כמו תכנות, מתמטיקה או הנדסה רגילה.

מודל אינו תמיד יודע אם הקוד שהוא כותב מיועד לרחפן צילום, למכונה במפעל או למערכת צבאית. גם בני אדם שמנטרים פעילות כזו אינם בהכרח מזהים מיד את התמונה המלאה, במיוחד כשהמשימות מפוצלות לכמה חשבונות ולכמה שלבים. ככל שהמודלים הופכים לעצמאיים יותר ויכולים לבצע משימות ארוכות, הקושי הזה גדל. הסיכון אינו נמצא בשאלה אם המודל יודע משהו מסוכן, אלא ביכולת שלו לחבר מאות משימות קטנות לתהליך אחד שעובד.

ובעוד שנה המודלים יהיו טובים יותר

אפשר להסתכל על העובדה שהניסוי נכשל ולהסיק שהבינה המלאכותית עדיין אינה יודעת לבנות טילים, אבל זו כנראה הסתכלות קצרה מדי. יכולת התכנות של המודלים השתפרה מאוד בתוך זמן קצר. מערכות שלפני שנתיים הצליחו לכתוב קטע קוד קטן מסוגלות היום לעבוד על פרויקטים גדולים, להפעיל כלים, לבדוק את עצמן ולבצע משימות לאורך זמן ממושך.

אם אותו שיפור יגיע גם לעבודה הנדסית ולמחקר, הפער בין מה שאפשר לעשות היום לבין מה שאפשר יהיה לעשות בעוד שנתיים יכול להיות גדול מאוד. זו גם הסיבה שהדיון על הסיכונים של מודלים מתקדמים כבר פחות תיאורטי. אין צורך במערכת על ששולטת בעולם כדי שתיווצר בעיה, מספיק שמודל טוב מאוד נותן לאנשים הלא נכונים יכולת שלא היתה להם קודם, או מאפשר להם לעשות בעשרה אנשים את מה שדרש פעם צוות של חמישים. סם אלטמן משנה כיוון: OpenAI מוכנה להאט את מרוץ ה-AI.

הבינה המלאכותית מוזילה את הידע

בסוף אפשר להסתכל על זה גם בצורה כלכלית. מה בינה מלאכותית עושה כמעט בכל תחום? היא מורידה את המחיר של עבודה מקצועית. חברה שבעבר היתה צריכה עשרה מתכנתים יכולה לעשות יותר עם חמישה, עורך דין יכול לעבור על הרבה יותר מסמכים, מדען יכול לנתח יותר מחקרים ומהנדס יכול לכתוב ולבדוק יותר קוד. אותו דבר קורה גם בצד הצבאי.

אם בעבר גוף מסוים היה צריך להביא מומחה, לשלם לו, להכשיר אותו ולהחזיק צוות שלם, חלק מהידע הזה יכול היום להגיע דרך מסך. זה אינו מבטל את הצורך במהנדסים, אבל זה נותן הרבה יותר כוח למי שכבר מחזיק בסיס טכנולוגי מסוים. וזו כנראה אחת ההתפתחויות הביטחוניות החשובות של עידן הבינה המלאכותית: לא שכל אחד יוכל מחר לבנות טיל, אלא שיותר גופים יוכלו להתקדם מהר יותר, עם פחות אנשים ובפחות כסף.

במקרה של תימן אנתרופיק הצליחה לזהות את הפעילות ולחסום אותה, אבל חלק מהידע, הקוד והעבודה שכבר נוצרו אינם נעלמים ברגע שסוגרים את החשבון. מטוס קרב אפשר לעצור בנמל. שבב אפשר להכניס לרשימת מגבלות יצוא. ידע שכבר עבר דרך מודל למשתמש בצד השני קשה הרבה יותר לקחת בחזרה.

לכן האירוע בתימן חשוב הרבה מעבר לרקטה אחת שנכשלה. הוא מראה שמרוץ החימוש של השנים הקרובות יתנהל לא על טילים, רחפנים, מטוסים ושבבים בלבד, אלא גם על מי מחזיק במודל החזק ביותר, מי יודע להשתמש בו טוב יותר, ומי מצליח למנוע ממנו לעבוד בשביל הצד השני. הבאג שמייצר לאנבידיה שוק חדש: הסייבר כמנוע הצמיחה הבא של ה-AI.