הפנטגון לוחץ, אנתרופיק מסרבת: הקרב על גבולות ה-AI בשדה הקרב
עימות חריג מתפתח בין הפנטגון לחברת הבינה המלאכותית אנתרופיק, סביב השאלה עד כמה ניתן להגביל את השימוש הצבאי במודלים מתקדמים של AI. בלב המחלוקת עומדת דרישת משרד ההגנה האמריקאי להסיר מגבלות שימוש שהטילה החברה על מוצריה, מגבלות שנועדו למנוע פיתוח נשק אוטונומי ופגיעה במערכות מחשוב.
לפי הדיווחים, בשיחה שנערכה בדצמבר הציג בכיר במערכת הביטחון תרחיש קיצון למנכ"ל אנתרופיק, דריו אמודיי: טיל בליסטי גרעיני בדרכו לארה"ב, חלון תגובה של 90 שניות בלבד, וה-AI של החברה הוא הכלי היחיד שמסוגל להפעיל מענה. השאלה הייתה מה יקרה אם מנגנוני הבטיחות של החברה ימנעו שימוש כזה. באנתרופיק דוחים את התיאור הזה וטוענים כי מעולם לא סירבו לאפשר שימוש במודלים להגנה מפני טילים.
למרות ההכחשה, ברור כי הפנטגון אינו מסתפק בהסכמות הנוכחיות. בחודשים האחרונים מפעיל משרד ההגנה לחץ על החברה לרכך עוד יותר את כללי השימוש שלה, במקביל לגיבוש אסטרטגיית AI צבאית חדשה שמבקשת להאיץ את הטמעת הטכנולוגיה בשדה הקרב.
חוק הייצור משנת 1950
בפגישה מתוחה שנערכה השבוע בין אמודיי לשר ההגנה פיט הגסת', הובהר כי אם אנתרופיק לא תיענה לדרישות עד סוף השבוע, ישקול הפנטגון להפעיל את חוק הייצור הביטחוני משנת 1950. החוק, שנועד במקור להבטיח אספקה תעשייתית בעת מלחמה, יכול לשמש כדי לחייב חברות פרטיות לספק שירותים לצבא. איום נוסף הוא הכרזה על אנתרופיק כ"סיכון בשרשרת האספקה" - מהלך שעשוי לחייב קבלני משנה כמו פלנטיר, המשתמשת במודלים של אנתרופיק במערכת ניהול הקרב Maven, להצהיר כי אינם תלויים בהם. צעד כזה עלול לפגוע משמעותית בפעילות החברה מול המגזר הציבורי.
- אינטואיט ואנתרופיק ישתפו פעולה בפיתוח סוכני AI לעסקים
- אנתרופיק הציגה כלים ארגוניים חדשים לקלוד
- המלצת המערכת: כל הכותרות 24/7
העימות חושף את התלות ההולכת וגוברת של מערכת הביטחון האמריקאית בחברות AI פרטיות, דווקא בעיצומה של תחרות אסטרטגית מול סין ומדינות נוספות. במקביל, הוא מחדד את המתח בין עמק הסיליקון לבין וושינגטון בשאלת השליטה בטכנולוגיות ליבה.
אמודיי עצמו מזוהה עם קו זהיר בכל הנוגע לשימוש צבאי ב-AI. בעבר הזהיר מפני נשק אוטונומי מלא, לרבות תרחישים של נחילי רחפנים חמושים הנשלטים בידי אלגוריתמים, וטען כי שימושים מסוימים עשויים להיחשב לפשעים נגד האנושות. הוא גם התריע מפני שימוש ב-AI למעקב ותעמולה. מדיניות השימוש הציבורית של אנתרופיק, שעודכנה לאחרונה בספטמבר, כוללת סעיפים מפורשים האוסרים על פיתוח נשק או פגיעה במערכות מחשוב ורשתות. עם זאת, החברה הודתה כי במסגרת חוזים ממשלתיים מסוימים היא "מתאימה" את ההגבלות, מבלי לפרט מה שונה בפועל.
במקביל, החברה הודיעה השבוע כי תפסיק לעכב השקת מודלים חדשים גם אם קיימים בהם סיכונים פוטנציאליים, שינוי גישה ביחס למדיניות שאימצה מאז 2023. גם ראש צוות מחקר הבטיחות שלה עזב לאחרונה, תוך שהוא רומז ללחצים פנימיים בנוגע ליישום הערכים המוצהרים.
- IDC: שוק הסמארטפונים בדרך לצניחה חדה ב-2026
- C3.ai צונחת ב-21%: ההכנסות נחתכו בחצי והחברה מפטרת רבע מהעובדים
- תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
- ממדאני באולטימטום: או שהעשירים ישלמו יותר, או שהארנונה תעלה...
הפעילות בוונצאולה
למרות הזהירות הפומבית, אנתרופיק היא אחת מחברות ה-AI הראשונות שחתמו על הסכמים עם הפנטגון, לרבות עבודה בענן מסווג. לפי דיווחים, המודלים שלה שימשו בין היתר בפעילות ביטחונית הקשורה לוונצואלה. בשלב ראשון השימוש התמקד במשימות עיבוד מידע וסיכום טקסטים.
ביולי 2025 חתמה החברה על הסכם פיילוט עם משרד הדיגיטל וה-AI של הפנטגון, בהיקף בסיסי של 2 מיליון דולר ותקרה של 200 מיליון דולר. בפועל, לפי נתוני בלומברג גוברנמנט, שולמו לה בשנה החולפת כ-2 מיליון דולר בלבד. הכנסות החברה, שמוערכות בקצב שנתי של כ-14 מיליארד דולר, נשענות ברובן על לקוחות מסחריים. עם זאת, אנתרופיק פועלת להרחיב את פעילותה במגזר הציבורי, קיימה אירועים בוושינגטון ואף חתמה על הסכם ראשוני עם מחלקת המדינה.
במערכת הביטחון טוענים כי אין רצון להיות כפופים למדיניות של יזמים פרטיים בעת קבלת החלטות מבצעיות. מנגד, משפטנים מזהירים כי מתן יד חופשית לצבא ללא מנגנוני פיקוח חיצוניים עלול להעמיק סיכונים משפטיים ואתיים.
במקביל לעימות עם אנתרופיק, הפנטגון חתם על הסכם עם xAI של אילון מאסק לשימוש בצ'אטבוט גרוק בענן מסווג, וחידש מגעים עם OpenAI. החברות הללו משתתפות גם באתגר צבאי לפיתוח מערכות לשליטה בנחילי רחפנים אוטונומיים.
העימות הנוכחי אינו מתרחש בחלל ריק. אמודיי מתח ביקורת פומבית על החלטת ממשל טראמפ לאפשר לאנבידיה למכור שבבי AI מתקדמים לסין, והשקיע כספים בקידום רגולציה פדרלית בתחום. במקביל, החברה ניסתה לקרב אליה דמויות המזוהות עם טראמפ. ההתנגשות בין אנתרופיק לפנטגון משקפת ויכוח רחב יותר על גבולות השימוש בבינה מלאכותית בלחימה, ועל השאלה מי יקבע את הכללים - הממשל או החברות שמפתחות את הכלים. ככל שהטכנולוגיה מתקדמת והופכת לחלק אינטגרלי ממערכות הביטחון, המתח הזה צפוי להחריף.
