ה-AI לקראת האיום הגדול ביותר עליו - הרגולציה

מנכ"ל אמזון אנדי ג'סי התקשר, וממשל טראמפ פעל. צו פיקוח היצוא שהוטל על Fable 5 ו-Mythos 5 אינו רק מהלך נקודתי נגד אנתרופיק. הוא מסמן רגע חדש בתעשיית הבינה המלאכותית: הרגולטורים בארה"ב מוכנים לבלום מודלי AI חזקים גם כשהמשמעות היא פגיעה בחברה שנמצאת בדרך לשווי של קרוב לטריליון דולר, ואולי אף מעבר לכך.

 שלושה ימים בלבד. זה כל הזמן שחלף בין השקת Fable 5 ו־Mythos 5, המודלים החזקים ביותר שאנתרופיק שחררה אי פעם לציבור, לבין הצו שהכניס אותם למגירה. ב-12 ביוני שלח שר המסחר האמריקאי, האוורד לוטניק, מכתב רשמי למנכ"ל אנתרופיק דריו אמודאי. לפי המכתב, כל אדם זר - בתוך ארה"ב ומחוצה לה - נחסם מגישה למודלים. החסימה חלה גם על עובדים זרים של אנתרופיק עצמה. אנתרופיק לא יכלה לאכוף את הצו באופן סלקטיבי, ובשעה 17:21 לפי שעון החוף המזרחי השביתה את שני המודלים לכל המשתמשים בעולם. אנתרופיק מרחיבה את הגישה למודל הסייבר מיתוס ל-150 ארגונים בעולם

הצעד החריג הפך בתוך שעות לאירוע מכונן בתעשייה: ממשל אמריקאי משתמש בכלי פיקוח יצוא לא רק כדי להגביל גישה לשבבים, אלא כדי לעצור שימוש במודל AI מסחרי שכבר הושק. ברקע ההוראה עומדת שאלה רחבה יותר, שמטרידה את תעשיית ה-AI כבר זמן רב: עד כמה רחוק יגיע הפיקוח הממשלתי על מודלים מתקדמים. 

ממשל טראמפ כבר בחן בעבר אפשרות לחייב חברות להגיש מודלי AI לבדיקה לפני השקה, וכעת מתברר שההחמרה אינה נשארת רק ברמת הדיון. ככל שהמודלים נעשים חזקים יותר, וככל שהם מסוגלים לבצע פעולות שעשויות לשמש גם לתקיפה, הרגולציה מתחילה להיכנס עמוק יותר אל תוך המוצר עצמו.

 השאלה היא האם בנקודת הזמן הזו המהפכה תתחיל להאט. יש לא מעט מי שתומכים בעצירה או לפחות בהאטה מבוקרת: דווחו מקרים של משתמשים שפיתחו תלות מסוכנת בצ'אטבוטים, אנשים שנפגעו נפשית בעקבות שיחות עם מערכות שהתיימרו לייעץ להם, גורמים שעושים שימוש בכלים כאלה לתקיפת אתרים וגופים שונים, וגם ייצור רחב של תמונות פייק ותוכן מטעה. הבינה המלאכותית היא מהפכה טכנולוגית עם יתרונות עצומים, אבל היא עדיין אינה מרוסנת מספיק. הממשל האמריקאי מציב כעת גבול ברור יותר מול חברות ה-AI. העצירה של אנתרופיק, אחת החברות המתקדמות בתחום, מלמדת שגם לחברות החזקות ביותר אין חסינות כאשר הממשל מזהה סיכון ביטחוני או אסטרטגי.

מנכ"ל אמזון הדליק את הפתיל: כך Fable 5 הפך לתקדים

לפי הדיווחים, חוקרי אמזון השתמשו בסדרת פרומפטים כדי לגרום ל-Fable 5 לייצר מידע שעשוי לאפשר איתור חולשות תוכנה ובניית כלי תקיפה. מנכ"ל אמזון, אנדי ג'סי, העביר את הממצאים ישירות לשר האוצר סקוט בסנט ולבכירים נוספים בממשל. בעקבות זאת כינס הבית הלבן דיון דחוף, ובסופו אישר הנשיא טראמפ את הצעד. להרחבה: וושינגטון מקפיצה את מנכלי הבנקים הגדולים לדיון חירום על מודל הבינה של אנתרופיק

 החוקרים השתמשו בפרומפטים שנועדו להפיק פלט המסייע באיתור חולשות ובהפקת קוד הוכחת היתכנות בתהליך רב־שלבי. לפי הדיווחים, הממצאים נועדו למחקר הגנתי ולא לתקיפה. אנתרופיק עצמה חולקת על חומרת הממצאים שיוחסה למודל, וטוענת כי מודלים אחרים שכבר זמינים בשוק מסוגלים לספק תפוקה דומה.

 אלא שהדיון לא נוגע רק לשאלה אם Fable 5 חזק יותר ממודלים מתחרים. הבעיה העמוקה יותר היא שה-AI, כפי שאנתרופיק עצמה ניסחה בעבר, כבר נעשה טוב מאוד באיתור חולשות בתוכנה. ברגע שמודל מסחרי מסוגל לסייע למשתמשים לאתר נקודות תורפה, לכתוב קוד ולהתקדם בשלבים טכניים מורכבים, הוא הופך מבחינת הממשל לכלי דו-שימושי: כזה שיכול לסייע להגנה, אבל גם לתקיפה.

אמזון נמצאת כאן בעמדה מורכבת במיוחד. מצד אחד, היא משקיעה מרכזית באנתרופיק, מספקת לה תשתיות ענן ושבבים, ונהנית מהצמיחה שלה. מצד שני, כמו ענקיות טכנולוגיה אחרות, היא משתפת פעולה עם הממשל בדיונים רגישים סביב ביטחון, סייבר ובינה מלאכותית. סביר להניח שלא רק אמזון התבקשה להביע עמדה, והממשל קיבל חוות דעת גם מגופים נוספים לפני קבלת ההחלטה. להרחבה:  מודל הסייבר של אנתרופיק מטלטל את השוק: יותר חולשות נחשפות והעומס גדל

• Fable 5 עולה כפול מהמודל הקודם: מי מרוויח מהתמחור החדש של אנתרופיק?
• ChatGPT הגיע למיליארד משתמשים חודשיים - המתחרות צומחות פי 10

הרגע שבו הרגולציה הפכה לכלי עצירה אמיתי

אנתרופיק בנתה את המותג שלה על אזהרות מפני הסכנות של בינה מלאכותית ועל קריאה לרגולציה. אמודאי חזר על המסרים האלה שוב ושוב, וגם שבועות ספורים לפני האירוע קרא למעורבות ממשלתית עמוקה יותר. אלא שכאשר הממשלה עשתה בדיוק את מה שאנתרופיק דרשה עקרונית - החברה שלו הייתה הראשונה לשלם את המחיר. 

הצו עצמו הוא תקדים עולמי. ממשלת ארה"ב הפעילה לראשונה את מנגנון פיקוח היצוא לא נגד שבבים המשמשים לאימון מודלים, אלא נגד מודל AI מסחרי פעיל. מדובר במודל שכבר היה בשימוש לקוחות, ובהם ממשלות ממדינות ברית, בין היתר לצורך איתור חולשות בתשתיות קריטיות. השאלה הגדולה שרגולטורים מתמודדים איתה כבר תקופה ארוכה היא כיצד מפקחים על טכנולוגיה שמתפתחת מהר יותר מהמסגרת המשפטית. הצו נגד אנתרופיק מספק תשובה ברורה: כאשר הכלים הרגולטוריים החדשים עדיין לא מוכנים, הממשל ישתמש בכלי בלימה ישנים ומוכרים - גם אם הם נועדו במקור לעולמות אחרים לגמרי. עד עכשיו, מרוץ החימוש של חברות ה-AI דחק לא פעם את שיקולי הבטיחות לשוליים. 

כל חברה שבלמה את עצמה הסתכנה באובדן לקוחות, מפתחים ומשקיעים לטובת מתחרה אגרסיבית יותר. כעת ממשל ארה"ב, שבחר עד כה במידה רבה בגישה של מתן חופש פעולה לשוק, מראה שהוא מוכן להתערב. אם פיקוח היצוא הופך בפועל ל-FDA של עולם ה-AI, ואם כל מודל חזק מספיק יכול להפוך למושא של צו ממשלתי, החברות לא יוכלו עוד להתעלם מהסיכון הרגולטורי. השקת מודל חדש לא תהיה רק החלטה טכנולוגית או עסקית, אלא גם החלטה משפטית, ביטחונית ומדינית.

מעל טריליון דולר בהנפקה - ועכשיו גם סיכון רגולטורי כבד

אנתרופיק גייסה בסבב H שהסתיים במאי 2026 לפי שווי של 965 מיליארד דולר, ונערכת להנפקה בוול סטריט לפי שווי שעשוי לעלות על טריליון דולר. קצב ההכנסות השנתי של החברה קפץ מ-87 מיליון דולר בינואר 2024 ל-47 מיליארד דולר כיום, בעיקר בזכות Claude Code, שהפך לאחד ממנועי הצמיחה המרכזיים שלה.

החסימה מגיעה עבורה בעיתוי רגיש במיוחד. חברה שנערכת להנפקה צריכה להציג למשקיעים סיפור צמיחה יציב, מוצר מוביל ושוק מתרחב. במקום זאת, אנתרופיק עלולה להיכנס לתשקיף עם משפט בעייתי במיוחד: מוצר הדגל שלה הורד מהמדף בעקבות צו ממשלתי. לקוחות שרכשו גישה ל-Fable 5 ו-Mythos 5 כבר מקבלים החזרי תשלום. 

• תקלה נרחבת במטא: משתמשים בפייסבוק, אינסטגרם ו-WhatsApp מדווחים על שיבושים
• ביהמ"ש מבהיר לגוגל: תשובת AI שגויה עלולה לעלות לה

מבחינה עסקית, זו אינה רק פגיעה בהכנסות קצרות טווח, אלא גם פגיעה באמון. לקוחות ארגוניים, ובעיקר גופים ממשלתיים, לא אוהבים להסתמך על מוצר שעלול להיחסם בהחלטה רגולטורית פתאומית. המתחרות, ובראשן OpenAI, שמפתחת גם היא יכולות AI לעולמות הסייבר, עשויות ליהנות מנזילת לקוחות אם החשש הזה יתעצם. להרחבה: OpenAI רוצה להפוך את ChatGPT מצ'אטבוט למערכת עבודה מלאה

לאנתרופיק יש אינטרס ברור להחזיר את המודלים לאוויר מהר ככל האפשר. השאלה היא באילו תנאים הממשל יאפשר זאת: האם יידרשו מגבלות גישה מחמירות יותר, בדיקות בטיחות חדשות, הפרדה בין משתמשים אמריקאים וזרים, או מנגנון רישוי למודלים חזקים במיוחד.

 מעבר לכך, ההחלטה האמריקאית תיבחן גם מחוץ לוושינגטון. ממשלות אחרות, באירופה, באסיה ובמזרח התיכון, יראו כיצד ארה"ב משתמשת בפיקוח יצוא כדי לעצור מודל AI פעיל, וישאלו מתי הן עצמן ירצו להשתמש בכלי דומה. עבור תעשיית הבינה המלאכותית, זהו אולי האיתות החשוב ביותר: עידן ההשקות החופשיות, שבו מודל חזק יוצא לשוק ורק אחר כך מתבררים הסיכונים שלו, מתחיל להיסגר.