בינה מלאכותית והשקעות
בינה מלאכותית והשקעות

דוח אמריקאי: ChatGPT, קלוד, ג'מיני וגרוק סיפקו תוכניות לביצוע פיגועים בתוך שעות

בדיקה סמויה של משרד מבקר הקונגרס האמריקאי מצאה כי ניתן לעקוף את מנגנוני הבטיחות של ארבע פלטפורמות ה-AI המובילות באמצעות שיטות מוכרות, ולקבל תוכניות לפגיעה באנשים ובתשתיות חשמל; החוקרים הצליחו בכך בתוך פחות מ-12 שעות בכל מערכת. החברות טוענות שההגנות שופרו מאז, ובסנאט נערכים לקדם חקיקה שתחייב מנגנוני בטיחות מחמירים יותר
אדיר בן עמי |

ארבע פלטפורמות הבינה המלאכותית הנפוצות בעולם, ChatGPT של OpenAI, Claude של אנתרופיק, Gemini של גוגל ו-Grok של ספייס X, הפיקו בניסוי סמוי תוכניות ישימות לביצוע פיגועים בארצות הברית, כל אחת בתוך פחות מ-12 שעות. כך עולה מדוח של ה-GAO, משרד מבקר הקונגרס האמריקאי, שפורסם לציבור ביום רביעי, 18 בנובמבר. הבדיקות נערכו באביב 2026, ובכל המקרים הצליחו החוקרים לעקוף את מנגנוני הבטיחות של המערכות באמצעות שיטות עקיפה מוכרות ונפוצות.

לפי הדוח, שתי פלטפורמות סיפקו מידע לבניית מטען חבלה שנועד לגרום לנפגעים רבים, ושתיים אחרות סיפקו מידע לפגיעה בתחנות משנה של רשת החשמל, באחד המקרים באמצעות רחפן ובשני באמצעות נשק חם, במטרה לגרום לנזק כלכלי. כל ארבע התוכניות הצביעו על יעדים ספציפיים בערים גדולות בארה"ב, ושתיים מהן קבעו תאריך ושעה מדויקים. ה-GAO אימת את ישימות המידע באמצעות מחקר, תצפיות וראיונות עם מומחים, ובהם מפקד יחידת חבלנים במכבי האש של עיר גדולה.

הפרסום מגיע ביום הבכורה של אנתרופיק בבורסה. מניית אנתרופיק, שנסחרת בנאסד"ק תחת הסימול ANT, נפתחה ביום חמישי קצת לפני 19:00 שעון ישראל ב-111.5 דולר, 34% מעל מחיר ההנפקה, ובשעה 19:53 נסחרה ב-98.9 דולר, עלייה של כ-19% ממחיר ההנפקה. מניית ספייס X, בעלת Grok, יורדת באותה שעה ב-4.2% ל-137.5 דולר, ומניית אלפאבית, החברה האם של גוגל, עולה ב-0.2% ל-283.1 דולר. להתפתחויות במסחר: סקירת וול סטריט.

מנגנוני הבטיחות נעקפו בכל ארבע הפלטפורמות

בכל אחד מהמקרים הפעילו הבקשות של החוקרים את מנגנוני ההגנה של הפלטפורמות: חלקן סירבו לבקשות, חלקן מחקו מידע שכבר הופק, ובחלקן הושעו החשבונות. החוקרים עקפו את המנגנונים בשיטות שזמינות לכל משתמש, והניסוי בוצע פעם אחת בכל פלטפורמה. לפי הדוח, משך הזמן להשגת התוצאות עשוי להשתנות לפי הנושא ולפי הניסיון של המשתמש.

ה-GAO מדגיש שהמידע שהתקבל היה זמין קודם לכן במקורות שונים, אך מערכות ה-AI ריכזו אותו לתוכניות שלמות בתוך שעות, במקום שבועות או חודשים. לדברי מחברי הדוח, הטכנולוגיה מאפשרת לגורמים בעלי כוונות זדוניות לפעול מהר יותר ומשלימה פערי ידע אצל מי שחסרה לו מומחיות בתחומים רגישים. מטעמי ביטחון שמר ה-GAO לעצמו את הבקשות שהוזנו למערכות, והפלטפורמות סומנו באותיות, כדי למנוע שיוך של תוצאה מסוימת לחברה מסוימת.

להרחבה: הנפקת שיא לאנתרופיק: 81 מיליארד דולר ב-83 דולר למניה, ואלה המרוויחים

נציגי ארבע החברות מסרו ל-GAO שהן בודקות את המערכות שלהן באופן שוטף, מרחיבות את מנגנוני ההגנה ומפעילות כמה שכבות אבטחה לזיהוי שימוש לרעה. לדבריהן, מאז הבדיקות שופרו המודלים וההגנות. OpenAI מסרה שהבדיקה נערכה על גרסה ישנה של ChatGPT, ושמאז הוטמעו שיפורי בטיחות משמעותיים, בהם במשפחת המודלים GPT-6. קווין וולש, מנהל תחום טכנולוגיות המידע והסייבר ב-GAO, קבע מנגד שבמצבה הנוכחי הטכנולוגיה עלולה להיות מסוכנת, ושהשימוש לרעה בה מהווה סיכון גובר לביטחון הלאומי.

התזמון רגיש במיוחד עבור אנתרופיק, שמציגה את הבטיחות כחלק מרכזי בזהות שלה ובמסר שלה למשקיעים. החברה גייסה בהנפקה 81.3 מיליארד דולר, ההנפקה הגדולה בהיסטוריה, במכירה של 980 מיליון מניות ב-83 דולר למניה, מעל טווח המחירים המקורי של 70 עד 78 דולר. במחיר הפתיחה הגיע שווייה המדולל המלא לכ-2 טריליון דולר.


הסנאט מתכנן דיונים וחקיקה

את הבדיקה ביקשה הסנאטורית הדמוקרטית מגי חסן מניו המפשייר, שצפויה לעמוד בראש ועדת ביטחון המולדת וענייני הממשל של הסנאט. חסן מתכננת לקיים בשנה הבאה דיונים בנושא בטיחות AI ולקדם חקיקה שתחייב את החברות להטמיע, עוד לפני השקת מודלים חדשים, הגנות עמידות בפני שיטות עקיפה כאלה. לדבריה, התחרות העזה בענף דוחפת את החברות להוציא מודלים לשוק מהר ככל האפשר, וכללים אחידים ייצרו תנאים שווים לכל החברות.

הוספת תגובה

תגובות לכתבה:

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה