חוקרי אבטחת מידע דרום קוריאניים חשפו השבוע מקרה בו קבוצת האקרים צפון קוריאנית השתמשה ב-ChatGPT ליצירת תעודת זהות צבאית מזויפת. המסמך המזויף שימש במסגרת התקפת סייבר שכוונה נגד יעדים בדרום קוריאה. המקרה מצטרף למגמה גוברת של שימוש בכלי בינה מלאכותית לפעילות ריגול.

קבוצת האקרים הידועה בשם "קימסוקי" יצרה מסמך מזויף של תעודת זהות צבאית דרום קוריאנית. המסמך היה אמור להפוך הודעת פישינג לאמינה יותר. ההודעה הכילה קישור לתוכנה זדונית המסוגלת לחלץ מידע ממחשבי הקורבנות. זו אינה הפעם הראשונה שצפון קוריאה עושה שימוש בבינה מלאכותית למטרות כאלה. באוגוסט דיווחה חברת אנתרופיק כי האקרים צפון־קוריאנים השתמשו בכלי Claude Code כדי להתחזות לעובדי טכנולוגיה ולהתקבל לעבודה בחברות אמריקניות, שם ביצעו משימות טכניות לאחר שהתקבלו.

OpenAI מסרה בפברואר כי חסמה חשבונות חשודים של גורמים מצפון קוריאה. לפי החברה, המשתמשים יצרו קורות חיים ומכתבי פנייה מזויפים כדי לגייס עובדים למיזמים שלהם. במקרה האחרון כוונו ההתקפות לעיתונאים, חוקרים ופעילי זכויות אדם העוסקים בנושאי צפון קוריאה. ייתכן שהנפגעים נבחרו בשל עיסוקם בפרסום מידע על המשטר.

הממשל האמריקני טוען כי צפון קוריאה משתמשת בהתקפות סייבר, בגניבת מטבעות דיגיטליים ובשירותי קבלנות טכנולוגית כדי לאסוף מידע ולממן את תוכניותיה, לרבות פיתוח נשק גרעיני, ובכך לעקוף סנקציות.

• דרך ה-SharePoint: האקרים סינים חדרו כמעט עד לתכנית הגרעין האמריקאית
• האם האקר AI טוב יותר מהאקר אנושי? על הסטארט אפ שגייס 75 מיליון דולר
• המלצת המערכת: כל הכותרות 24/7

במהלך המחקר, החוקרים ביצעו ניסוי כדי להבין איך נוצר המסמך המזויף. כאשר ביקשו מ-ChatGPT ליצור תעודת זהות ממשלתית - פעולה הנחשבת בלתי חוקית בדרום קוריאה - המערכת סירבה לבקשה. אולם כשהם שינו מעט את אופן ניסוח הבקשה, המערכת הסכימה ליצור את המסמך הרצוי. הממצא מעלה חששות לגבי הקלות שבה ניתן לעקוף מנגנוני הבטיחות של כלי בינה מלאכותית ולנצל אותם למטרות זדוניות. זה מדגים פער בין המדיניות המוצהרת של חברות הטכנולוגיה לבין היכולת הפרקטית לאכוף אותה.

דוחות חדשים של Anthropic ו-OpenAI מאשרים לנו את מה שכל אחת ואחד מאיתנו רואה בעצמנו, וזה שהשימוש ב-AI חודר בקצב מסחרר אל שוק העבודה והחיים האישיים. בארצות הברית כבר כ-40% מהעובדים מדווחים שהם עושים שימוש יומיומי בכלי AI כלשהו, שיעור כפול מזה שנמדד רק לפני שנתיים. עוד עולה מהדוחות כי המגמה אינה אחידה: חלק מהתחומים, המדינות והקבוצות החברתיות מאמצים את הטכנולוגיה בקצב מהיר בהרבה מאחרים, מה שמעלה חששות להעמקת פערים קיימים.

מבחינת תחומי השימוש, בתחום התכנות, הזירה הטבעית ביותר לאימוץ AI, ו-36% מכלל השימושים הוא בתיכנות. באנתרופיק מדווחים על ירידה של כ-3% בפרומפטים שעוסקים בתיקון באגים והכפלה בשימוש ליצירת קוד חדש ולבניית תוכנות שלמות. ניתן לפרש את הנתון כשמשקף גם שיפור בביצועי המודלים וגם עלייה באמון המשתמשים. 

תחום החינוך עלה מ-9% ל-12% בכלל הפרומפטים והפך לסקטור השני בגודלו: יותר ויותר מורים וסטודנטים עושים שימוש בקלוד בהכנת חומרי לימוד, בהסברים ובסיוע בכתיבת עבודות. תחום המדע גם הוא עולה, בעיקר במשימות של סינתוז ידע ומחקר ראשוני. לצד זאת, תחומי עסקים וניהול דווקא רשמו ירידה מ-6% ל-3% ו-5% ל-3% בהתאמה, מה שמרמז שהשימוש האינטנסיבי יותר מתרחש דווקא בעולמות ידע ויצירה.

ישראל אלופת העולם בשימוש בקלוד  

נתוני אנתרופיק מצביעים על ישראל כאלופה עולמית עם מדד שימוש גבוה פי 7 מהממוצע הגלובלי, אחריה סינגפור (פי 4.6) ואוסטרליה (פי 4.1). מדינות מתפתחות מציגות שימוש נמוך במיוחד, ולמשל הודו, אינדונזיה וניגריה עם פחות מחמישית מממוצע השימוש העולמי, והפעילות בהן מתרכזת כמעט אך ורק בכתיבת קוד. בארה"ב, קליפורניה מובילה בכמות מוחלטת, אך וושינגטון די.סי. ויוטה מובילות ביחס לגודל האוכלוסייה. דבר נוסף שבולט הוא סוג השימוש בהתאם לאזור הגיאוגרפי ולאופי הכלכלה המקומית, כשבפלורידה מתמקדים בפיננסים בפלורידה, בקליפורניה ב-IT ובבירה, וושינגטון די.סי, מתמקדים בעריכת מסמכים. בנוסף לגיאוגרפיה, גם החתכים הדמוגרפיים מראים מגמה "נורמלית" באימוץ טכנולוגיות חדשות, כשהצעירים הם המובילים באימוץ ושיעורי השימוש שלהם עולים בקצב מהיר, בעוד שהפער המגדרי שניכר בתחילת הדרך הולך ומצטמצם.

• האקרים מצפון קוריאה השתמשו ב-ChatGPT לייצור תעודת זהות מזויפת
• הנחת הענק חושפת: מהפכת ה-AI עומדת להוזיל דרמטית את שירותי התוכנה
• המלצת המערכת: כל הכותרות 24/7

המשמעות הכוללת ברורה: הבינה המלאכותית מתפשטת במהירות חסרת תקדים, אך האימוץ מתרחש באופן לא שוויוני, הן בין מדינות והן בין קבוצות אוכלוסייה. ישראל ממוקמת כיום בחזית האימוץ, מה שמעניק לה יתרון כלכלי וידע משמעותי, אך במקביל מחדד את החשש מפני פערים גלובליים שצפויים להתרחב אם קצב האימוץ במדינות מתפתחות לא יתגבר.